BricksLLM：一款云原生的AI网关
talkingdev • 2023-12-13
1171222 views
近日，一款云原生的AI网关——BricksLLM，引起了广泛关注。这款使用Go语言编写的AI网关可以作为OpenAI的代理，并允许用户创建具有速率限制、成本限制和TTL的API密钥。BricksLLM是一个开源项目，可在GitHub上找到。它的设计旨在帮助企业更好地控制AI资源，从而更好地管理成本和性能。
核心要点
- BricksLLM是一款云原生的AI网关，使用Go语言编写
- BricksLLM作为OpenAI的代理，允许用户创建具有速率限制、成本限制和TTL的API密钥
- BricksLLM是一个开源项目，旨在帮助企业更好地控制AI资源，从而更好地管理成本和性能