漫话开发者 - UWL.ME 精选全球AI前沿科技和开源产品
2023-08-08 talkingdev

MiniChain-强大的开源AI链式调用工具

MiniChain是一款可能是对于原型设计和生产都非常有用的链式工具。该工具巧妙地利用函数装饰器和YAML模板来实现链式操作,强大而高效。例如,你只需要20行代码,就可以编写一个聊天机器人,向量数据库等等。这是一款...

Read More
2023-06-29 talkingdev

自己的数据上评估LLM的性能

语言模型的性能通常是在一个非常小的筛选数据集上进行评估的。这些数据的分布往往从生产环境中大大简化。使用自我监督评估,您可以使用自己的数据集来评估这些模型。您甚至可以使用从生产环境中流入的数据。

Read More
2023-06-12 talkingdev

Lanarky用于在生产环境中部署LLM应用de开源框架发布

Lanarky是一款开源框架,可用于在生产环境中部署LLM应用程序。 ## 主要内容: - Lanarky是一款开源框架,旨在简化LLM应用程序的部署过程。 - 该框架具有易于使用的界面,可帮助用户快速设置和管理应用程序的生产环...

Read More
2023-05-29 talkingdev

构建LLMs时,谁也没有谈论的难点

在自然语言处理领域,语言模型是一种具有高潜力的新工具。然而,它们面临一系列具有挑战性的问题,这使得它们难以在生产环境中部署。本文讨论了提示可靠性、监控等方面的问题,为您展示了在应用程序中部署语言模型所...

Read More
2023-04-19 talkingdev

OctoML推出按需计算服务,支持生产环境中的生成式AI模型

OctoML正在构建一个计算层,可以像OpenAI一样易于使用,但灵活性更高,可以在任何云上运行。该服务的目标是使开发最新的生成式AI模型的应用程序变得简单:选择您的模型,启动模型服务API,并在成本最优的计算资源上...

Read More
  1. Prev Page
  2. 1
  3. 2
  4. 3