本文讨论如何构建和扩展使用大型语言模型的应用程序。GitHub花费了三年时间,从想法到生产,开发了GitHub Copilot。该团队制定了一个三阶段计划进行开发:他们确定了LLM应用的有影响力的问题空间,创建了流畅的AI产...
Read MoreLangFuse是一种为LLM(低延迟的消息)应用设计的开源可观察性和分析解决方案。它主要针对生产环境使用,但也有一些用户在本地开发他们的LLM应用时使用。LangFuse的主要目标是提供实时的、深入的、可操作的见解,以帮...
Read MoreParea AI是一个开发者工具包,专门用于调试和监控LLM应用。用户可以以版本化的方式实验提示和模型配置。在较大规模上,使用自定义的Python评估指标来评估提示。通过API监控LLM应用,并在仪表板上查看分析数据。Parea...
Read MoreZep是一个开源工具,可以让开发者轻松地为他们的LLM应用添加相关文档,聊天历史记录以及丰富的用户数据。这些功能的添加将极大地提升应用的用户体验。Zep强大的特性使得开发者可以更好地理解用户的需求,通过分析用...
Read MoreLLMFlows是一个用于构建LLM应用的框架。它提供了一套抽象,利用LLMs和向量存储来构建应用,无需隐藏提示或在LLM调用背后。LLMFlows通过确保每个组件的完全透明性,使开发过程更加简单。
Read More近日,LangChain宣布推出LangSmith平台,旨在帮助开发者将LLM应用从原型阶段推向生产。LangSmith平台提供了调试、测试、评估和监控等功能,致力于解决LLM应用开发者面临的常见难题。随着人工智能和机器学习技术的不...
Read MoreGitHub上的DemoGPT被誉为最有实力的代理之一。通过DemoGPT,用户可以迅速将单一的提示转变为Gen-AI应用。DemoGPT的高级设计能够生成代码,进行测试,并逐步推进项目的开发,确保效率和无错误的开发。你对DemoGPT感到...
Read MoreLlamaIndex发布了0.7.0版本,旨在改进库的模块化和可定制性。新版本包括独立的OpenAI、HuggingFace和PaLM LLM抽象,允许用户独立使用响应合成模块,并为文档/节点对象提供了增强的元数据管理。此更新旨在增强LLM应用...
Read More