LLM Sherpa（GitHub Repo）提供了一组战略API，使得大型语言模型应用能够更加高效地运行。这些API提供了强大的功能，可以大大加速自然语言处理、机器翻译和对话系统等应用。LLM Sherpa也提供了一些基于Python的示例...

这些模板是一组参考架构，适用于各种流行的LLM用例，是构建生产就绪的LLM应用程序最简单和最快速的方法。

本篇博客旨在为读者提供构建第一个LLM应用程序所需的一切知识。它还介绍了一些读者今天可以开始探索的问题空间。本博客涵盖了LLM应用程序的新兴架构以及LLM的现实影响。提供了进一步阅读的资源。

你的AI应用需要从其他API获取数据，你将如何得到它？大多数开发者都会费力地通过脚本和众多文档页来建立一个两周后就可能出故障的流水线。如果你能在没有API问题的情况下，以10倍的速度构建复杂的自动化工作流，你会...

最近发布的GitHub仓库为开发者提供了一份详尽的指南，指导如何构建基于RAG（Retrieval Augmented Generation）的LLM（Language Learning Machine）应用程序。该指南详细介绍了从设计到实施的全过程，包括选择合适的...

本文讨论如何构建和扩展使用大型语言模型的应用程序。GitHub花费了三年时间，从想法到生产，开发了GitHub Copilot。该团队制定了一个三阶段计划进行开发：他们确定了LLM应用的有影响力的问题空间，创建了流畅的AI产...

LangFuse是一种为LLM（低延迟的消息）应用设计的开源可观察性和分析解决方案。它主要针对生产环境使用，但也有一些用户在本地开发他们的LLM应用时使用。LangFuse的主要目标是提供实时的、深入的、可操作的见解，以帮...

Parea AI是一个开发者工具包，专门用于调试和监控LLM应用。用户可以以版本化的方式实验提示和模型配置。在较大规模上，使用自定义的Python评估指标来评估提示。通过API监控LLM应用，并在仪表板上查看分析数据。Parea...

Zep是一个开源工具，可以让开发者轻松地为他们的LLM应用添加相关文档，聊天历史记录以及丰富的用户数据。这些功能的添加将极大地提升应用的用户体验。Zep强大的特性使得开发者可以更好地理解用户的需求，通过分析用...

LLMFlows是一个用于构建LLM应用的框架。它提供了一套抽象，利用LLMs和向量存储来构建应用，无需隐藏提示或在LLM调用背后。LLMFlows通过确保每个组件的完全透明性，使开发过程更加简单。