OpenLLMetry-JS是建立在OpenTelemetry之上的一组扩展，为开发人员提供了完整的LLM应用程序可观测性。它可以连接到现有的可观测性解决方案。OpenLLMetry-JS可以对OpenTelemetry已经仪表化的一切进行仪表化。此外，它...

Llmware是一个统一的框架，用于开发基于LLM的应用程序模式，包括检索增强生成。它提供了一个通用的API，使得开发人员能够轻松地使用不同的LLM模型和数据集。Llmware还为开发人员提供了一组可自定义的工具，用于自动...

Enchanted 是一个开源的 iOS 应用，它允许你在移动设备上运行语言模型。该应用能够快速地识别语音和文本并进行分类，是一个非常有用的工具。这个项目的代码已经在 GitHub 上公开，并且允许开发者自由调整和使用。

本文讨论不依赖于基准数据的评估指标。文章探讨了通用的以及特定于RAG、聊天机器人和摘要的评估方法。所有指标都附带Python实现。

本文旨在总结2023年人工智能发展的亮点。它涵盖了如何在个人设备上运行LLMs、微调模型、易受骗问题、LLM应用等方面。LLMs可以为有效使用它们的人提供显著的生活品质提升。它们实际上相当容易构建，但仍有许多未知数...

本文总结了2023年人工智能发展的亮点，包括如何在个人设备上运行LLM，微调模型，易受欺骗的问题，LLM应用等等。LLM可以为有效使用它们的人提供显著的生活质量提升。它们实际上相当容易构建，但仍有很多未知数，对于...

DeepEval是一款全能的LLM应用评估框架，可让用户轻松识别和迭代不令人满意的LLM输出。它目前提供了14+种评估指标，如幻觉、摘要、G-Eval、RAGAS等，供用户以Pytest样式或组件化方式评估整个数据集。

开发LLM应用程序是一回事，成功在生产环境中部署它们是另一回事。本文通过剖析复杂性，为开发人员提供指南，帮助他们将LLM应用程序从开发环境转换到严峻的生产环境，最大限度地提高准确性。在生产环境中，LLM应用程...

LLM Sherpa（GitHub Repo）提供了一组战略API，使得大型语言模型应用能够更加高效地运行。这些API提供了强大的功能，可以大大加速自然语言处理、机器翻译和对话系统等应用。LLM Sherpa也提供了一些基于Python的示例...

这些模板是一组参考架构，适用于各种流行的LLM用例，是构建生产就绪的LLM应用程序最简单和最快速的方法。