Haystack，一款在GitHub上拥有10,785颗星的开源项目，提供了快速设计和构建可扩展、API驱动的LLM后端所需的一切工具。此开源框架的主要功能是可以帮助开发人员快速构建出高效且可靠的应用程序。通过使用Haystack，开...

Anyscale近日发布了Endpoints，这是一种允许开发者使用流行的LLM API将快速、高效、可扩展的LLM集成到他们的应用程序中的工具。同时，该公司还宣布了与NVIDIA的新整合，以提升在Ray上的LLM的性能和开发，Ray是Anysca...

最近发布的GitHub仓库为开发者提供了一份详尽的指南，指导如何构建基于RAG（Retrieval Augmented Generation）的LLM（Language Learning Machine）应用程序。该指南详细介绍了从设计到实施的全过程，包括选择合适的...

为了使端到端加密的Web应用程序更加完整/可靠/可审计，与其尝试隔离应用程序代码中的明文，不如改善代码的完整性/可靠性/可审计性。

Nvidia在人工智能领域的领先地位远非稳固。它目前的优势主要是因为几乎没有人在运行大型机器学习应用程序，竞争对手还没有成熟，研究人员拥有购买力，以及关注于模型训练方面。但在不久的将来，使用CPU进行推理将会...

NGINX Unit是一个通用的Web应用程序服务器，它可以为静态媒体资产提供服务，并在七种语言中运行应用程序代码。它旨在成为任何Web架构的通用构建模块。NGINX Unit的本地RESTful JSON API允许进行零中断的动态更新和灵...

Bun是一个全能工具包，可用于运行、构建和调试JavaScript和TypeScript。现在推出了1.0版本。Bun是Node.js的替代品，具有esbuild兼容的插件API的JavaScript打包器。它还可以作为npm兼容的包管理器和Jest兼容的测试运...

本文讨论如何构建和扩展使用大型语言模型的应用程序。GitHub花费了三年时间，从想法到生产，开发了GitHub Copilot。该团队制定了一个三阶段计划进行开发：他们确定了LLM应用的有影响力的问题空间，创建了流畅的AI产...