OpenLM是一个专为训练最多可达70亿参数的中等规模语言模型设计的库和框架。它的设计理念是注重GPU速度和可修改性。作为收敛性验证，已经有在1.25T标记上训练的模型可供使用。这种新型的框架和库能够更好地满足中等规...

Minum是一款极简实验性Web框架。它具有带有磁盘持久化的内存数据库、服务器端模板、日志和测试框架、HTML解析等功能。 Minum的编译大小只有150千字节，其中包括必需的依赖项在内，生产代码仅有3,757行。

最新版本的Flash Attention在提升模型上下文长度和性能的同时，其速度也得到了极大的提升。目前，Flash Attention正在被HuggingFace生态系统本地化支持的过程中。Flash Attention的升级不仅仅提升了模型的运算速度，...

Haystack，一款在GitHub上拥有10,785颗星的开源项目，提供了快速设计和构建可扩展、API驱动的LLM后端所需的一切工具。此开源框架的主要功能是可以帮助开发人员快速构建出高效且可靠的应用程序。通过使用Haystack，开...

稳定扩散是一种复杂的技术，其可大幅度提高生成质量，而无需进行额外的训练。这是通过巧妙地调整权重和在UNet中扩大残差来实现的。具体的代码将在不久后公布。UNet是一种广泛应用于图像分割的深度学习框架，其独特的...

Anyscale近日发布了Endpoints，这是一种允许开发者使用流行的LLM API将快速、高效、可扩展的LLM集成到他们的应用程序中的工具。同时，该公司还宣布了与NVIDIA的新整合，以提升在Ray上的LLM的性能和开发，Ray是Anysca...

Raylene Yung 在 2011 年成为了 Facebook 的工程经理。接下来，她加入了 Stripe 团队，观察着这家公司在接下来的四年里从 200 名员工增长到超过 1,500 名员工。Yung 建立了 Stripe 的产品管理团队，定义了职业发展和...

ragas是一个框架，它可以帮助你评估你的检索增强生成（Retrieval Augmented Generation，简称RAG）管道，这是一类使用外部数据来增强LLM（语言模型学习）上下文的应用程序。RAG管道是近年来人工智能领域的重要研究方...