最近发布的GitHub仓库为开发者提供了一份详尽的指南，指导如何构建基于RAG（Retrieval Augmented Generation）的LLM（Language Learning Machine）应用程序。该指南详细介绍了从设计到实施的全过程，包括选择合适的...

微软近日开源了一种名为EvoDiff的新型人工智能模型。该公司声称，只需给定一个蛋白质序列，这种AI模型就能生成高保真度、多样性的蛋白质。EvoDiff模型标志着人工智能技术在生物信息学领域的重大突破和应用。微软通过...

JPEG图像无处不在，但由于在训练过程中无法轻松调整，所以它们与深度学习的兼容性并不好。这个项目回顾了现有的解决方案，并提出了一种新的方法，可以解决这些问题，使JPEG图像完全可调整且与深度学习系统兼容。JPEG...

ExLlamaV2是一个在GitHub上开源的项目，它是为现代消费级图像处理单元（GPU）上运行本地语言模型（LLMs）而设计的推理库。这款推理库的出现，可以帮助用户在个人电脑上使用现代GPU进行深度学习模型的推理计算，而无...

近日，GitHub在其官方库中发布了一款全新的技术产品——Whisper Turbo。该产品被设计为OpenAI Whisper API的替代品，主要用于提供语音转录服务。最引人注目的是，Whisper Turbo的转录速度是OpenAI Whisper API的20倍。...

语言模型推理通常较慢，因为这些模型的运行严重依赖内存。为了解决这一问题，人们引入了使用较小的草稿模型进行推测性解码，以“提前”提供给大模型的建议。这种方法效果不错，但实现起来复杂，且寻找一个好的草稿模型...

近日，GitHub发布了名为PointLLM的新工具，该工具的主要功能是帮助语言模型理解3D对象，而非仅限于文本和2D图像。这一工具的出现，标志着语言模型在处理和理解更为复杂的三维信息方面迈出了重要一步，这将极大地推动...

随着技术的成熟，WebAssembly的热度逐渐降低。现在，WebAssembly已经足够好，可以在很多生产场景中使用，包括基于浏览器的模型部署。Web AI是一个GitHub仓库，它允许在浏览器中运行现代深度学习模型，这标志着WebAss...