近日，GitHub上出现了一个名为Memary的新项目。该项目允许Agent在知识图谱中存储大量信息，通过我们的记忆模块推断用户知识，只检索与结果相关的信息。Memary的核心是其强大的知识图谱，这是一种可以存储和组织大量...

近日，一款名为Mistral.rs的LLM推理平台在GitHub上备受关注。它可以支持多种设备上的推理，支持量化，并且具有易于使用的应用程序，带有OpenAI API兼容的HTTP服务器和Python绑定。无论是在深度学习推理、设备兼容性...

近日，Ruff的开发团队发布了一款名为Whisper cpp cli的全新语音识别系统，该系统已在GitHub Repo上开源。这是一款完全自主研发的语音转文字系统，基于Whisper技术构建。Ruff团队一直以创新技术和高品质服务闻名于业...

星际编程2 15B模型是一款在合成数据和人类数据上进行训练的人工智能模型。该模型在humaneval测试中获得了72.6的高分，表现出色。开发者在训练过程中不仅展示了他们的数据管道复制能力，还提供了将合成数据应用于其他...

浮点精度的降低能够提高训练速度，但可能会导致不稳定的现象。最新的研究论文展示，通过新的装包格式FP6-LLM，可以在不引发常见不稳定性或由于尝试不当引发的训练速度下降的情况下，实现全张量核心的利用。这一突破...

近日，与Hugging Face团队相关联的研究者们，训练并评估了一种名为JAT（Jack-of-All-Trades）的模型，这是一种全面任务模型，能在各种不同的任务上表现出相当的效果。此模型的出现，为深度学习领域的多任务学习提供...

OpenAI最近为ChatGPT Plus用户推出了一项新的“记忆”功能，允许AI在对话中保留信息。用户可以通过设置管理这些信息。这项新功能大大提高了ChatGPT Plus的用户体验，使其在与AI进行交流时更具连贯性和个性化。此外，这...

Effort引擎为Apple硅芯片上的LLM模型推断提供了实时调整的可能，从而在速度和质量之间找到了平衡。这种方法无需重新训练，但需要转换和预计算，可以通过加载更少的权重使模型运行得更快。开发者正在寻求Swift/Metal...