大多数音频生成技术使用扩散或自回归模型来生成声音。而这项研究并不使用多步骤或复杂的Transformer。相反，它使用了一个掩码语言模型来生成音频令牌。

Unsloth是一个轻量化库，可加速语言模型的微调。它现在可以轻松地与TRL在常见的模型架构上配合使用。Unsloth库通过一个简单的API使得模型训练和微调更快速。它可以帮助从训练数据中自动学习、优化和微调模型，使得模...

研究人员开发了一种新的多学科协作框架，以提高大型语言模型在医学领域的理解和推理能力。这种方法涉及到AI代理，扮演一起分析、讨论和达成共识的医学主题的角色扮演游戏。

Portkey AI最近开源了LLM Gateway，实现了多个不同语言模型之间的路由。这个开源项目旨在简化在不同的语言模型之间进行选择和路由的过程，从而更好地利用不同模型的优势，提高语言模型的整体性能。 LLM Gateway是一...

去年最好的编码模型之一是DeepSeek LLM。它在许多基准测试中接近GPT-3.5（即使它可能是3倍大小）。有关模型训练，令牌计数，模型架构等的信息已在技术报告中发布。DeepSeek LLM是一种基于语言模型的编码器，它使用自...

LLaVA-Phi是一款创新的多模态助手，它使用Phi-2语言模型。尽管参数只有2.7B，但LLaVA-Phi在多模态对话中表现出色，结合了文本和视觉。该助手可以在多个领域内使用，例如智能家居和自动驾驶等。

这项项目介绍了一种方法，可以适应各种任务的类似CLIP的视觉语言模型，同时保留其泛化能力。该方法从LLM数据中学习提示，避免了需要标记图像的需求。

最新的研究表明，在语言模型中添加新的模块并在另一个任务上进行调整，可以防止丢失知识。这在代码和语言任务中都有体现。