研究人员近日推出了一种名为DoLa的新方法，该方法能够帮助大型语言模型（例如与您进行聊天或撰写文章的模型）停止编造内容，而专注于事实。DoLa采用一种智能的方式比较模型内部的不同层次，以过滤出错误的信息。这是...

像GPT-3这样的大型语言模型之所以聪明，是因为它们从大量数据中学习。那么，当新的信息与它们已经知道的信息冲突时，它们会如何反应呢？研究人员发现，这些模型可能会感到困惑，并给出错误的答案，尤其是当它们面临...

通常情况下，语言模型的输入和输出嵌入层是捆绑在一起的。然而，如果您将输入嵌入与模型内部的其他嵌入捆绑在一起，并使用对比损失，您可以在实际运行时间和最终基准准确度上获得显著改善的性能。这种方法的关键在于...

IBM近日发布了一系列混合专家模型（Mixture-of-Experts，MoE），并公开了它们的架构和部分代码。MoE模型是一种稀疏模型，意味着在不牺牲准确性的情况下，可以节省计算资源。然而，训练这种模型却颇具挑战性。这次IBM...

对齐技术有助于使语言模型更有用且无害。虽然有时可能会损害性能，但总的来说，这是一项正面的技术。对齐是昂贵的，需要大量的对齐数据。然而，如果您允许模型在生成后评估自身的输出并进行回溯，它可以提高冻结模型...

MLPerf发布了两个基准测试套件的结果：MLPerf Inference v3.1和MLPerf Storage v0.5。前者显示了创纪录的参与度和性能提升，后者评估了机器学习训练工作负载的存储系统性能。推理基准测试套件引入了一个大型语言模型...

Patronus AI近日宣布获得由Lightspeed领投的300万美元种子轮融资，该团队计划构建真实世界评分体系，以帮助企业理解LLMs（大型语言模型）的实用性。在当前，大型语言模型在企业中的应用越来越广泛，然而，将其真正落...

ExLlamaV2是一个在GitHub上开源的项目，它是为现代消费级图像处理单元（GPU）上运行本地语言模型（LLMs）而设计的推理库。这款推理库的出现，可以帮助用户在个人电脑上使用现代GPU进行深度学习模型的推理计算，而无...