由GitHub开源项目REVERSE提出的创新性解决方案，为视觉语言模型(VLM)的幻觉问题提供了突破性进展。该项目构建了一个完整的训练与推理管道，使VLM能够自主检测并修正其输出中的幻觉内容。该技术通过建立内部一致性验...

AI可解释性领域领军企业Goodfire近日宣布完成5000万美元A轮融资。该公司在稀疏自编码器（SAEs）等机械可解释性技术上具有深厚积累，致力于通过与闭源及开源模型提供方的深度合作，系统性地解析、引导和控制AI模型的...

加州大学圣克鲁兹分校视觉、语言与行为实验室（VLAA）在GitHub开源了MedReason项目，这是一个专为提升大语言模型（LLM）医疗推理能力构建的大规模数据集。该数据集通过结构化临床案例、医学知识图谱和多模态数据，旨...

随着人工智能技术的飞速发展，大型语言模型（LLM）的复杂性和能力不断提升，但其内部决策过程仍被视为“黑箱”。近日，研究人员通过先进的追踪技术，成功揭示了LLM在生成文本时的思维路径。这一突破不仅有助于提升模型...

近日，GitHub上发布了一个名为CoT-UQ的创新框架，该框架旨在为大型语言模型（LLM）提供响应层面的不确定性量化。CoT-UQ通过集成链式思维（Chain-of-Thought, CoT）推理，能够更精确地评估模型在生成响应时的置信度。...

近日，Reqo推出了一款全新的查询优化模型，该模型结合了双向图神经网络（Bi-GNN）与概率机器学习（ML）技术，旨在提升查询成本估算的准确性。与传统方法不同，Reqo引入了一种创新的可解释性技术，能够突出查询子图的...

在深度学习领域，尤其是在自然语言处理和代码生成任务中，大型语言模型（LLM）发挥着至关重要的作用。近期的研究趋势显示，通过复制和学习各大顶尖代码助手的最佳实践，可以显著提升代码生成模型的性能和准确性。这...

2024年对于LLM（大型语言模型）而言是充满突破的一年。在这一年中，我们学到了关于LLMs的许多新知识，这不仅推动了人工智能的发展，也为未来的技术应用奠定了基础。首先，我们发现LLMs的参数规模和训练数据量显著增...