一项突破性研究通过对比模型在随机数据（无法泛化）和真实文本上的训练表现，开发出区分记忆与泛化的新方法。研究发现，模型会先记忆训练数据直至容量饱和，随后转向学习通用模式。以GPT类Transformer为例，每个参数...

随着人工智能模型复杂度呈指数级增长，可解释性研究已成为保障AI系统安全可靠的核心议题。斯坦福大学研究员Dario Amodei在最新论述中指出，当前Transformer架构的参数量已突破万亿级别，但决策黑箱问题导致医疗诊断...

由GitHub开源项目REVERSE提出的创新性解决方案，为视觉语言模型(VLM)的幻觉问题提供了突破性进展。该项目构建了一个完整的训练与推理管道，使VLM能够自主检测并修正其输出中的幻觉内容。该技术通过建立内部一致性验...

AI可解释性领域领军企业Goodfire近日宣布完成5000万美元A轮融资。该公司在稀疏自编码器（SAEs）等机械可解释性技术上具有深厚积累，致力于通过与闭源及开源模型提供方的深度合作，系统性地解析、引导和控制AI模型的...