链式思维（Chain-of-Thought, CoT）是当前监督和解读大模型推理过程的重要工具，但一些新型架构变化可能显著降低CoT的可监控性。针对这一问题，Redwood Research提出“不透明串行深度”的可操作化概念，将“文本瓶颈之...

Anthropic发布了其名为“Project Glasswing”的最新研究进展，旨在提升人工智能系统的透明度和可解释性。该项目名称引用了一种蝴蝶的透明翅膀，象征着让AI模型内部运作变得更加清晰可见。此次更新是项目初期的阶段性汇...

人工智能公司Anthropic近日发布了一项名为“Teaching Claude Why”的研究，旨在提升其大语言模型Claude的推理和解释能力。传统AI模型往往只输出结果，而缺乏对“为什么做出这个决策”的透明解释。这项研究通过创新的训练...

据《麻省理工科技评论》报道，OpenAI正在测试一种新颖的方法，旨在让大语言模型（LLMs）能够主动“坦白”或“自我报告”其内部运作过程。这项研究探索如何训练模型不仅输出最终答案，还能生成“自白书”，详细描述其完成任...

由多个研究实验室联合开展的可解释性项目取得重大进展，科学家首次实现追踪AI模型推理时的内部计算路径，其精细程度堪比观察脑部神经元的激活过程。这项发表在Neuronpedia平台的研究通过交互式教材形式，系统演示了...

Kapa.ai最新发布的文档《Writing documentation for AI: best practices》详细探讨了为AI系统撰写高效文档的核心原则，尤其针对检索增强生成（RAG）技术栈的优化需求。文章指出，RAG系统的性能高度依赖知识库文档的...

一项突破性研究通过对比模型在随机数据（无法泛化）和真实文本上的训练表现，开发出区分记忆与泛化的新方法。研究发现，模型会先记忆训练数据直至容量饱和，随后转向学习通用模式。以GPT类Transformer为例，每个参数...

随着人工智能模型复杂度呈指数级增长，可解释性研究已成为保障AI系统安全可靠的核心议题。斯坦福大学研究员Dario Amodei在最新论述中指出，当前Transformer架构的参数量已突破万亿级别，但决策黑箱问题导致医疗诊断...