Anthropic发布了其名为“Project Glasswing”的最新研究进展，旨在提升人工智能系统的透明度和可解释性。该项目名称引用了一种蝴蝶的透明翅膀，象征着让AI模型内部运作变得更加清晰可见。此次更新是项目初期的阶段性汇...

一项针对阿里通义千问Qwen3.5-9B模型的最新逆向分析揭示，该模型的政治审查并非根植于其预训练阶段获取的事实性知识，而是在知识层之上附加的一层独立、可识别甚至可移除的注意力电路。研究人员发现，模型本身并未“...

OpenAI的研究团队近期在模型可解释性领域取得重要进展，通过结合稀疏自编码器与创新的潜在归因方法，系统性地定位和解决大型语言模型中的行为错位问题。该研究提出的归因方法能够有效识别稀疏自编码器潜在空间中导致...

苹果公司近日在GitHub开源了Embedding Atlas项目，这是一款专为大规模嵌入数据设计的交互式可视化工具。该工具通过WebGPU加速实现高性能渲染，支持自动数据聚类标注、实时交叉筛选和元数据搜索三大核心功能。其技术...

ExtensityAI团队在GitHub开源了SymbolicAI项目，这是一个基于神经符号系统（Neuro-Symbolic）架构设计的组合式可微分编程库，旨在为大语言模型（LLMs）提供结构化推理能力。该项目通过将符号逻辑与神经网络梯度优化...

最新理论框架将人工智能划分为三个核心认知维度：工具、代理和模拟器。作为工具时，AI严格遵循人类指令延伸能力边界；代理形态下则具备自主目标追求能力；而模拟器模式专精于无特定目标的流程仿真。研究表明，大型语...

艾伦人工智能研究所（Allen Institute for AI）近日发布了OLMo-2-1B语言模型，这是一款参数规模为1B的小型开源模型。该项目的突破性意义在于其完全透明的训练范式：研究团队不仅公开了模型权重，还完整披露了训练数...

AI可解释性领域领军企业Goodfire近日宣布完成5000万美元A轮融资。该公司在稀疏自编码器（SAEs）等机械可解释性技术上具有深厚积累，致力于通过与闭源及开源模型提供方的深度合作，系统性地解析、引导和控制AI模型的...