当前最强大的开源大语言模型普遍采用自回归解码器架构的Transformer模型，但近年来涌现出多种创新架构。这些模型不仅关注计算效率的提升，更致力于突破性能瓶颈。文本扩散模型通过模拟去噪过程生成连贯文本，在创造...

Anthropic研究团队在《Circuits Updates – October 2025》中披露了令人振奋的发现：其大型语言模型Claude的内部神经元展现出跨模态理解能力。实验表明，当模型处理文字“眼睛”时激活的特定神经元，在遇到用@符号排列...

在近期播客访谈中，OpenAI创始研究员、AI领域权威安德烈·卡帕西针对通用人工智能发展路径提出关键见解。他系统阐述了AGI实现时间线的技术瓶颈，指出当前模型仍处于‘动物级’感知智能阶段，距离具备抽象推理能力的‘幽...

近期发布的表征自编码器（RAE）技术为潜在扩散模型带来重大升级。该技术通过使用DINO、SigLIP或MAE等预训练编码器替代传统变分自编码器（VAE），结合学习型解码器构建高维潜在空间。实验表明，这种新型架构能显著提...

Meta Superintelligence Labs于arXiv发布编号2509.01092的首篇论文，引发学术社区高度关注。该研究并未延续当前大模型参数规模竞赛的常规路径，而是聚焦于注意力机制的基础架构创新。论文提出了一种名为"动态稀疏注...

开发者Sean Goedecke在最新实验中证实，OpenAI的GPT-5-Codex在人工智能研究领域展现出超越人类研究员的潜力。通过构建自动化研究流程，Codex能够自主设计实验方案并根据结果持续优化策略，特别是在文本生成领域取得...

科技巨头IBM近日正式推出Granite 4.0大语言模型系列，该开源方案采用创新的混合架构设计，宣称相比传统LLM可大幅降低内存占用。作为拥有114年历史的科技企业，IBM此次发布的模型特别强调“企业就绪”特性，通过结合Mam...

RustGPT是一项具有里程碑意义的开源项目，它首次实现了完全基于Rust编程语言的大型语言模型（LLM）开发，不依赖任何外部机器学习框架。该项目采用纯Rust代码构建，仅使用ndarray库进行矩阵运算，彻底摆脱了对PyTorch...