在当今 AI 应用爆发式增长的时代，大型语言模型（LLM）动辄拥有数十亿甚至上千亿参数，其设计初衷是追求“全能”，但在实际落地中，这种“大而全”往往意味着在特定场景下的效率低下和资源浪费。Fastino Labs 推出的 Pio...

一篇来自LessWrong社区的技术文章深入探讨了2023年至2031年间大型语言模型（LLM）规模扩展的物理极限。文章指出，虽然预训练算力是决定模型规模的关键，但一个常被忽视的硬性约束在于推理时的令牌生成速度。具体来说...

Angular 团队今日正式发布了 v22 版本，这标志着该框架在现代化和智能化方向上迈出了关键一步。本次更新中，包括 Signal Forms、Angular Aria 以及异步响应式 API 在内的多项重大特性已从实验阶段过渡到生产就绪的稳...

近日，一个名为Mnemo的开源项目在GitHub上引起了开发者社区的广泛关注。该项目旨在为任何大型语言模型（LLM）提供一个本地优先的人工智能记忆层。Mnemo的核心创新在于，它摒弃了传统依赖云端或外部API的记忆管理方式...

AI领域的创新再次加速——xAI公司最新推出了代号为Grok Build的新一代编程智能体与命令行工具（CLI），目前已在SuperGrok与X Premium Plus用户中开启Beta测试。这一工具的最大亮点在于对复杂开发项目的完整支持：用户...

大型语言模型的部署成本一直是其广泛应用的主要障碍之一。一篇来自AlphaXiv的最新研究提出了一种创新解决方案：通过强化学习微调递归语言模型（RLMs）。该方法的核心在于训练一个共享的策略，同时驱动父模型和子模型...

谷歌近期在Gemma大型语言模型上实现了令人瞩目的推理速度提升，成功将性能提升了三倍。这一突破性进展的核心在于采用了“投机解码”（Speculative Decoding）技术。该技术的工作原理是部署一个轻量级、速度极快的“草稿...

上下文窗口的大小一直是大型语言模型在处理长文本任务时的关键瓶颈。近日，初创公司Subquadratic宣布推出一款全新的AI模型，其上下文窗口达到了惊人的1200万token（约合1200万个单词或代码标记），远超过当前主流模...