一项名为“Power”注意力的创新技术通过引入超参数p，实现了对状态大小的独立控制，有效解决了长上下文训练中计算成本平衡的难题。该机制在长序列任务中表现优于标准注意力，并支持定制GPU内核，在64k上下文长度下速度...

谷歌宣布为其AI Pro和AI Ultra订阅用户推出搜索功能的重大升级，集成Gemini 2.5 Pro模型并引入深度搜索（Deep Search）技术。这一更新标志着搜索引擎正式进入多轮复杂交互时代，支持用户提交更长查询语句及连续追问...

深度学习领域知名专家安德鲁·卡帕西（Andrej Karpathy）近日就强化学习（RL）的规模化应用趋势发表了深刻见解，指出RL的扩展性已成为当前AI研究的焦点。他强调，强化学习在得当的运用下，能够展现出远超监督式微调的...

最新研究发现，在数学问题中插入诸如'有趣的事实：猫一生大部分时间在睡觉'等无关短语，会导致大语言模型的错误应答率较基准水平飙升300%。这种与查询无关的对抗性触发现象具有跨模型规模的迁移性，且蒸馏版模型表现...

斯坦福大学SNAP实验室在GitHub开源了Biomni项目，这是一种通用型生物医学AI智能体，通过结合大语言模型（LLM）的推理能力、检索增强规划技术以及代码执行功能，能够自主完成跨生物医学领域的研究任务。该系统突破了...

NotebookLLaMa是一个完全开源的项目，旨在提供NotebookLM的替代方案。该项目利用LlamaCloud进行文档处理，结合OpenAI的内容生成能力和ElevenLabs的语音合成技术，构建了一个功能强大的知识管理平台。作为开源社区的...

近日，研究人员发布了新一代商业级大语言模型Mercury，该模型基于扩散模型技术，采用Transformer架构进行参数化，并能够并行预测多个token。报告重点介绍了Mercury Coder，这是首套专为编程应用设计的扩散大语言模型...

Anyscale研究团队近期对TRL、Verl、OpenRLHF等九大开源强化学习框架进行了系统性评测，涵盖采用度指标、系统特性和技术架构三大维度。该研究为开发者选择适合RLHF（人类反馈强化学习）、推理模型或智能体训练场景的...