最新技术基准测试表明,云端分布式训练中基础设施配置对大型语言模型(LLM)训练效率具有决定性影响。专业分析显示,网络架构与存储方案的差异可能导致训练性能出现高达6-7倍的波动,直接关联数百万美元的计算成本。...
Read MoreMini-o3作为新兴开源视觉推理模型,实现了与OpenAI o3类似的多轮交互能力,支持高达数十轮的连续对话推理。该项目完全公开训练流程,涵盖数据构建、模型架构与训练策略,为学术界和工业界提供可复现的视觉-语言智能...
Read More大型语言模型(LLM)推理过程中的非确定性问题正成为制约科学研究可重复性的关键障碍。即使将温度参数调整为0(贪婪采样模式),ChatGPT等模型仍无法保证输出结果的确定性。这种现象不仅存在于API服务中,即使在本地...
Read More清华大学团队开源AgentScope框架,为大型语言模型应用开发提供全新范式。该框架采用智能体导向编程(Agent-Oriented Programming)设计理念,显著提升LLM应用的透明度和实时可控性。其核心特性包括工具管理、长时记...
Read MoreGitHub上最新开源项目“Awesome Agentic LLM+RL Papers”系统性地整理了大语言模型(LLM)与强化学习(RL)结合的智能体研究领域的关键论文资源。该资源库聚焦于Agentic AI这一前沿方向,涵盖了LLM作为决策核心与RL训...
Read More研究人员通过前沿AI技术实现了重大突破:利用自主生成的Metal GPU内核,将PyTorch在苹果设备上的推理速度平均提升1.87倍。这项研究测试了215个PyTorch模型,其中部分工作负载甚至达到基线性能的数百倍加速。该技术采...
Read More瑞士近日正式推出名为Apertus的开源人工智能大模型,该模型仅使用公开可获取的数据进行训练,支持超过1000种语言,提供80亿和700亿两种参数规格版本。这一举措标志着主权国家首次以独立身份参与全球AI竞争。Apertus...
Read More提示注入攻击正成为大型语言模型面临的新型安全威胁,这种攻击通过操纵自然语言处理能力来利用系统漏洞,其原理类似于传统的SQL注入攻击。研究人员最新提出了六种核心设计模式来强化AI智能体的安全防护:行动选择器...
Read More