中国科技行业正掀起一场前所未有的AI投资浪潮。阿里巴巴、腾讯和百度三大巨头本月通过发行债券筹集超过50亿美元资金，重点投向人工智能和数字基础设施领域。若加上京东，这四家企业2025年在AI领域的资本支出总额预计...

Meta公司内部团队与vLLM、PyTorch展开深度技术合作，成功推出预填充/解码分离技术（prefill/decode disaggregation），这项突破性技术显著提升了大规模语言模型在生产环境中的推理性能。通过将推理过程分解为预填充...

这篇技术长文系统性地剖析了大语言模型（LLM）的后训练完整生命周期，涵盖了监督微调（SFT）、奖励建模（Reward Modeling）以及强化学习方法（如RLHF）三大核心阶段。作者不仅详细阐述了如何通过人类反馈的强化学习...

英伟达正式推出全新Rubin CPX GPU，该芯片专为处理超过100万token的超长上下文窗口而设计，标志着人工智能推理基础设施迈向新阶段。采用“分解式推理”架构理念，Rubin CPX针对视频生成、复杂软件开发等长序列上下文任...

瑞士近日正式推出名为Apertus的开源人工智能大模型，该模型仅使用公开可获取的数据进行训练，支持超过1000种语言，提供80亿和700亿两种参数规格版本。这一举措标志着主权国家首次以独立身份参与全球AI竞争。Apertus...

《纽约客》记者Joshua Rothman深入探讨了AI生成内容（AIGC）对文化娱乐产业的颠覆性影响。随着机器学习与生成式AI技术的成熟，个性化娱乐内容正从算法推荐向全自动生成演进。这种范式转移既带来创造性风险——可能淹没...

ACM SIGPLAN博客最新发布的观点文章指出，当前AI模型运行环境存在严重碎片化问题，研究者提出应为AI模型构建类似Java虚拟机的标准化运行时环境。该方案能解决模型跨平台部署、资源管理和版本兼容等核心痛点，通过抽...

近日，GitHub上开源项目oLLM引发开发者社区广泛关注。该项目是一个专为大上下文语言模型推理设计的轻量级Python库，其核心突破在于仅需8GB显存的消费级GPU即可运行Llama-3.1-8B-Instruct等模型处理长达10万token的上...