Epoch AI最新研究显示,人工智能领域正经历前所未有的计算规模扩张。2024年全球已追踪到201个计算量超过10²³ FLOPs的AI大模型,较2017年仅有的2个实现指数级增长。尤其值得注意的是,以GPT-4为代表的顶尖模型已突破1...
Read More传统抗体发现需耗时数月筛选海量文库,而Chai Discovery公司最新发布的Chai-2人工智能系统彻底改变了这一范式。该系统通过计算设计直接生成候选抗体,仅需20次尝试即对50%的靶标成功找到有效抗体,整体成功率高达16%...
Read More本文探讨了如何构建一个能够自我改进的AI工厂。该项目的目标是打造一个能够自我生产的工厂,即通过智能体(agents)生成代码、验证代码,并随着时间的推移不断自我优化。文章详细介绍了AI工厂的核心概念、构建方法、...
Read MorePyTorch与vLLM近日宣布深化技术整合,新增支持量化、注意力机制定制及异构硬件加速等关键功能。这一合作标志着两大开源框架在优化大语言模型(LLM)推理性能方面取得重要突破:量化技术可降低模型计算资源消耗达4-8...
Read MorevLLM是一款开源的大语言模型推理引擎,近日其团队发布了全新的V1架构。本文深入剖析了vLLM V1架构如何通过OpenAI兼容API服务器和核心引擎高效处理推理请求,实现业界领先的文本生成性能。该架构优化了推理请求的处理...
Read More近日,SGLang宣布成功集成Transformers后端技术,这一重大进展使开发者能够将Hugging Face的模型API与SGLang的高吞吐量、低延迟引擎相结合。该集成不仅显著提升了模型推理效率,还为自然语言处理(NLP)领域的实时应...
Read More强化学习(RL)作为一种让AI模型通过试错而非简单模仿人类示例进行学习的技术,正展现出其在复杂任务处理中的独特优势。最新行业动态显示,科技公司正在采用两种创新方法大幅扩展训练数据规模:一是利用AI模型相互评...
Read MoreModel Context Protocol (MCP) 规范自2025年3月26日上一版本发布以来,迎来了多项重要更新。此次变更包括移除了对JSON-RPC批处理的支持,新增了对结构化工具输出的支持,并在授权规范中进一步明确了安全注意事项和最...
Read More