英伟达在其GitHub仓库Optimum-Nvidia中发布了TensorRT的最新更新,这一更新使得AI推理速度大幅提高,达到了比基线快28倍的速度。特别是在Llama 2的基准测试中,能够达到每秒处理1200个令牌的惊人速度。这一进步得益...
Read More由英特尔、谷歌、ARM、高通、三星等科技公司组成的统一加速(UXL)基金会,正在开发开源软件,旨在避免AI开发者受限于英伟达的专有技术。这一举措意味着,未来AI开发将有更多的选择,不必完全依赖英伟达的生态系统。...
Read More韩国科学技术院(KAIST)的研究人员成功研发了C-Transformer,这是一款面向大型语言模型的超低功耗AI芯片,其能效表现显著优于Nvidia的A100 GPU。C-Transformer的问世,为AI领域的能源效率提升设立了新的标杆,有望推...
Read More英伟达在其开发者大会上宣布了新一代人工智能芯片及软件。这款名为Blackwell的AI图形处理器预计将于今年晚些时候出货。同时推出的NIM软件旨在简化AI的部署过程。英伟达力求通过NIM软件使得所有模型能够在其所有GPU上...
Read More据外媒报道,OpenAI的CEO Sam Altman正在与投资者磋商,计划筹集高达7万亿美元用于AI芯片制造。该项目旨在解决GPU短缺问题,因为这些芯片对于训练和运行大型语言模型至关重要。潜在的投资者包括主权财富基金和政府实...
Read MoreMeta计划今年在数据中心部署其自研的新型AI芯片,旨在减少对Nvidia芯片的依赖,控制运行人工智能工作负载的成本。此举将使Meta获得更大的自由度和更高的效率来推动人工智能的发展。Meta的AI芯片将通过对话匹配、图像...
Read More据报道,OpenAI的CEO Sam Altman正在为分散和分布式的AI芯片制造工厂筹集资金。当前的AI芯片供应链与地缘政治冲突紧密相关,存在被破坏的风险。
Read More英特尔宣布推出面向汽车领域的人工智能芯片。这款芯片被描述为“第一代AI增强软件定义车载系统芯片”,这一消息标志着英特尔向AI PC和汽车AI应用的战略转变。这款芯片将帮助汽车制造商将车辆转变为智能移动平台,提高...
Read More