OpenLM是一个专为训练最多可达70亿参数的中等规模语言模型设计的库和框架。它的设计理念是注重GPU速度和可修改性。作为收敛性验证，已经有在1.25T标记上训练的模型可供使用。这种新型的框架和库能够更好地满足中等规...

英伟达宣布推出GH200，一款专为运行人工智能模型设计的新芯片。它与H100使用相同的GPU，但搭配了141GB内存和一个72核的ARM中央处理器。额外的内存将允许更大的人工智能模型在单个系统上运行，并显著降低推理成本。GH...

OpenAI首席执行官Sam Altman表示，孵化ChatGPT的研究策略已经过时，进一步的进展不会来自于模型变得更大。模型规模的扩大存在着收益递减，而公司可以建立和维护的数据中心数量也受到物理限制。目前尚不清楚OpenAI将...