据悉，字节跳动开发了一种名为 MegaScale 的系统，可用于训练大规模并行的大型语言模型。该系统成功地在 12,288 个 GPU 上训练了一个 175B 的语言模型，达到了 55.2% 的模型 FLOPs 利用率，相当惊人。此外，字节跳动...

据内部通讯透露，字节跳动一直在违反OpenAI的服务条款，秘密使用其技术开发竞争性的语言模型Project Seed。这些通讯还显示，字节跳动计划“掩盖”这种违规使用的证据。OpenAI是由伊隆·马斯克等人创办的人工智能研究公...

这家中国巨头已经从NVIDIA购买了约10万个GPU，用于不同的人工智能项目。这些订单是在对GPU出口进行监管限制之前下达的。这是又一家通过计算能力增强其人工智能努力的公司。