据悉，字节跳动开发了一种名为 MegaScale 的系统，可用于训练大规模并行的大型语言模型。该系统成功地在 12,288 个 GPU 上训练了一个 175B 的语言模型，达到了 55.2% 的模型 FLOPs 利用率，相当惊人。此外，字节跳动...

据报道，微软正在打造自己的人工智能服务器硬件，以减少对英伟达的依赖。目前，微软在其云计算平台Azure上使用英伟达的GPU加速器来提高人工智能处理速度。不过，为了降低成本和提高灵活性，微软现在正在开发自己的AI...

本文提供了一份可租用的GPU集群列表，这些集群可按小时租用，提供高性能计算能力，适用于需要大量计算的机器学习和深度学习任务。以下是可租用的GPU集群列表： 1. AWS EC2 P3（美国） 2. Google Cloud Platform（欧...

Groq可以每秒提供高达500个令牌。它能够做到这一点，是因为它使用了使用线性处理器单元（LPUs）而不是GPU的定制硬件。 LPUs旨在为AI计算提供确定性性能。它们提供了一种更简化的方法，消除了复杂的调度硬件的需要，...

Lambda Labs最近完成了3.2亿美元的C轮融资，以继续推进其强大的GPU云技术。该公司的GPU云可以为用户提供高性能计算和机器学习服务。Lambda Labs计划利用这笔融资来扩大其研发团队和全球业务，以加速其在云计算领域的...

NVIDIA推出了Chat with RTX的演示版本，这是一款本地运行的PC聊天机器人，可以分析和汇总各种文件格式的个人数据，甚至整合来自YouTube视频的知识，旨在创建更个性化的数字助手体验。这种创新不需要云处理或互联网连...

据外媒报道，OpenAI的CEO Sam Altman正在与投资者磋商，计划筹集高达7万亿美元用于AI芯片制造。该项目旨在解决GPU短缺问题，因为这些芯片对于训练和运行大型语言模型至关重要。潜在的投资者包括主权财富基金和政府实...

HuggingFace发布了一个轻量级的评估库lighteval，用于基于HELM和Eluther AI评估工具的语言模型训练。该评估库专注于提供高效易用的评估方法和指标，帮助用户快速准确地评估模型性能。同时，lighteval还提供了丰富的...

香蕉公司正在逐步停止其无服务器GPU业务。该公司已提供了过渡计划和协助离职。这对于该公司的客户和员工将产生重大影响，因为他们需要适应这一变化并重新考虑他们的业务和职业生涯。虽然这可能是令人失望的消息，但...

Tachyum即将开始大规模生产其Prodigy Universal处理器，这是一款多功能处理器，结合了CPU，GPU和TPU的功能，承诺显着提高云计算，高性能计算和人工智能应用的性能。这可能会颠覆AI市场。