NVIDIA公司通过控制GPU和CUDA平台，形成了其在市场上的独特优势。CUDA简化了开发者从NVIDIA硬件中获益的过程，这一优势的确立得益于NVIDIA在CUDA生态系统上多年的投资和数十亿美元的投入。尽管未来可能会有竞争者项...

近期研究表明，人工通用智能（AGI）的发展可能并未如预期那般顺利。尽管投入了更多的资源，像GPT-4这样的大型语言模型（LLMs）却表现出硬件扩展的极限，收益递减的现象。这意味着，随着模型规模的扩大，其性能提升的...

本文详细介绍了Lamini公司在AMD GPU上进行大型语言模型训练的技术架构。这包括了他们所使用的调度程序、模型训练技术以及其他相关技术细节。Lamini的技术团队选择了AMD GPU作为硬件加速平台，以优化模型训练的性能和...

苹果公司在最新发布的macOS操作系统中，彻底移除了对其最古老型号的无线网络/蓝牙卡的驱动支持。这一举动意味着，使用这些老旧硬件的用户将无法在新的macOS上获得正常的无线网络和蓝牙功能。对于一直依赖这些硬件的...

微软即将于3月21日公开展示Surface Pro 10和Surface Laptop 6，这两款电脑将配备最新的神经处理单元，可提升人工智能能力。这些电脑将由英特尔的第11代酷睿处理器提供动力，其内置的AI引擎可提供更快的AI处理速度和...

上周，在小型GPU上训练大型模型取得了突破。这个配置展示了如何使用这些技术在消费级硬件上训练Mixtral。

谷歌即将推出的 Pixel 9 将搭载 Tensor G4 芯片，该芯片设计用于更好的散热和电源管理。虽然 G4 提供了适度的性能提升，但 G5 芯片预计将进一步提高 Pixel 10 系列的硬件和软件整合。

Answer AI发布了一款新的FSDP/QLoRA训练工具，可在消费级GPU上训练70B参数模型。该公司开源了代码，并使其易于本地运行或在runpod上运行。