微软的强大DeepSpeed训练库更新了，可以让模型每个参数使用6位。这可以将推理速度提升超过2倍。

Anthropic的研究科学家一直在研究一种使用电路的理解深度神经网络的方法。这些电路旨在识别模型中用于特定任务的子部分。研究团队公布了他们尝试和结果的月度更新。通过使用电路，Anthropic的研究人员已经能够更好地...

苹果正在开发一个更新版本的Xcode，包括一个AI工具来生成代码。该工具将使用机器学习和自然语言处理算法来识别软件开发中的常见模式和问题，并提供自动生成代码的功能。这将帮助开发人员更快地创建应用程序，提高效...

根据OpenAI平台上的新文档，GPT-4模型的训练数据已更新，包括了截止于2023年12月的信息。GPT-4是一种自然语言处理模型，它可以生成人类能够理解的语言。这一更新表明，GPT-4将有更多的信息可用于训练，以更好地理解...

AdamW通常用于解耦学习率和权重衰减。然而，Pytorch中的常见实现并没有明确地做到这一点。本文讨论了如何调整这些参数。 AdamW是一种优化算法，它在Adam的基础上加入了权重衰减。AdamW的优点之一是可以解决权重衰减...

苹果的第二代Vision Pro头戴式耳机至少还要18个月才能推出。苹果非常关注选择退回第一代耳机的客户的反馈意见，因为这将用于完善下一版设备。Vision Pro的更新周期可能会比iPad更长。有传言称，苹果可能会在2025年左...

随着人工智能技术的不断发展，未来的世界将会是一个什么样子，很难想象。但是，我们不应该因此感到恐惧。相反，我们应该积极思考如何准备自己和我们的下一代应对未来的挑战。对于儿童来说，如何培养他们的技术能力，...

Axolotl是许多团队用来微调语言模型的工具。这个PR通过Pytorch和MPS添加了对Mac M设备的支持。