谷歌作为少数几个能够与Nvidia匹敌的大型组织之一，其硬件在过去一直面临挑战，尤其是其对PyTorch的支持相对较弱。然而，现在，随着更快的芯片和更好的软件支持的出现，谷歌的这一产品似乎变得非常吸引人。TPU v5和H...

近日，一篇深度解析如何使用PyTorch 2.0的torch.compile和Nvidia CUDA图表功能提升深度学习模型性能的文章引起了广泛关注。该文章详细介绍了借助CUDA图表在Llama 2上实现了2.3倍的速度提升。这对于对性能敏感的AI从...

英国的AI硬件公司Graphcore近日发布了一款优秀的Pytorch库，使得在fp8中进行训练变得异常简单且稳定。这只需要一个模型封装器和torch编译器。Graphcore以其创新的机器智能处理器（IPU）而闻名，现在他们在深度学习训...

TorchScale是一款PyTorch库，让研究者和开发者能够更高效、更有效地扩展Transformers。它是为了满足对于大规模数据处理的需求而生的工具，通过使用TorchScale，我们可以在保持高性能的同时，实现Transformers的扩展...

vlite是一个仅有不到200行代码的向量数据库。它专为智能机器人、ChatGPT插件和其他AI应用而设计。vlite使用了苹果的Metal Performance Shaders与PyTorch结合，加速向量加载，并使用CPU多线程加速向量查询。

GPT-Migrate是一款能够轻松将代码库从一个框架或语言迁移到另一个框架或语言的工具。现在，开发者们可以更加方便地进行代码迁移，无需手动修改大量代码，节省了大量时间和精力。GPT-Migrate使用了先进的自然语言处理...

Composer是一个PyTorch库，可以使你以更快的速度、更低的成本和更高的准确性训练神经网络。

FlagAI（Fast Large-scale General AI models）是一个快速、易于使用且可扩展的大规模模型工具包。它提供了一整套功能强大的工具和库，用于开发和部署大规模人工智能模型。FlagAI的设计目标是使开发人员能够快速构建...