近日，HuggingFace发布了一个名为Nanotron的小型而强大的库，用于训练具有3D并行性的模型。这意味着它将数据、模型和模型中的层/张量分割开来。前两种并行性在PyTorch等库中得到了很好的支持。然而，将模型张量分割...

本文介绍如何从PyTorch转向Jax。文章提出了9个简明扼要的概念，这些概念使Jax强大而不同，每个概念都附有一个很好的代码示例。

对于使用Pytorch的从业者来说，最大的挑战之一就是弄清楚为什么会出现内存不足的情况。在Pytorch 2.1中提供了一些令人惊叹的新工具，可以了解内存使用情况。甚至可以将使用情况分类为熟悉的桶（例如，激活，梯度）。

PyTorch 2是目前深度学习领域最为流行的框架之一，由Facebook AI Research开发维护。近日，一次有关PyTorch 2内部机制的精彩讲座引起了广泛关注。该讲座详细介绍了PyTorch 2的最新功能，如Dynamo、Instructor和Execu...

Stable Fast是HuggingFace扩散模型的推理引擎，通过它可以进行快速的Diffusers推理。该推理引擎在多种硬件上实现了出色的性能，包括CPU和GPU。此外，Stable Fast还兼容多个框架，包括PyTorch和TensorFlow。在GitHub...

我们可以通过使用Torch编译、稀疏化、与Triton一起使用自定义内核以及其他PyTorch性能特性，将分割任务的速度提高8倍。

Meta的Llama 2被宣传为开源，但由于其有限的许可证未能符合所有开源倡议的要求而受到审查。尽管如此，Meta的人工智能研究副总裁Joelle Pineau强调了信息共享和商业成本之间的平衡，旨在实现类似于其先前的开源项目Py...

Polyfire是一个开源的后端管理平台，为AI应用提供一站式的解决方案。它包括数据管理、模型管理、部署和监控等功能，可以帮助开发团队快速搭建和管理AI应用的后端。Polyfire支持多种框架和语言，例如PyTorch、TensorF...