漫话开发者 - UWL.ME 精选全球AI前沿科技和开源产品
2023-08-24 talkingdev

Roboflow-最新开源的视觉模型推理工具

Roboflow推理是一种在最先进的计算机视觉模型上运行推理的工具。它可以在各种设备和环境上部署,无需机器学习的先验知识。Roboflow推理支持目标检测、分类、实例分割模型以及基础模型。有一个展示Roboflow推理在足球...

Read More
2023-07-31 talkingdev

文字生成接口:Rust、Python和gRPC服务器的新型应用

HuggingFace公司最近在其文字生成接口(GitHub Repo)中进行了一次重要的许可证变更,该接口现在不再可用于商业用途。此接口是一个建立在Rust、Python和gRPC服务器上的文字生成推断系统,广泛应用于HuggingFace公司...

Read More
2023-07-12 talkingdev

bitsandbytes发布4位推理,实现AI模型精度与速度的突破

AI模型包含许多参数,它们在计算机中以十进制数字的形式表示。这些数字的精度决定了它们的准确度和占用的空间大小。如果将精度从32位降低到16位,将会大幅提高运行速度。现在,我们可以将精度降低到4位,从而在一些...

Read More
  1. Prev Page
  2. 1
  3. 2
  4. 3