Sasha Rush发布了一份注释教程，介绍了如何使用自定义Triton内核加速Mamba。由于Triton编译器中的一个错误，它目前无法扩展，但它是技术的极端演示，并适合那些想要深入了解状态空间变换器替代品的人。Mamba是一种用...

Scribe近日完成了由红点风投领投的B轮融资，以加速其基于人工智能的平台的发展。该平台自动化创建视觉化的分步指南，促进组织内知识共享。超过100万个团队使用Scribe，其中包括97%的财富100强企业。该公司正在扩展其...

近日，OpenLLMetry-JS 在 GitHub 上发布，它是基于 OpenTelemetry 构建的一组扩展，可以完全观测您的 LLM 应用程序。OpenLLMetry-JS 为您提供了完整的可观测性，不仅可以实时监测您的应用程序，还可以帮助您诊断和优...

近日，GitHub上有一个新的仓库OpenRLHF发布了。这是一个基于Ray的RLHF实现，专为Llama样式模型设计。该仓库集成了多种PPO稳定技巧，以提高性能。Ray是一款新型的分布式计算框架，它具有高效、易用等特点，支持快速构...

Karpathy发布了一个最小化、干净、可扩展的实现字节对编码的语言模型分词器，Minbpe现已在GitHub Repo中开放。

Groq可以每秒提供高达500个令牌。它能够做到这一点，是因为它使用了使用线性处理器单元（LPUs）而不是GPU的定制硬件。 LPUs旨在为AI计算提供确定性性能。它们提供了一种更简化的方法，消除了复杂的调度硬件的需要，...

Figma的CEO Dylan Field提供了离职补偿金给想要离开公司的员工，因为其向Adobe的大规模出售被监管机构阻止。4%的员工接受了他的提议。虽然Figma似乎比最初同意向Adobe出售时处于更强的位置，但Field还将公司的内部估...

SEINE是一种创新的视频传播模型，其通过文本描述来引导短的AI生成视频剪辑，将其扩展为无缝且具有想象力的场景过渡，形成更长的、故事级别的视频序列。