知名开发者antirez（Redis之父）在GitHub上推出了新项目h3-metal，将MiniMax最新的H3模型原生带入苹果芯片生态。该项目并非简单的模型移植，而是一个完全面向Apple Silicon的推理引擎，当前已支持prompt直接生成视频...

近日，开源推理引擎WASTE正式亮相，其核心亮点在于能够运行权重规模远超宿主设备物理内存的模型。该引擎作为让强大模型在更多硬件上可用的初步举措，旨在为个人和机构在基础设施成本、数据隐私、可用性及部署方式上...

英伟达NeMo团队近日在GitHub上开源了一个名为Molt的智能体强化学习框架。该框架采用PyTorch原生设计，核心理念是将智能体本身视为可执行的程序，而非传统强化学习中固定的策略网络。Molt支持高度灵活的自定义Python...

Graphsignal Profiler 是一个面向生产环境的推理性能剖析平台，专为大规模 AI 推理场景设计。它能够跨越模型、推理引擎、GPU 及其他加速器，提供全栈式的性能可见性，帮助工程师精准定位瓶颈并优化推理效率。与传统...

Hugging Face 团队近日发布了一项名为“Delta Weight Sync”的创新技术，旨在解决大规模强化学习（RL）训练中的通信瓶颈问题。在训练拥有万亿参数量的模型时，传统的权重同步方式需要在训练器（Trainer）和推理引擎（I...

随着人工智能向智能体（Agent）方向演进，传统的大模型推理基准测试正面临根本性变革。智能体工作负载不再是简单的单轮问答，而是包含多轮交互、工具调用等复杂场景。这种变化给推理引擎带来了前所未有的压力，尤其...

近日，在GitHub上开源名为“ntransformer”的高效大语言模型推理引擎项目，其核心创新在于探索并实现了通过NVMe存储设备直接与GPU通信，绕过CPU和系统内存的传统数据路径，从而在消费级显卡RTX 3090上成功运行了参数量...

近日，知名开发者antirez在GitHub上开源了项目“flux2.c”，该项目实现了当前热门的Flux 2图像生成模型的纯C语言推理引擎。这一举措在技术社区引发了广泛关注，在Hacker News上获得了285点热度并积累了112条深度讨论。...