漫话开发者 - UWL.ME 精选全球AI前沿科技和开源产品
2026-02-23 talkingdev

开源|突破显存限制:开发者实现单张RTX 3090运行Llama 3.1 70B,NVMe直连GPU绕过CPU

近日,在GitHub上开源名为“ntransformer”的高效大语言模型推理引擎项目,其核心创新在于探索并实现了通过NVMe存储设备直接与GPU通信,绕过CPU和系统内存的传统数据路径,从而在消费级显卡RTX 3090上成功运行了参数量...

Read More
2025-08-20 talkingdev

AnduinOS:新型操作系统引发技术社区热议

技术社区近期热议的新型操作系统AnduinOS(官网:anduinos.com)在Hacker News平台引发广泛关注,获得105点赞和126条深度讨论。该项目虽未公开具体技术细节,但从社区反馈可见其可能涉及操作系统架构创新或分布式计...

Read More
2025-05-26 talkingdev

OpenAI推出O3 Operator升级版:CUA驱动的浏览器代理取代GPT-4o模型

OpenAI近日宣布其浏览器智能代理O3 Operator完成重大升级,原基于GPT-4o的模型架构已被全新的CUA(Cognitive Unified Architecture)技术体系取代。这一变革标志着OpenAI在轻量化AI代理领域取得突破性进展——CUA架构...

Read More