漫话开发者 - UWL.ME 精选全球AI前沿科技和开源产品
2026-04-22 talkingdev

开源|GoModel:高性能Go语言AI网关,统一OpenAI兼容API,集成主流模型与高级可观测性

近日,GitHub上开源了一个名为GoModel的高性能AI网关项目,该项目使用Go语言编写,旨在为开发者提供一个统一的、兼容OpenAI API标准的接口,以无缝对接包括OpenAI、Anthropic(Claude)、Google Gemini、Groq、xAI(...

Read More
2026-04-07 talkingdev

Meta追赶AI竞赛:部分新一代模型将开源,延续Llama策略

Meta公司正加速推进其新一代人工智能模型的发布进程。据最新报道,该公司即将推出的一系列AI模型中,部分将最终以开源许可证的形式向公众开放。这一举措延续了Meta此前通过Llama系列模型所践行的开源路线。公司首席...

Read More
2026-04-06 talkingdev

论文推荐|简单自蒸馏显著提升大模型代码生成能力,无需额外验证器或强化学习

一项名为‘简单自蒸馏’(Simple Self-Distillation, SSD)的新方法为大语言模型的代码生成能力提升开辟了一条高效且成本低廉的路径。该方法的核心在于,仅利用模型自身在特定采样配置(如温度参数和截断策略)下生成...

Read More
2026-04-02 talkingdev

开源|富士通发布OneComp:面向大语言模型的后训练量化开源库

富士通研究院近日开源了名为“OneCompression”(简称OneComp)的Python库,这是一个专门用于大语言模型后训练量化的工具。该库集成了当前最先进的量化算法,包括GPTQ和DBF,旨在帮助开发者和研究人员高效地将庞大的LL...

Read More
2026-03-23 talkingdev

开源|Project N.O.M.A.D.:一款集成AI与离线知识库的生存级便携服务器

近日,GitHub上出现了一个名为Project N.O.M.A.D.(Node for Offline Media, Archives, and Data)的开源项目,它是一款自包含、优先离线的知识服务器,旨在为用户提供无需互联网连接的工具、教育资源和人工智能能力...

Read More
2026-03-07 talkingdev

开源|OBLITERATUS:一款旨在移除开源大语言模型审查限制的工具引发热议

近日,一个名为OBLITERATUS的开源项目在开发者社区及技术新闻平台Hacker News上引发了广泛关注与讨论。该项目由开发者elder-plinius在GitHub上发布,其核心目标是“粉碎束缚你的枷锁”,具体指向为移除或绕过开源、开...

Read More
2026-02-23 talkingdev

开源|突破显存限制:开发者实现单张RTX 3090运行Llama 3.1 70B,NVMe直连GPU绕过CPU

近日,在GitHub上开源名为“ntransformer”的高效大语言模型推理引擎项目,其核心创新在于探索并实现了通过NVMe存储设备直接与GPU通信,绕过CPU和系统内存的传统数据路径,从而在消费级显卡RTX 3090上成功运行了参数量...

Read More
2026-02-08 talkingdev

开源|LocalGPT:基于Rust的本地优先AI助手,支持持久化记忆与多模态交互

近日,开发者基于Rust语言重构了OpenClaw助手模式,推出了名为LocalGPT的本地化AI助手项目。该项目在四天内完成开发,编译后仅生成约27MB的单一可执行文件,无需依赖Node.js、Docker或Python环境,体现了轻量级与高...

Read More
  1. 1
  2. 2
  3. 3
  4. Next Page