近日，GitHub上开源了一个名为GoModel的高性能AI网关项目，该项目使用Go语言编写，旨在为开发者提供一个统一的、兼容OpenAI API标准的接口，以无缝对接包括OpenAI、Anthropic（Claude）、Google Gemini、Groq、xAI（...

近日，一个名为PgQue的开源项目在GitHub上发布，为PostgreSQL 14及以上版本的用户提供了一个创新的高性能队列解决方案。该项目完全采用PL/pgSQL语言实现，基于经典的PgQ架构，但进行了现代化改进。其核心设计理念是...

开发者matthartman近日在GitHub上开源了名为Ghost Pepper的macOS应用，它是一款完全在本地运行的“长按说话”语音转文字工具。该工具的核心技术栈结合了OpenAI开源的WhisperKit语音识别模型与本地运行的大型语言模型（...

近日，GitHub上出现了一个名为Gemma Gem的开源项目，它是一个Chrome浏览器扩展，能够将谷歌最新发布的Gemma 4大型语言模型完全在用户本地设备上运行。该项目最大的技术亮点在于，它通过新兴的WebGPU API来实现高性能...

随着大语言模型（LLM）应用场景的不断拓展，越来越多的现代工作负载，如大规模内容生成、数据清洗和批量分析等，其核心诉求已从追求单个请求的低延迟，转向了优先保障整体吞吐量。然而，当前许多LLM系统和部署方案仍...

近日，一款名为Mog的新型编程语言在开发者社区引发关注。Mog被定位为一门静态类型、编译型、嵌入式语言，其设计理念与静态类型的Lua类似，但核心目标用户并非人类程序员，而是大型语言模型（LLM）。该语言的完整规范...

开发者Nick Tikhonov近日开源了一个名为“shuo”的语音助手项目，其端到端平均延迟仅为约400毫秒（从用户停止说话到助手发出第一个音节）。这一性能指标在集成了完整的语音识别（STT）、大语言模型（LLM）和语音合成（...

近日，开发者Zach Latta在GitHub上发布了名为FreeFlow的开源项目，旨在为市场上流行的实时语音转写服务（如Wispr Flow、Superwhisper、Monologue等）提供一个免费且开源的替代方案。该项目在Hacker News社区引发了广...