Prima CPP是llama.cpp的一个扩展项目，旨在通过内存映射（mmaping）技术，使大型模型能够在低内存环境中高效运行。这一技术突破为资源受限的设备部署先进AI模型提供了可能，尤其适用于边缘计算和移动端场景。通过优...

近日，轻量级视觉语言模型MoonDream迎来2.0版本重大更新。这款仅含20亿参数的VLM（Vision-Language Model）在最新测试中展现出惊人实力，其性能不仅超越多个同量级开源模型，甚至在部分基准测试中优于参数规模更大的...

WebRTC（Web Real-Time Communication）作为一项开源技术，正在重塑实时通信领域的格局。它允许浏览器和移动应用通过简单的API实现点对点（P2P）的音视频通信，无需依赖第三方插件或复杂的后端基础设施。WebRTC的核...

Unsloth团队针对DeepSeek最新R1模型成功开发出创新量化方案，其核心突破在于将混合专家（MoE）层压缩至惊人的1.58bit，同时通过动态量化技术保持其他模块在4-6bit精度。研究发现，模型Tokenizer的特殊结构为量化带来...

近日，一项突破性技术成果引发业界关注：工程师成功利用仅3颗8引脚芯片构建了一台具备交互速度的Linux计算机。这一设计颠覆了传统计算机架构对多芯片和高引脚数的依赖，展示了极简硬件实现复杂计算能力的可能性。该...

清华大学智能图形学与几何计算实验室（THU-MIG）在GitHub上开源了名为Large Small Net（LSNet）的新型轻量级视觉模型家族。该模型创新性地借鉴了人类视觉系统的动态异尺度处理能力（"See Large, Focus Small"机制）...

开源项目Orpheus近期引发开发者社区关注，该项目通过C++实现了一个高效易用的文本转语音(TTS)系统。与Llama.cpp类似，其最大技术亮点在于完全脱离GPU依赖，仅需简单安装即可在普通计算设备上运行，显著降低了语音合...

近日，GitHub上开源了一个名为Mobile-VideoGPT的轻量级多模态视频模型，其参数量不足10亿（1B），却通过创新的双视觉编码器和令牌剪枝技术，实现了在边缘设备上的实时推理能力。这一突破性进展为移动端和物联网设备...