近日，GitHub上出现了一个名为Gemma Gem的开源项目，它是一个Chrome浏览器扩展，能够将谷歌最新发布的Gemma 4大型语言模型完全在用户本地设备上运行。该项目最大的技术亮点在于，它通过新兴的WebGPU API来实现高性能...

近日，专注于隐私保护技术的公司Ente推出了其首款本地大语言模型（LLM）应用——Ensu。这款应用的初始版本定位为一款类似ChatGPT的对话工具，但其核心创新在于完全离线运行于用户设备之上。这意味着所有数据处理和模型...

近期，科技行业观察者指出，几乎所有致力于构建个人AI助手的公司，其商业模式都深度依赖广告收入。这些公司不仅通过广告为AI服务的研发和运营提供资金，还正在大力推广能够24/7不间断进行音频和视频监听的智能硬件设...

近日，备受开发者关注的本地大语言模型运行平台LM Studio发布了其0.4.0版本更新。本次更新带来了多项关键性功能升级，核心聚焦于提升生产环境下的部署能力与推理性能。最引人注目的新特性是支持服务器部署模式，这使...

惠普AI Studio推出创新技术方案，通过模型蒸馏技术将前沿大语言模型DeepSeek-R1的推理能力压缩至可在本地设备运行的轻量级版本。该技术突破实现了大模型从云端到本地的迁移，用户可通过Ollama框架进行本地推理部署，...

近日，OpenAI发布了其最新研发的O3-Mini模型，这一小型化AI模型在性能和效率上取得了显著突破。O3-Mini采用了先进的embedding技术和LoRA优化策略，使其在保持高精度的同时，大幅降低了计算资源的消耗。该模型特别适...

微软正式发布了其Phi-3模型，并推出了Phi-3-Silica，这是一款专为Copilot+ PC中的神经处理单元优化的小型语言模型。Phi-3-Silica拥有33亿参数，能够在低功耗的情况下提供快速的本地推理。这标志着在Windows设备中直...

WhisperKit是一个用Swift编写的开源库，它将OpenAI的Whisper语音识别模型与Apple的CoreML框架集成，以在Apple设备上进行高效的本地推理。它可以通过Swift Package Manager集成到Swift项目中。WhisperKit会自动下载推...