Llama-Scan是一个开源项目，旨在通过本地运行的大语言模型（LLM）将PDF文件转录为文本。该项目由开发者ngafar在GitHub上发布，目前已获得107个点赞和54条评论，显示出较高的社区关注度。Llama-Scan的核心优势在于其...

近日，一篇题为《Building my offline AI workspace》的技术博客引发开发者社区广泛关注。作者详细记录了构建完全离线AI工作环境的技术实践，涉及本地化模型部署、数据隐私保护及离线开发工具链搭建等前沿议题。该方...

近日，Ollama正式推出了全新的macOS和Windows应用程序，旨在为用户提供更加便捷的语言模型交互体验。该应用不仅支持用户轻松下载和与多种语言模型进行对话，还引入了创新的文件拖放功能，允许用户直接上传文件进行分...

BrowserOS是一款基于Chromium的开源智能浏览器，旨在通过本地运行的人工智能代理提升用户的自动化体验与隐私保护。作为对Perplexity Comet的一种隐私优先替代方案，BrowserOS通过集成的Ollama支持，能够在本地执行AI...

开发者Henry和Roman近日推出开源项目Cactus，这是一个专为智能手机设计的跨平台框架，支持本地部署大型语言模型（LLM）、视觉语言模型（VLM）和文本转语音（TTS）模型。与Ollama专注于笔记本和边缘服务器不同，Cactu...

艾伦人工智能研究所（AI2）近日推出OLMo 2全开源语言模型家族，标志着大模型开源生态取得重大突破。该系列包含32B、13B、7B和1B四种参数规模，其中旗舰型号OLMo 2 32B成为首个在主流基准测试中同时超越GPT-3.5 Turbo...

NotebookLLaMa是一个完全开源的项目，旨在提供NotebookLM的替代方案。该项目利用LlamaCloud进行文档处理，结合OpenAI的内容生成能力和ElevenLabs的语音合成技术，构建了一个功能强大的知识管理平台。作为开源社区的...

谷歌最新推出的Gemma 3N模型现可通过Dynamic GGUFs技术在本地环境中运行，技术社区已实现与llama.cpp、Ollama及Open WebUI生态的无缝集成。本文详解三种部署方案的技术要点：1）利用llama.cpp的量化推理优化实现低资...