漫话开发者 - UWL.ME 精选全球AI前沿科技和开源产品
2026-07-23 talkingdev

告别昂贵算力:Petals让大模型在家用显卡上分布式运行成为现实

Petals 是一个颠覆性的点对点网络平台,它让普通用户能够在自己家中,仅凭消费级GPU甚至是免费的Google Colab笔记本环境,就运行起像 Llama 3.1、Mixtral、Falcon 和 BLOOM 这类巨型语言模型。其核心技术思路是将大...

Read More
2026-07-20 talkingdev

阿里巴巴宣布2.4万亿参数模型Qwen3.8即将开源,预览版已上线

阿里巴巴通义千问团队正式公布Qwen3.8,这是一款参数规模高达2.4万亿的超大规模语言模型,并明确表示将以开放权重(Open-Weight)的方式面向全球发布。这不仅是Qwen系列模型参数的又一次飞跃,也反映出阿里巴巴在开...

Read More
2026-07-13 talkingdev

开放权重模型在美国面临存亡政策大考,Anthropic以蒸馏担忧为由牵头阻击中国模型

人工智能治理正走向决定性时刻。知名AI专栏作者Nathan Lambert在Interconnects AI上撰文警告,开放权重(open weight)人工智能模型正面临一场可能决定其命运的美国政策考验。文章指出,以Anthropic为代表的闭源阵营...

Read More
2026-06-29 talkingdev

本地编码代理崛起:如何用开源模型替代Claude Code与Codex订阅服务

随着AI编程工具如Claude Code和GitHub Codex的普及,开发者对自主可控、低成本且注重隐私的替代方案需求日益增长。近日,一篇详尽的教程指南提出,利用开源模型和工具搭建本地编码代理成为新趋势。该指南深入剖析了...

Read More
2026-06-05 talkingdev

开源|Ollama Model Tester:一键对比本地大模型性能的CLI工具

随着本地大语言模型(LLM)的普及,Ollama作为一款简洁的本地模型运行工具,受到开发者和研究者的广泛关注。然而,面对众多不同参数规模、训练策略的Ollama模型,如何快速、客观地选出最适合特定任务的模型,成为实...

Read More
2026-06-04 talkingdev

开源| Mnemo:为大型语言模型打造的本地优先AI记忆层,持久化知识图谱与语义检索

近日,一个名为Mnemo的开源项目在GitHub上引起了开发者社区的广泛关注。该项目旨在为任何大型语言模型(LLM)提供一个本地优先的人工智能记忆层。Mnemo的核心创新在于,它摒弃了传统依赖云端或外部API的记忆管理方式...

Read More
2026-05-28 talkingdev

LiteParse v2.0:纯Rust重写,PDF解析速度飙升100倍,全平台离线运行

在AI和文档处理领域,PDF解析一直是一个棘手但关键的环节。近日,LlamaIndex团队推出的LiteParse v2.0版本引发了开发者社区的广泛关注。该项目完全采用Rust语言从零重写,彻底摆脱了对大语言模型(LLM)或云端服务的...

Read More
2026-04-22 talkingdev

开源|GoModel:高性能Go语言AI网关,统一OpenAI兼容API,集成主流模型与高级可观测性

近日,GitHub上开源了一个名为GoModel的高性能AI网关项目,该项目使用Go语言编写,旨在为开发者提供一个统一的、兼容OpenAI API标准的接口,以无缝对接包括OpenAI、Anthropic(Claude)、Google Gemini、Groq、xAI(...

Read More
  1. 1
  2. 2
  3. 3
  4. Next Page