漫话开发者 - UWL.ME 精选全球AI前沿科技和开源产品
2026-09-07 talkingdev

开源|Random Attention:随机采样KV缓存淘汰,让大模型推理更高效

Salesforce AI Research 发布了 Random Attention 代码仓库,对应论文《Random Attention: Rethinking KV Cache Eviction for Efficient Reasoning》。在大语言模型推理中,KV缓存占用大量显存,现有方法通常依赖学...

Read More
2026-09-07 talkingdev

开源|LLM-as-a-Verifier:无需额外训练,为任意智能体提供细粒度反馈并实现多领域SOTA

LLM-as-a-Verifier 是一个通用验证框架,其核心思路是让大语言模型直接充当“验证器”,在不引入额外训练的情况下,为任意智能体(agent)提供细粒度、可操作的反馈。该框架在编码、机器人和医学智能体等基准测试中均...

Read More
2026-09-04 talkingdev

开源|WebLLM:基于WebGPU在浏览器中高性能运行开源大模型

WebLLM 是 MLC AI 推出的高性能浏览器端大语言模型推理引擎,它借助 WebGPU 将开源模型的加载与推理全过程放在用户浏览器内完成,不需要后端服务器。该项目提供兼容 OpenAI 的 API,可支持流式输出、JSON 模式等聊天...

Read More
2026-09-04 talkingdev

Funes 为编程智能体装上持久记忆:跨机器、跨代理无缝续接开发上下文

Funes 项目为编程智能体引入了一个可持久化的记忆层,旨在解决当前 AI 编程代理在会话切换后上下文丢失、记忆无法跨工具复用的问题。该方案利用本地索引与嵌入技术,在不依赖外部服务的情况下实现上下文记忆的存储与...

Read More
2026-09-04 talkingdev

NVIDIA确认以129.3亿美元收购Hugging Face,AI模型社区进入算力巨头时代

NVIDIA正式确认以129.3亿美元收购全球最大AI模型社区Hugging Face。Hugging Face目前托管约300万个模型,服务超过1800万开发者,是机器学习领域最重要的开源协作平台之一。英伟达CEO黄仁勋表示,收购后平台将继续保...

Read More
2026-09-04 talkingdev

微软发布 MAI-Transcribe-2:号称全球最快、最准、最便宜的语音识别模型

微软正式发布 MAI-Transcribe-2 语音识别模型,官方宣称其在速度、准确率和成本方面全面领先,并超越 Gemini 3.5 Transcribe、GPT-Transcribe 和 Whisper V3-Large。该模型集成了说话人分离、可配置转录风格和词级时...

Read More
2026-09-04 talkingdev

Vals分析:开源模型执行多阶段任务的环境影响可达简单查询1万倍

AI基准测试机构Vals AI的最新分析显示,开源权重模型在执行多阶段任务时,其环境代价可能远超简单查询。以构建一个Web应用为例,这类复杂任务涉及多轮推理、代码生成、工具调用与验证等步骤,模型需要消耗的能源或水...

Read More
2026-09-04 talkingdev

Resect AI 获 2500 万美元融资,开发开源技术提前拦截 AI 幻觉

据 GeekWire 报道,AI 初创公司 Resect AI 宣布结束隐身状态,并获得私募股权投资者 2500 万美元融资。该公司专注于开发开源技术,目标是在 AI 幻觉发生之前进行捕获和阻断,而非在错误内容生成后再做修正。随着大语...

Read More
  1. Prev Page
  2. 2
  3. 3
  4. 4
  5. Next Page