Butter是一项专注于优化大型语言模型(LLM)应用成本与效率的前沿技术解决方案。它通过智能缓存机制识别并重复调用相同的LLM响应,显著降低AI系统的运营成本,同时增强其输出的确定性。该技术与OpenAI等主流聊天补全...
Read More近日,GitHub开源项目Dexto引发开发者社区广泛关注。作为专为AI智能体设计的智能层框架,Dexto通过协调大语言模型、工具链与数据源,将自然语言指令转化为可执行动作。其核心价值在于提供配置驱动的开发范式,支持命...
Read More最新研究揭示,基于大语言模型(LLM)的智能体AI系统存在根本性安全缺陷——模型无法有效区分指令与数据,导致其极易遭受提示注入攻击。攻击者可通过在Jira工单、网页内容等非受信源中嵌入隐藏指令,诱使具有敏感数据...
Read More近日,GitHub上开源项目TOON(Token-Oriented Object Notation)引发开发者社区广泛关注。这一由开发者johannschopplich推出的新型数据格式,专为大语言模型(LLM)输入优化设计,通过精简的结构化数据表示方式,显...
Read MoreAnthropic研究团队在《Circuits Updates – October 2025》中披露了令人振奋的发现:其大型语言模型Claude的内部神经元展现出跨模态理解能力。实验表明,当模型处理文字“眼睛”时激活的特定神经元,在遇到用@符号排列...
Read More开发者RohanAdwankar近日开源了基于Rust语言构建的图表工具OxDraw,创新性地将声明式图表生成与交互式编辑能力融合。该工具解决了技术文档创作中的核心痛点:传统代码驱动图表工具(如Mermaid.js)虽能快速生成基础...
Read MorePyTorch团队正式推出颠覆性分布式编程框架PyTorch Monarch,该技术通过创新的‘资源本地化’设计理念,将集群编程体验提升至单机Python开发级别。框架采用网格化资源管理架构,支持在数千个GPU上实现分布式张量计算,...
Read More谷歌Angular团队正式开源Web Codegen Scorer工具,专门用于评估大语言模型生成的网页代码质量。该工具通过构建成功率、安全漏洞检测、编码规范遵循等核心维度,对LLM生成的HTML/CSS/JavaScript代码进行量化评分。开...
Read More