近日,GitHub上开源了一款名为Fence的轻量级安全工具,它旨在为运行半可信代码提供一种新颖的隔离方案。与依赖完整操作系统级虚拟化或容器技术的传统沙盒不同,Fence采用了一种“无容器”的设计理念,通过直接包装系统...
Read More近日,一个名为LMCache的开源项目在GitHub上发布,旨在通过创新的键值(KV)缓存加速层,显著提升大型语言模型(LLM)的服务性能。该项目专为LLM推理服务设计,其核心在于能够跨GPU、CPU、本地磁盘和Redis等多种存储...
Read More据《麻省理工科技评论》报道,OpenAI正在测试一种新颖的方法,旨在让大语言模型(LLMs)能够主动“坦白”或“自我报告”其内部运作过程。这项研究探索如何训练模型不仅输出最终答案,还能生成“自白书”,详细描述其完成任...
Read More近日,开源社区迎来一款名为µcad的创新编程语言,其核心定位是通过代码直接生成2D工程草图和3D几何模型,为计算机辅助设计领域注入全新工具范式。该项目采用现代编程语言架构,允许开发者通过声明式语法快速构建参数...
Read More谷歌Angular团队近日正式开源Web Codegen Scorer工具,专门用于评估大型语言模型生成的Web代码质量。该工具通过建立标准化的代码质量评估体系,支持跨模型、跨框架的横向对比分析,为AI代码生成技术的优化提供量化依...
Read More开发者RohanAdwankar近日开源了基于Rust语言构建的图表工具OxDraw,创新性地将声明式图表生成与交互式编辑能力融合。该工具解决了技术文档创作中的核心痛点:传统代码驱动图表工具(如Mermaid.js)虽能快速生成基础...
Read More谷歌Angular团队正式开源Web Codegen Scorer工具,专门用于评估大语言模型生成的网页代码质量。该工具通过构建成功率、安全漏洞检测、编码规范遵循等核心维度,对LLM生成的HTML/CSS/JavaScript代码进行量化评分。开...
Read MoreOllama近日发布了一项创新的Web搜索API,旨在为其AI模型提供实时信息访问能力,从而显著减少模型生成内容中的幻觉现象。该API通过REST端点提供,并已集成到Ollama的Python和JavaScript库中,使模型能够执行长时间的...
Read More