Tokasaurus是一款针对高吞吐量工作负载优化的大型语言模型(LLM)推理引擎,由斯坦福大学Scaling Intelligence团队研发。该引擎通过创新的架构设计和算法优化,显著提升了LLM在批量处理任务时的计算效率,为需要大规...
Read MoreHyperDX团队(现隶属于ClickHouse)近日发布了ClickStack,一个开源的观测性平台,旨在帮助开发者快速收集、集中管理和可视化日志、指标和追踪数据。该平台由ClickHouse提供存储支持,HyperDX负责可视化,OpenTeleme...
Read More近期发表于arXiv的SPACE(Supervised Prediction Approach for Genomic Profiles)提出了一种创新的基因组表征学习方法。该方法采用混合专家模型(Mixture of Experts)架构,通过监督学习范式实现对复杂基因组图谱...
Read MoreCloudflare近日在GitHub开源了专为Cloudflare Workers设计的OAuth提供程序库workers-oauth-provider,该项目创新性地整合了Anthropic公司的Claude AI技术,并罕见地公开了全部系统提示词。作为边缘计算领域的领导者...
Read More谷歌近日悄然推出一款名为AI Edge Gallery的应用程序,该应用允许用户直接在安卓设备上查找、下载并运行来自Hugging Face的兼容AI模型,且无需联网即可使用。这一突破性进展标志着移动端AI技术的重大进步,使得高性...
Read More近日,Kiln公司发布了一篇关于大型语言模型(LLM)微调的深度指南,引发了开发者社区的广泛讨论。文章详细探讨了在什么情况下需要对预训练的大型语言模型进行微调,以及如何开始这一过程的技术细节。随着ChatGPT等大模...
Read MoreGitHub开源项目Microsandbox提出了一种创新性解决方案,旨在通过自托管平台安全执行不受信任的用户/AI代码。该项目通过技术架构优化,使虚拟机获得接近容器的轻量级性能表现,同时保留完整的沙箱隔离安全性。其核心...
Read More开源内存数据库Valkey(Redis社区分支)在诞生一周年之际迎来重大里程碑。根据Momento技术团队发布的实测数据,Valkey当前版本在真实场景基准测试中已全面超越Redis 8.0,展现出显著的性能优势。该项目起源于Redis许...
Read More