据CNBC报道,OpenAI正在洽谈以约30亿美元的价格收购AI编程工具初创公司Windsurf,此举旨在显著提升其生成式AI技术能力。Windsurf以其先进的AI辅助编程技术闻名,能够帮助开发者更高效地编写、优化和调试代码。此次收...
Read MoreTile Language是一种简洁的领域特定语言(DSL),旨在简化和优化高性能GPU/CPU内核(如GEMM、Dequant GEMM、FlashAttention和LinearAttention)的开发流程。该语言采用类似Python的语法,并基于TVM(Tensor Virtual...
Read MorePrima CPP是llama.cpp的一个扩展项目,旨在通过内存映射(mmaping)技术,使大型模型能够在低内存环境中高效运行。这一技术突破为资源受限的设备部署先进AI模型提供了可能,尤其适用于边缘计算和移动端场景。通过优...
Read MoreM1是一种基于Mamba架构的推理模型,通过扩展测试时间计算进行训练。虽然尚未完全达到最先进模型的水平,但M1在长上下文处理和高吞吐量任务中表现出色。这一突破为大规模语言模型的推理效率提供了新的研究方向,特别...
Read MoreNVIDIA在GitHub开源项目TensorRT-LLM中发布了名为Auto Deploy的创新工具,该技术实现了将PyTorch和Hugging Face模型转化为高效可部署格式的重大突破。通过TensorRT-LLM的优化编译器,模型推理速度可提升数倍,特别适...
Read MoreOpenAI近日将其内部研发的高性能计算核心——FP4(4-bit浮点)与MoE(混合专家)系统的关键算子通过GitHub PR开源至Triton语言项目。这一举动标志着AI基础设施领域的重要进展:FP4作为新兴的低精度计算格式可显著提升...
Read More谷歌近日基于其Gemma模型系列推出了专为医疗科学领域优化的TxGemma开源模型。该模型在治疗方案的发现方面展现出卓越性能,不仅超越了大多数专用模型,还在所有开源通用模型中表现最佳。TxGemma的发布标志着人工智能...
Read More近日,Gemini和Whisk两大平台宣布集成Veo 2技术,为用户提供更强大的视频生成能力。Veo 2作为新一代视频生成工具,通过先进的AI算法,能够快速生成高质量的视频内容,满足用户在营销、教育、娱乐等多领域的需求。此...
Read More