在大模型自回归推理过程中，KV缓存用于保存每个请求的注意力键值对，避免每一步解码都重新计算。但随着序列长度增加，KV缓存会线性膨胀，长上下文场景下甚至会消耗比模型权重更多的GPU显存，成为稀缺资源。更严重的...

近日，阿里巴巴Qwen研究实验室正式发布Qwen 3.8 27B，这是一款采用Apache 2.0许可的270亿参数开源大语言模型，开放权重约17GB。据知名开发者Simon Willison介绍，该模型在中等参数规模下集成了长上下文处理、高效工...

据《金融时报》援引知情人士消息，TikTok母公司字节跳动正在预训练一个参数量高达10万亿的超大规模人工智能模型。这一数字大约是月之暗面Kimi K3模型参数量的三倍，也超过了Anthropic传闻中Mythos 5约8万亿参数的预...

来自Google的研究团队发布了DiffusionGemma技术报告，提出了一种实验性的开源权重语言模型，通过离散扩散生成文本，速度远超传统自回归模型。DiffusionGemma并未从零训练，而是在专家混合架构Gemma 4（激活参数38亿...

人工智能公司Thinking Machines正式推出开源权重模型Inkling-Small，以更小的体量实现了与Inkling相当的性能。该模型采用混合专家架构，总参数量达276B，但每次推理仅激活12B参数，大幅降低算力需求。Inkling-Small...

人工智能初创公司 Liquid AI 近日发布了全新的 LFM2.5-Encoders，这是一系列专门为在 CPU 上执行高效文档级推理而设计的编码器模型。随着企业级应用对长文本处理的需求激增，摆脱对昂贵 GPU 的依赖、实现低成本的边...

近日，Kimi K3模型的开放权重发布揭示了其架构的诸多细节。该模型本质上是去年发布的Kimi Linear架构的规模化生产版本，整体设计明显向着更高的推理效率演进。K3现已原生支持多模态输入，进一步拓宽了应用边界。本次...

月之暗面（Moonshot）正式开放其最新旗舰模型Kimi K3的权重，并同步发布详细技术报告。Kimi K3是一个总参数量达到2.8万亿的混合专家（MoE）模型，首次在架构层面原生融合视觉理解能力，可直接处理图像与文本交织的多...