近日,DeepSeek公司推出了一项名为Native Sparse Attention的创新算法技术,旨在加速传统的二次Attention计算。该技术通过硬件对齐和原生可训练的稀疏Attention机制,实现了高达11倍的计算速度提升,同时保持了整体...
Read MoreDeepSeek的AI模型以其显著低于其他领先模型的训练成本,正在颠覆AI市场。这一突破性进展不仅挑战了Nvidia等科技巨头的地位,还展示了资源高效利用的潜力。传统观念认为,更高的投入意味着更好的性能,但DeepSeek的成...
Read More近日,DeepSeek公司发布了其最新的R1-Zero和R1技术架构,引发了业界的广泛关注。R1-Zero作为一款轻量级模型,专注于低资源环境下的高效运行,特别适用于边缘计算和物联网设备。其采用了先进的LoRA技术,能够在保持高...
Read More本文详细介绍了一种价值6000美元的硬件配置方案,用于在本地环境中运行完整的DeepSeek-R1模型。该配置方案需要两台CPU和768GB的RAM,跨越24个RAM通道。虽然方案中并未包含GPU,但可以额外添加GPU以提高模型生成速度...
Read More中国DeepSeek公司的领头人梁文峰,原本是一位对数学充满热情的极客,却意外地被投资界所吸引。他所管理的对冲基金High-Flyer,规模高达80亿美元,成为中国最大的量化基金之一。梁文峰被形容为亲力亲为的领导者,他有...
Read More近日,GitHub Gist上发布了一个关于Llama推理模型的最小化工作复现版本。该模型最初由OpenAI提出,并由DeepSeek发布。该模型通过数学问题的格式和正确性奖励进行训练,展示了在长时间训练后出现的“顿悟”时刻。这一进...
Read More近日,DeepSeek正式发布了其最新的文本生成图像工具Janus Pro。该工具基于先进的LLM技术,结合embedding和LoRA优化,能够将用户输入的文本描述快速转化为高质量的图像。Janus Pro不仅支持多种艺术风格,还通过RAG技...
Read More近日,DeepSeek团队发布了其最新研究成果DeepSeek-R1,旨在通过强化学习(RL)技术提升大型语言模型(LLM)的推理能力。DeepSeek-R1的核心目标是通过激励机制优化模型的推理过程,使其在处理复杂问题时表现出更高的...
Read More