人工智能的发展极度依赖大量数据支持，科技公司对数据的渴求速度远超数据产生的速度，有预测指出到2026年高质量数字数据可能会耗尽。为此，像OpenAI、谷歌和Meta这样的公司正在探索获取更多数据的新方法，包括使用Yo...

Linear Attention Sequence Parallel（LASP）是一套新型策略，专为高效处理语言模型中的长序列而设计。该技术通过创新性地运用线性注意力机制，超越了传统方法，实现了对长序列数据的优化管理。LASP的核心优势在于其...

SableDb是一款新兴的键值对NoSQL数据库，其设计目标是相较于Redis进一步降低内存成本并提升数据存储容量。该数据库采用了高效的数据结构和算法，优化了内存使用效率，使得在处理大量数据时仍能保持较低的资源消耗。S...

OpenAI 首席执行官 Sam Altman 已将其公司的风险投资基金——OpenAI 创业基金的控制权移交给 Ian Hathaway。Ian Hathaway 自 2021 年起加入 OpenAI，并在管理该基金方面发挥了关键作用。此次管理权的转交标志着 OpenAI...

研究人员发现一种侧信道攻击手段，该手段通过利用加密内的令牌传输，能够以高准确率解密AI助手的特定话题聊天内容。这种攻击方法使用大型语言模型将令牌序列重构为可读文本，可能会暴露用户的敏感对话。除了谷歌的Ge...

比亚迪近日发布了全新的电动车型Seagull EV Honor Edition，起售价仅为9700美元。尽管比亚迪目前没有计划进入美国乘用车市场，但这款新车型的定价无疑给美国汽车制造商带来了降价的压力。Seagull EV Honor Edition的...

DocuSign拥有超过7000名员工，其中大部分从事销售工作。大约24%的员工致力于工程、产品开发和客户运营。该公司的销售和工程人员比例并不罕见。即使公司在一个领域中地位稳固，其未来和利润也总是充满不确定性——因此...

本文详细介绍了Lamini公司在AMD GPU上进行大型语言模型训练的技术架构。这包括了他们所使用的调度程序、模型训练技术以及其他相关技术细节。Lamini的技术团队选择了AMD GPU作为硬件加速平台，以优化模型训练的性能和...