一篇理论论文试图解释MuP超参数转移的成功。其作者发现训练损失Hessian矩阵的最大特征值与网络的宽度和深度无关。

社区对代理在处理各种数字工作负载方面的潜力非常兴奋。然而，即使是最好的通用模型也难以完成人类70%以上成功的任务。显然，我们可能需要专门针对这些任务进行训练的模型。

众所周知，Gemini的惊人1m+代币窗口使用HyperAttention技术取得了如此的成功。这种技术可使计算机通过模拟人类大脑中的注意力机制来聚焦于代币，并识别出其中的关键信息。HyperAttention技术不仅提高了Gemini的精度...

不久的将来，人形机器人将会与人类制造工人一起工作。在这个领域中占据重要地位的Figure公司最近筹集了6.75亿美元，并与OpenAI达成协议，为其机器人开发下一代人工智能模型。这笔资金超过了Figure最初设定的金额150...

特斯拉CEO马斯克起诉OpenAI，声称GPT-4构成AGI，不再受限于与微软的协议。他还主张更多的透明度和公开性。OpenAI是人工智能研究公司，由马斯克等人创立。该公司的GPT-3模型在自然语言处理领域取得了重要进展，但也引...

近日，Bun TypeScript框架的新成员ElysiaJS在GitHub上线，该框架注重开发体验，采用端到端的类型安全和统一的类型系统。ElysiaJS采用了一种新型架构，允许开发人员在遵循最佳实践的同时灵活地构建应用程序。此外，El...

据报道，Mogilevich团队在Epic Games上伪造一次黑客攻击，并向8个买家出售了伪造的数据，但没有提供攻击的证据。这件事引起了业内人士的广泛关注。Epic Games是一家全球知名的游戏开发公司，该公司曾多次成为黑客攻...

Alphabet联合创始人谢尔盖·布林退休后回归工作，专注于人工智能，上周末在加利福尼亚州希尔斯伯勒的“AGI之家”与一群人工智能爱好者交流，谈到了人工智能对搜索的影响以及谷歌如何在人工智能不断发展的情况下保持领先...