最近，OpenAI宣布将把大部分资源用于“超级对齐”，这使我们有必要重新审视人工智能对齐社区的一个重要观点——对齐的必要性以及人工智能（AGI）可能带来的真正风险。OpenAI是一个致力于人工智能技术的研发机构，他们的...

OpenAI正在组建一个团队，以开发方法来引导和控制超级智能AI系统。在未来十年内可能出现超过人类智能的AI。目前还没有解决方案来控制潜在的超级智能AI并防止其造成伤害。该团队的目标是通过创建一个人级别的自动对准...

尽管人类在创新方面有着良好的记录，但人均GDP的趋势增长率从未超过3％。还没有一项技术能突破这个3％的门槛。只有强有力的证据才能让我们对任何不同的东西抱有期望。人工智能可能以与互联网相同的方式产生变革，但...

虽然几乎所有科技人士都认为生成式人工智能是我们可以用软件做的一种世代性变革，但对于这项技术的其他方面并没有太多的共识。每当人类发明一波新的自动化浪潮时，整个行业的工作就会消失，但也会创造出新的工作。随...

神经科学家克里斯托夫·科赫与哲学家大卫·查尔默斯打赌，称人类将在2023年前发现大脑神经元如何产生意识，结果科赫输了。

Varun Shenoy认为，自然语言并不是理想的人工智能界面，因为它需要理解一个共享的人类语境，而今天的系统很可能没有这种能力。相反，界面应该对自然语言施加限制，限制选择和模糊性。

DeepMind的Gemini大型语言模型是使用AlphaGo的技术进行训练的，AlphaGo是第一个在围棋比赛中击败职业人类选手的AI系统。Gemini可以规划、解决问题和分析文本。它将AlphaGo类型系统的优势与大型语言模型的能力相结合...

强化学习在扩展方面一直很棘手。也就是说，当你增加模型大小或增加剧集数量时，事情开始变得复杂。然而，在其他AI学科中，扩展带来的性能足够好，值得克服这个挑战。在这项研究中，作者通过使用一些巧妙的设计技巧，...