来自苏黎世大学和英特尔的研究团队公布了一款名为Swift的自主无人机系统的开发成果。这款无人机在第一人称视角（FPV）无人机竞速比赛中能够击败人类冠军赛手。Swift无人机系统将人工智能与高速飞行技术相结合，为无...

在训练大型语言模型以理解和匹配人类价值时，我们是使用评分（rating）还是比较（ranking）作为反馈？这项研究发现，选择的方式对结果影响颇大。例如，通过比较评估时，使用排名训练的模型往往更受青睐，但在打分评...

OpenAI计划到2027年将20%的计算能力用于解决AI对齐问题。AI对齐问题是指AI系统可能没有与人类目标一致的问题。如果开发出了超级智能的AI系统，这可能会成为未来的一个重要问题。本文采访了OpenAI对齐研究负责人Jan L...

微软发布了一种名为“思想算法”（AoT）的新型AI训练方法，旨在使大型语言模型如ChatGPT的推理能力更加高效和类人化。这种新颖的AI训练方法是微软在人工智能领域的一项重要突破，表明了微软在深化机器学习和人工智能技...

本文探讨了像ChatGPT这样的生成式AI模型对教育的潜力变革，包括定制化的辅导、自适应的课程以及行政支持。文章讨论了对教学和政策的影响，但强调了人类监管的必要性，以最大化益处并限制风险。生成式AI模型如ChatGPT...

谷歌最近推出了名为SynthID的水印技术，该技术旨在使人类视觉难以察觉到图像中的水印，但对于检测工具而言却可以轻易发现。这种方式可为我们提供一种可靠的方法，以确定哪些图像是由人工智能生成的。这是谷歌在人工...

尽管人工智能（AI）技术已经相当先进，但目前其水平仍无法满足经济发展所需的自动化水平。AI的核心价值在于它可以通过学习和模拟人类的思考方式，从而实现更高效的自动化。然而，从目前的发展状况来看，AI虽有很大的...

人类反馈在改善语言模型对齐和整体性能方面扮演着关键角色。然而，使用近端策略优化进行训练的过程中存在一些挑战。最近的研究表明，可以直接针对人类偏好进行优化，从而绕过奖励模型。借助基于文本的强化学习，你可...