OpenAI致力于解决AI对齐问题
talkingdev • 2023-09-01
1467879 views
OpenAI计划到2027年将20%的计算能力用于解决AI对齐问题。AI对齐问题是指AI系统可能没有与人类目标一致的问题。如果开发出了超级智能的AI系统，这可能会成为未来的一个重要问题。本文采访了OpenAI对齐研究负责人Jan Leike，讨论了解决AI对齐问题的方法以及OpenAI的子目标，即构建一个对齐的AI研究工具来帮助解决对齐问题。
核心要点
- OpenAI计划到2027年将20%的计算能力用于解决AI对齐问题
- AI对齐问题是指AI系统可能没有与人类目标一致的问题
- 本文采访了OpenAI对齐研究负责人Jan Leike，讨论了解决AI对齐问题的方法