人工智能语言模型Claude采用宪法AI方法进行训练
talkingdev • 2023-05-10
1796252 views
Anthropic公司采用宪法AI方法对其语言模型Claude进行训练，为其赋予了明确的价值观。这些价值观是根据一系列宪法原则确定的，包括联合国人权宣言等，而不是像RLHF输入那样由隐含的价值观决定。 ## 主要内容： - Anthropic公司的语言模型Claude采用宪法AI方法进行训练 - Claude的价值观是根据一系列宪法原则确定的 - 采用宪法AI方法训练语言模型可以为其赋予明确的价值观