大模型RLHF对齐详解

大模型的对齐，本质上是让人类价值观、安全规范与模型输出行为保持一致的过程，确保AI不仅“聪明”，听话”且“无害”，想象一下,你教一只受过高等教育的狗做数学题，如果它算得对，但咬了人，这显然不是我们想要的结果，大模型就像这只狗，它通过海量数据学会了语言逻辑，但原始状态下它没有道德观念，甚至可能输出有害、偏见或违法……