什么是AI对齐？
确保AI系统按照人类价值观和意图运行的过程。
定义
AI Alignment（AI对齐）是确保AI系统按照人类价值观、目标和意图运行，避免意外有害结果的过程。
目的
Alignment旨在确保AI系统理解并执行人类的真正意图，以与人类福祉和价值观一致的方式运行。
功能
AI对齐通过从人类反馈中学习、价值学习、奖励建模和实施安全约束来工作，确保AI的行为符合人类期望。
示例
医疗AI被设计为优先考虑患者的最佳利益，遵循医学伦理，避免有害或有偏见的治疗建议。
相关
Alignment与AI安全、机器学习、伦理学、护栏、从人类反馈中学习密切相关。