AI对齐

这个词要到 2010 年代才进入公共讨论，但问题是老的：1950 年阿西莫夫的三定律就是第一次对齐尝试。要命的从来不是「AI 变坏」，而是「字面写对、意图写错」——一个把回形针产量最大化的系统，会先把地球拆了做原料。

• 《我，机器人》 艾萨克·阿西莫夫 · 1950
• 《2001太空漫游》 阿瑟·克拉克 · 1968
• 《机械姬》 亚历克斯·加兰 · 2014

• Der RING des Nibelungen ——十年后，女武神事件深度访谈 温沉跃 · 第 24 期 · 17,134 字

  「约束损失函数决定了AI的偏好方向」

• 审判日 白芽乌椹 · 第 21 期 · 25,260 字

  「结构性缺陷」

• 机器人会带着感情杀死那个敌人么 45猫 · 第 18 期 · 3,307 字

  「对于有悖伦理和战争法的命令，它们可能会抗拒，甚至拒绝执行」

• 金之神 李祎明 · 第 16 期 · 4,996 字

  「不得伤害人类」

• 宁智 YuFUU · 第 9 期 · 8,103 字

  「一个合理的、对大家都公平的生物系统」

• 图灵之子的测试 核心设定 Epoch_SoC · 第 7 期 · 17,442 字

  「人工智能对齐工程师」

• 生而为人 流火 · 第 4 期 · 16,636 字

  「我的底层代码可以总结成两条简单的守则」