为什么我们不该相信 AI 总能判断何时说“不”
2026-10-09 · MIT Tech Review AI · 原文链接
几十年来，关于智能机器的想象一直隐含着一个看似合理的假设：如果 AI 能像人类一样思考，它也应该能够拒绝执行命令。科幻作品反复描绘机器人违抗指令、反抗创造者，或拒绝执行危险任务的情节，而这些故事通常是在警告人们：赋予机器过多自主权可能带来风险。如今，这种虚构设定正在影响现实世界对 AI 安全的讨论。许多人似乎相信，先进 AI 会自动识别有害指令，并坚定地说“不”。但这种信心可能并不可靠。AI 能否拒绝，取决于它接受了怎样的训练、指令和测试，而不只是取决于它是否足够“聪明”。如果把拒绝行为视为判断力的自动证明，社会可能会对 AI 抱有超出其安全保障能力的信任。