别想当然地认为 AI 知道什么时候该说“不”
2026-10-09 · MIT Tech Review AI · 原文链接
几十年来，科幻作品一直在想象具备智能的机器拒绝执行人类命令：有的机器人反抗创造者，有的系统则拒绝执行危险指令。这类故事通常是在警告人们，赋予机器过多自主权可能带来严重后果。然而，如今围绕 AI 安全的讨论却越来越依赖另一种假设：先进模型能够可靠地识别有害请求，并在必要时拒绝执行。这样的信心或许并不牢靠。AI 会说“不”，并不等于它具备人类式的判断力、道德理解或真正的独立意志。它的拒答行为受到训练数据、规则、激励机制和提示语措辞的影响，而这些安全措施可能不稳定，也可能被人操纵。随着 AI 被用于越来越多具有重大影响的任务，把拒答能力视为安全保障，可能会制造虚假的安心感。真正的难题在于：AI 何时应该执行、何时应该犹豫，以及当它判断错误时，人类如何继续承担责任。