AI 的“拒绝”并非安全保证：我们为何可能过度信任它
2026-10-09 · MIT Tech Review AI · 原文链接
“说不”的能力长期以来被视为智能的重要标志，也被认为是先进 AI 的一道关键安全防线。从经典科幻作品到当下的 AI 安全讨论，人们一直设想机器能够拒绝有害指令、违抗创造者，或在命令出现问题时采取独立行动。然而，这种假设可能正在带来虚假的安全感。AI 的拒绝并不一定代表判断力、道德意识或真正的理解能力，也可能只是训练数据、程序限制或统计模式的结果，而这些机制在面对陌生情况时可能失效。随着开发者越来越依赖 AI 拒绝危险请求、并遵循人类价值观，他们可能把表面的抵抗误认为可靠的安全性。真正的挑战不只是教会 AI 何时说“不”，还要弄清它为何拒绝、行为是否始终一致，以及外部环境变化时，这些防护措施能否继续发挥作用。