如何让工业自主 AI 更安全
2026-10-08 · MIT Tech Review AI · 原文链接
工业 AI 正逐步超越预测分析等范围有限的应用。基础模型、物理 AI 和智能体 AI 的进步，让系统有望在工业环境中承担更复杂的任务。但与此同时，风险也随之上升：与仅在数字环境中运行的 AI 不同，工业 AI 能够与实体设备和生产流程互动，出错可能造成现实影响。要让工业自主化更安全，就必须认真应对 AI 在工业运营中承担更多职责所带来的风险。随着企业探索能力更强的系统，安全应始终是技术开发与部署的核心考量。挑战不只是实现更多自动化，还要确保 AI 适应其所处的物理环境，并避免自主能力提升以牺牲可靠性为代价。