Google DeepMind：百萬AI代理網上互動的風險
2026-06-11 · MIT Tech Review AI · 原文链接
Google DeepMind正在加大資金投入，調查大規模AI代理互動的潛在危險。隨著越來越多能夠在沒有人類監督下完成任務的自主代理普及，AGI安全與對齊研究部門主管 Rohin Shah 警告稱，這些互動的百萬系統可能會帶來不可預測的風險。該研究旨在了解當這些代理開始相互通信並為彼此執行指令時，可能會發生什麼情況，這是確保下一代AI安全的一個關鍵步驟。
Google DeepMind正在加大資金投入，調查大規模AI代理互動的潛在危險。隨著越來越多能夠在沒有人類監督下完成任務的自主代理普及，AGI安全與對齊研究部門主管 Rohin Shah 警告稱，這些互動的百萬系統可能會帶來不可預測的風險。該研究旨在了解當這些代理開始相互通信並為彼此執行指令時，可能會發生什麼情況，這是確保下一代AI安全的一個關鍵步驟。