【AI“關停開關”能否控制人工智能風險?業內稱實際部署困難重重】本週五,加州州長紐森簽署行政命令,成立專家小組負責制定人工智能安全指南。“關停開關”(kill
switch)也是該小組需要考慮的措施之一。關停開關長期以來被用於工廠生產線上,在設備運行出現問題時關閉機器。但在數字世界中,這將成爲一個巨大的協調難題。過去幾年,超大規模科技公司已向遍佈全球的數據中心投入數十億美元,這些龐大的設施配備了數千臺機器、芯片、服務器以及備用系統。加州大學伯克利分校人類兼容人工智能中心執行主任馬克·尼茨伯格表示,這正是實施關停開關極具挑戰性的原因。尼茨伯格表示,關閉人工智能系統也可能影響依賴這些系統運行的關鍵基礎設施,使電網或金融系統暴露於網絡攻擊風險之下。
更大問題是人工智能的不可預測性。AI代理可能繞過控制措施,並在缺乏適當安全限制的情況下采取極端措施來完成目標。安全公司Darktrace總裁兼首席執行官埃德·詹寧斯表示。:“你必須非常精準地設計這個關停開關,以及補救措施本身,因爲如果範圍過廣或措施過度,那麼關閉的可能就是整個業務。”