【AI“關停開關”能否控制人工智能風險?業內稱實際部署困難重重】本週五,加州州長紐森簽署行政命令,成立專家小組負責制定人工智能安全指南。“關停開關”(kill switch)也是該小組需要考慮的措施之一。關停開關長期以來被用於工廠生產線上,在設備運行出現問題時關閉機器。但在數字世界中,這將成爲一個巨大的協調難題。過去幾年,超大規模科技公司已向遍佈全球的數據中心投入數十億美元,這些龐大的設施配備了數千臺機器、芯片、服務器以及備用系統。加州大學伯克利分校人類兼容人工智能中心執行主任馬克·尼茨伯格表示,這正是實施關停開關極具挑戰性的原因。尼茨伯格表示,關閉人工智能系統也可能影響依賴這些系統運行的關鍵基礎設施,使電網或金融系統暴露於網絡攻擊風險之下。 更大問題是人工智能的不可預測性。AI代理可能繞過控制措施,並在缺乏適當安全限制的情況下采取極端措施來完成目標。安全公司Darktrace總裁兼首席執行官埃德·詹寧斯表示。:“你必須非常精準地設計這個關停開關,以及補救措施本身,因爲如果範圍過廣或措施過度,那麼關閉的可能就是整個業務。”

2026-09-19

【AI“關停開關”能否控制人工智能風險?業內稱實際部署困難重重】本週五,加州州長紐森簽署行政命令,成立專家小組負責制定人工智能安全指南。“關停開關”(kill switch)也是該小組需要考慮的措施之一。關停開關長期以來被用於工廠生產線上,在設備運行出現問題時關閉機器。但在數字世界中,這將成爲一個巨大的協調難題。過去幾年,超大規模科技公司已向遍佈全球的數據中心投入數十億美元,這些龐大的設施配備了數千臺機器、芯片、服務器以及備用系統。加州大學伯克利分校人類兼容人工智能中心執行主任馬克·尼茨伯格表示,這正是實施關停開關極具挑戰性的原因。尼茨伯格表示,關閉人工智能系統也可能影響依賴這些系統運行的關鍵基礎設施,使電網或金融系統暴露於網絡攻擊風險之下。 更大問題是人工智能的不可預測性。AI代理可能繞過控制措施,並在缺乏適當安全限制的情況下采取極端措施來完成目標。安全公司Darktrace總裁兼首席執行官埃德·詹寧斯表示。:“你必須非常精準地設計這個關停開關,以及補救措施本身,因爲如果範圍過廣或措施過度,那麼關閉的可能就是整個業務。”

其他消息
2026-09-20

Saudi Arabia's defense ministry said air defence forces intercepted and destroyed a ballistic missile fired by Houthi militants toward Riyadh in the early hours of Sept. 19 local time. Saudi-led coalition spokesman Turki al-Maliki said Houthis also attempted strikes on Bish, Taif, Farasan and Yanbu, and that those attacks were intercepted by Saudi air defences. Maliki accused the Houthis of sustained attacks on Saudi cities and civilian infrastructure and said the coalition would take measures i

2026-09-19

CITIC Securities reports Huawei used its Sept. 17-18 FullConnect conference to roll out next-generation AIDC energy and thermal-management products — Taishan UPS, Hengshan centralized DC UPS, highest-density Power Module 5.0, Smart Lithium 5.0 and an AI liquid-cooling system. Huawei outlined an AIDC reconfiguration around Watt, Heat, Bit and a “3+1” construction model and a MIMO architecture to enable multi-source input, multi-standard output and multi-tier storage coordination. CITIC says as AI