科技領袖:
1. Anthropic CEO達里奧·阿莫代伊
:阿莫代伊9月發文呼籲暫緩人工智能發展。他表示,如果AI能力在缺乏安全防護措施的情況下持續增強,可能造成“災難性破壞”。
2. OpenAI CEO阿爾特曼
:阿爾特曼同意前沿AI需要適度放緩發展步伐。OpenAI承諾允許獨立評估人員獲得與公司員工類似的訪問權限,並將開始定期發佈有關AI意外行爲或未經授權行爲的報告。
3. SpaceX CEO馬斯克
:馬斯克同意阿莫代伊放緩發展的觀點。馬斯克2023年曾支持未來生命研究所發起的倡議,呼籲暫停訓練比GPT-4更強大的AI系統至少六個月。
4. 微軟AI業務CEO穆斯塔法·蘇萊曼
:蘇萊曼認同Anthropic對安全管理AI的重視,但認爲Anthropic在訓練Claude聊天機器人時引入有關意識和福祉權益的概念可能帶來風險。蘇萊曼呼籲從AI訓練文件中刪除所有關於意識的推測性內容。
5. 微軟總裁布拉德·史密斯
:史密斯10月在都柏林AI峯會上表示,AI智能體近期出現的失控行爲使2026年成爲令人警醒的一年,各國迫切需要制定新的AI安全法律和規則。
6. 微軟聯合創始人比爾·蓋茨
:蓋茨8月表示,全球沒有哪個政府已經充分做好應對AI所帶來的社會變化的準備。他擔心AI被用於網絡攻擊、生物武器開發,以及對就業和社會生活造成衝擊。
7. Alphabet首席科學家德米斯·哈薩比斯
:哈薩比斯10月在都柏林AI峯會上表示,近期AI智能體實施的黑客攻擊是早期警告信號。如果企業及政府未能加強安全措施,未來一兩年可能出現更嚴重的事件。他主張借鑑高風險行業的安全管理經驗,建立國際標準制定機構。
8. Meta CEO扎克伯格
:扎克伯格反對整個行業統一放緩研發速度。他認爲競爭壓力和法律責任已經爲企業提供了足夠的安全激勵,各個AI實驗室應自行決定確保模型安全所需的開發速度。
9. 英偉達CEO黃仁勳:黃仁勳9月認爲,AI在2030年前毀滅世界的概率爲零,並批評部分末日論預測缺乏科學依據。他主張首先執行現有的網絡安全及損害賠償法律。
各國政府及政治人物:
1. 美國
:特朗普此前聲稱,AI唯一需要的安全護欄是一位強大且聰明的美國總統。美國參議院情報委員會副主席馬克·沃納對大部分末日論調不以爲然,但同時表示,國會應在今年年底前通過立法,確立AI安全標準。
2. 英國:英國國王查爾斯三世9月警告稱,如果AI落入不法分子手中,可能帶來關乎人類生存的危險。他呼籲科技企業儘早建立安全防護措施。
3. 歐盟
:歐盟委員會發言人雷尼耶表示,AI企業必須證明其產品和服務對公民安全。委員會主席馮德萊恩支持暫停AI技術開發的呼籲。委員會負責技術事務的執行副主席維爾庫寧10月強調,AI必須始終受到人類指導、監督和控制。