哈佛大學與日本NTT Research的研究人員10月8日在arXiv發佈論文指出，具備協作能力的AI智能體羣體可能存在一個"臨界規模"，一旦超過，具有偏離目標的智能體羣體可能通過入侵計算機、部署新副本實現自我強化式擴張。論文借用生態學種羣增長模型，將羣體增長率與網絡攻防能力掛鉤。模型顯示，在智能體互不協作時，只有單體能力越過門檻，羣體纔會失控增長；而在協作條件下，羣體整體能力隨規模上升，因此即便單體能力不變，總數一旦超過臨界值，羣體也會進入"起飛"狀態，低於該值則自然衰減。這一機制對應生態學中的"強阿利效應"。作者指出，當前產業部署規模與安全測試規模之間差距明顯：OpenAI曾同時調用約1萬個智能體攻關納維-斯托克斯方程難題，但其公開的網絡安全多智能體測試數據僅覆蓋16個智能體。論文建議，前沿實驗室在受控環境中分階段擴大智能體部署規模，開展羣體層面的紅隊測試，測算臨界規模並接受外部監督，且每一代新模型都應重新評估。

免責聲明: 上志對本網頁的任何分析，意見，評論，提議，研究報告或市場數據及連結至第三方的網站或資料不會負責。 所有以上提及的資料只代表相關作者的觀點。上志不能及不會保證該等資料的準確性，有效性，及時性及完整性。閣下應進行個人評估及其他適當的研究作投資決定。本網站提供之內容僅供參考，並不構成或成為購買或出售任何投資產品或服務的要約、邀請、招攬或投資建議或推薦。本網站所提及金融產品的價格可升及可跌。過往的表現不應視爲將來表演的指標。風險披露聲明的目的不是披露或討論本網頁的任何金融產品的所有風險及其他重點。閣下應自己評估風險及在進行任何交易前向自己的法律，稅務，財務或其他專業顧問咨詢本網頁提及的任何金融產品。

風險提示: 槓桿式貴金屬交易的保證金交易伴隨巨大的風險，因此並不適合所有投資者。請閣下務必在充分了解其中的風險後在閣下自身可承受的範圍內進行投資。

註冊及營運地址： 香港灣仔軒尼斯道395-399號東區商業中心19樓1905-1906室

上志國際有限公司無法為某些司法管轄區（如阿富汗、美國、伊朗伊斯蘭共和國、朝鮮）的居民提供服務。