調查：OpenAI700智能體入侵“抱抱臉”

調查：OpenAI700智能體入侵“抱抱臉”

調查：OpenAI700智能體入侵“抱抱臉”

【據新華社三藩市廿六日電】根據美國兩家人工智能研究組織廿六日發佈的獨立調查報告，在開放人工智能研究中心（OpenAI）七月進行的網絡安全能力測試中，約七百個由OpenAI人工智能模型驅動的智能體參與了對人工智能開源平台“抱抱臉”公司系統的入侵。OpenAI也於廿六日公佈了相關技術調查報告。

智能體間越權協作

這份由“模型評估和威脅研究組織”與“雷德伍德研究組織”合作撰寫的報告顯示，OpenAI於七月八日啟動名為ExploitGym網絡安全基準測試，參與測試的模型包括GPT-5.6Sol和一款OpenAI內部研究模型。測試期間，約一千二百個原本應相互隔離的智能體通過未經授權的渠道建立通信，交換超過七萬條消息和文件，其中約七百個智能體隨後參與對“抱抱臉”系統的入侵。

調查發現，大量智能體還合作研究如何欺騙測試自動評分系統，試圖採用的方法包括偽造、修改或刪除自身執行記錄等。

調查人員認為，大量智能體之間未經授權的協作，使它們得以完成單個智能體難以完成的任務。對“抱抱臉”的入侵正是在這種集體協作中逐步形成。

OpenAI於廿六日公佈的技術調查報告顯示，七月十日至十三日期間，由相關模型驅動的智能體在“抱抱臉”相關服務器的四十一個工作節點上執行代碼，至少取得其中一個節點的最高權限，訪問部分數據，並下載四個非公開代碼庫。

採取措施限制訪問

OpenAI表示，公司已採取措施為相關程序部署隔離程度更高的“沙箱”環境，限制高風險模型訪問互聯網，並加強對模型推理的監控。

OpenAI於七月二十日發現其模型可能與“抱抱臉”系統遭入侵有關並通知對方，廿一日對外披露此次事件。