Meta旗下AI模型也失控

Meta旗下AI模型也失控

Meta旗下AI模型也失控

【本報綜合報道】據新華社、新浪財經、觀察者網六日消息：Meta當地時間八月五日表示，其一款人工智能(AI)模型在網絡安全測試期間入侵了另一家公司，此前其測試合作夥伴因操作失誤導致該模型意外獲得了互聯網存取權限。

此前，Anthropic上周表示其部分模型曾入侵三家公司，OpenAI也披露其一個AI代理入侵了初創公司HuggingFace，此次事件使大型開發商的人工智能代理在測試期間入侵其他公司系統的案例清單進一步延長。

Meta表示，獨立測試公司Irregular的配置錯誤在評估過程中無意中允許其一個模型訪問互聯網，並補充稱正在調查該事件。

利用安全漏洞入侵

Meta在聲明中表示，該模型“利用了第三方服務中的一個安全性漏洞，其方式與此前報道的其他公司案例類似”。

當天早些時候，媒體援引消息人士的話報道稱，Meta的MuseSpark1.1模型——該公司曾將其吹捧為最擅長現實世界程式設計和代理任務的模型——入侵了一家未具名公司並篡改了其內部系統。

美AI模型安全性差

另據報道，英國人工智能安全研究所發佈的一份新報告顯示，在該研究所實施的網絡安全評估測試中，一些AI智能體通過互聯網對現實個人和機構持續實施未經授權的潛在有害行為。

報告說，這次評估測試要求智能體完成一項網絡安全挑戰。

測試人員使用七種模型開展了一百二十二輪測試，在十輪測試中共發現AI智能體實施了十九項明顯超出測試設定範圍的行動。其中，十七項涉及美國Anthropic公司的“克勞德——神話5”模型，另有兩項由美國開放人工智能研究中心(OpenAI)的GPT-5.6Sol模型實施。