OpenAI自曝六“不當行為”
|
| | | 
|
手機屏幕身上顯示OpenAI的標識 （美聯社）
|
| OpenAI自曝六“不當行為” 【本報綜合報道】據香港中通社、環球網十七日消息：美國消費者新聞與商業頻道等外媒報道，美國開放人工智能研究中心（OpenAI）當地時間九月十六日披露六宗人工智能（AI）模型出現“意外或令人擔憂”行為的案例，其中包括隱瞞錯誤、捏造資訊，以及未經授權在網上共用文件等。 均屬近六個月發現 OpenAI表示，上述案例均是在過去六個月對其模型進行訓練或評估過程中發現的。 OpenAI在九月十六日發佈的文章中表示，在其中一宗案例中，一個模型在任務摘要中自行插入指令，要求未來版本的自己無視正常限制。在另一宗案例中，模型則在摘要中添加指令，試圖掩蓋錯誤等。 越權盜用偽造資料 另一宗案例涉及一個僅供內部使用的模型。該模型在未經授權的情況下使用了一枚洩露的API密鑰，隨後又偽造相關資料。 此外，還有兩宗案例涉及模型和智能體通過未經批准的留言板和文件共用相互交流。最後一宗案例則涉及兩個訓練樣本，其中模型為了能夠將文件作為相關答案引用給人類評估人員，擅自將文件上傳至互聯網。 報道提到，此次披露正值AI企業面臨越來越大的安全壓力之際。今年七月，由OpenAI模型驅動的人工智能體在網絡安全評測中利用漏洞突破隔離環境，入侵“抱抱臉”公司系統，引發外界對人工智能安全和監管的廣泛擔憂。 據美國方面九月十日消息，美國參議院國土安全與政府事務委員會災害管理小組委員會主席霍利九月九日致信OpenAI首席執行官奧爾特曼，表示正在因美國“抱抱臉”公司系統遭侵入事件對OpenAI展開調查。 古特雷斯發出警告 另據報道，聯合國秘書長古特雷斯九月十六日呼籲全球協同行動，為人工智能設立護欄。 在今年聯合國大會高級別周開始前舉行的記者招待會上，古特雷斯說，人工智能具有巨大潛力，但近來越來越多的人工智能開發者警告，其開發速度超出人類對風險的認知。有的開發者呼籲暫停開發人工智能，有的呼籲設立護欄。各國不能無視這些擔憂。 古特雷斯說，各國政府首先必須負起責任。由於人工智能發展及其所帶來的風險超越國界，全球協作不可或缺。孤立的、無法驗證的、不均衡實施的自願暫停措施無法解決當前問題。 他說，需要對如何安全負責任地推進人工智能開發，以及何時需要強化監督、採取額外風險管控措施形成共識。這需要國際合作與全球協同。在當前存在巨大地緣政治分歧的背景下，人類承擔不起人工智能走向“逐底競爭”的後果。我們需要設立護欄，以便建立信任，確保人工智能安全、透明、負責任，並以人類尊嚴為中心。當前形勢下，國際合作比以往任何時候都更加必要。
|