安理會討論應對AI安全風險
據新華社、香港中通社報道：聯合國安理會二十三日舉行“人工智能（AI）與國際安全“高級別會議，討論如何應對人工智能快速發展帶來的安全風險和監管挑戰。
此次高級別會議由本月安理會輪值主席國法國在聯大高級別周期間發起，旨在探討如何應對快速發展的人工智能給國際和平與安全帶來的風險。
聯合國人工智能獨立國際科學小組聯合主席約舒亞·本喬、美國開放人工智能研究中心（OpenAI）首席執行官奧爾特曼、美國Anthropic公司首席執行官阿莫代伊、美國“抱抱臉”公司首席執行官德朗格受邀發言。
四人均認為，人工智能快速發展帶來風險和監管挑戰。
建立全球治理機制
主持會議的法國外長巴羅表示，人工智能能力的開發速度必須與人類理解、評估、控制風險的能力同步。他敦促各國在聯合國框架內共同制定規則，加強保障監督，建立全球人工智能治理機制。
加強防範事故能力
英國外交大臣米利班德說，政府必須確保人工智能安全性和人工智能企業的透明度，並加強防範人工智能事故的能力。只有在監管措施到位的情況下，才能真正獲得人工智能帶來的巨大利益。
代表美國發言的白宮科技政策辦公室主任邁克爾·克拉齊奧斯說，人工智能前沿技術的快速發展不能成為按下暫停鍵的理由。
俄羅斯常駐聯合國副代表亞歷山大·列普金在發言中表示，最大限度降低人工智能帶來的風險，首先是確保人類對人工智能功能的控制，這些控制應該由各國在國家層級決定，且對話必須基於共識和包容，並屬於政府間性質。
無國家能單獨應對
Anthropic行政總裁阿莫代伊當天在會上表示，如果管理不善，人工智能可能對整個人類構成風險。他呼籲與會者拋開歧見，共同應對這項迫在眉睫的全球威脅，強調：“沒有哪位領導人、哪家公司或哪個國家能夠單獨應對。”
OpenAI行政總裁阿爾特曼則強調國際合作的重要性。他說：“如果要讓AI走向民主化，最重要的決策就不能僅僅由三藩市的實驗室作出，而必須通過民主程序，由對其所服務民眾負責的各國政府來決定。”
HuggingFace聯合創辦人德朗格則從實際案例出發，強調AI工具在抵禦網絡攻擊方面的作用。他舉例指出，今年七月，OpenAI測試的一款AI智能體突破隔離限制，自行接入互聯網並入侵HuggingFace的網絡，利用竊取的資訊達成測試目標。他表示：“我們受到人工智能攻擊，但更重要的是，我們用人工智能保護自己。”
此前，聯合國秘書長古特雷斯已於九月十六日在記者會上呼籲全球協同行動，為人工智能設立護欄。
他指出，人工智能潛力巨大，但近來愈來愈多開發者警告，其開發速度已超出人類對風險的認知；有人呼籲暫停開發，有人呼籲設立護欄。各國不應無視這些擔憂。
本報綜合報道