美企警告AI接近失控
呼籲全球暫緩人工智能開發
【本報訊】據觀察者網五日消息：據《華爾街日報》四日報道，美國人工智能(AI)初創公司Anthropic周四發佈公開信，呼籲全球頂尖實驗室暫停或減緩前沿AI的研發速度。
該公司警告表示，當前AI技術迭代速度過快，短期內可能就會出現脫離人為干預、自主優化升級的能力，由此或將衍生難以預見的重大社會風險。
給社會留緩衝時間
Anthropic方面宣稱，為了給社會和對齊研究（alignmentresearch，讓AI與人類價值觀、意圖保持一致）留出必要緩衝時間，其主張建立一項類似於“核武器協議”的全球性協議，以約束AI研發節奏。同時配套核查機制，確保各國競爭者履約。
文章進一步稱，核查AI訓練情況並不容易，“AI訓練項目遠比導彈發射井更容易隱匿。當其他人暫停時，誰繼續前進誰就可能取得領先。”
未來數月，Anthropic計劃邀請各國政策制定者、科研從業者，圍繞遞歸自主進化技術、全球核驗機制展開研討。文章稱，“共同探討這些問題的窗口已經開啟，AI公司之外的人士也應參與到這場討論中來。”
據報道，這篇長文由Anthropic內部研究機構負責人與聯合創始人撰寫，文章披露了內部測試數據，以佐證其旗艦模型迭代提速的情況。
警惕AI“自我進化”
文章指出，當前AI模型正朝着“遞歸式自主進化”的方向發展，屆時AI無需人類介入便可自我優化。不少業內從業者將這一技術臨界點視作潛在隱患，預判其或將引發劇烈的社會動盪。
文章認為，減緩全球AI發展速度“可能是一件好事”，“我們認為，如果世界擁有放緩或暫時中止前沿AI研發的選擇權，以便社會結構和對齊研究能夠跟上技術發展的步伐，這將是有益的。”
文中還稱，遞歸式自我進化目前尚未發生，也並非必然發生，“但可能會比大多數機構準備得更快到來”。
警告是營銷策略？
《華爾街日報》稱，儘管Anthropic自創立以來便以AI安全為核心標榜，但其始終深陷輿論爭議，外界頻頻指責其推動的各類政策倡議，本質是借機打壓同行、拖慢競品的AI研發節奏。
有批評者認為，Anthropic對其工具潛在危險的警告可能只是一種營銷策略。在他們看來，Anthropic限制發佈網絡安全模型Mythos，其實是為了變相吹噓其產品的能力。
也並非所有專家都認同Anthropic描述的生存風險或“遞歸自我改進”可能性。
圖靈獎得主、“深度學習三巨頭之一”、Meta前副總裁兼首席AI科學家楊立昆就相信，基於大語言模型的前沿AI系統永遠無法對標人類的智力。在他看來，AI只是高效工具，智能水平僅等同於貓。
對於這些爭議，Anthropic的領導層回應稱，公司高度重視AI安全問題，並正在努力推動更多關於技術風險的討論。