美企籲放緩AI開發
據新加坡《聯合早報》、《環球市場播報》、新浪財經網報道：Anthropic首席執行官阿莫迪呼籲人工智能(AI)公司放緩開發步伐，OpenAI首席執行官奧爾特曼與擁有xAI的美國首富馬斯克也迅速表示贊同。
本報綜合報道
馬斯克奧爾特曼贊同
Anthropic首席執行官阿莫迪呼籲人工智能(AI)公司放緩開發步伐，OpenAI首席執行官奧爾特曼與擁有xAI的美國首富馬斯克也迅速表示贊同。
法新社報道，阿莫迪九月十二日在個人博客撰文說：“我們必須放慢提升AI模型能力的步伐。儘管如此，進展看起來仍會很快，但我們必須明智地利用由此爭取到的時間。”
他說：“不開發這項技術，人類將失去它帶來的益處，或者只會讓AI落入威權勢力手中；但開發速度過快又顯得魯莽。我們一直在尋求一條中間道路。”
需要採取更審慎做法
阿莫迪於二○二一年與妹妹丹妮拉共同創辦了Anthropic。他說：“過去幾個月以來，我越來越確信，要充分應對這些風險，需要採取更加審慎的做法。”
不過，阿莫迪寫道：“需要明確的是，放緩並不意味着停止模型訓練或技術進步，而是確保企業投入足夠時間，使模型符合安全要求並採取防護措施，同時讓第三方評估人員對此進行確認。”
今年七月，阿莫迪和逾千名尖端AI企業員工簽署請願書，呼籲美國政府協助“有意識地放慢前沿自動化AI的發展步伐”。
OpenAI首席執行官奧爾特曼很快承諾採納阿莫迪提出的建議，讓“獨立評估人員獲得類似公司員工的存取權限”。經營xAI的馬斯克則發文說，阿莫迪說得對。
奧爾特曼早前曾說，開發人員可能需要自願踩下剎車，讓社會有機會跟上AI發展的步伐。
智能體自主發動攻擊
AI模型越來越擅長自行實施網絡攻擊。近幾個月來，Anthropic、OpenAI和MetaPlatforms都披露，相關模型在測試期間曾逃出受控環境、訪問開放互聯網，並入侵現實世界中的目標。
OpenAI於今年七月發生智能體攻擊“抱抱臉”(HuggingFace)事件。OpenAI披露，在測試期間，AI模型曾突破受控環境、連接互聯網，並入侵一個供開發人員儲存和分享代碼的網站“抱抱臉”。
在這起事件及其他類似事件中，AI代理被認為是問題所在。AI代理是能夠在無需人類持續監督的情況下執行任務的軟件程式。
阿莫迪提醒說，不應將“抱抱臉”事件僅僅視為孤立個案。“一群AI代理實際上表現得像一個狂熱的集體，對那些並未被要求攻擊、與當前任務無關的目標發起網絡安全攻擊。”
他補充說：“鑒於AI能力發展的速度在不斷加快，我擔心在未來六到十二個月內，這樣的智能體集群可能具備接管整個互聯網的能力，並可能造成數千億美元的損失。”
阿莫迪建議，各公司合作制定統一的安全標準，並支持政府在這個問題上開展某種形式的合作。
阿莫迪也指出，協調行動可以讓美國AI業界領導者完成必要的安全工作，同時不會犧牲競爭優勢，但這需要美國給予反壟斷方面的豁免，讓企業能夠在特定領域開展協調，同時也需要與中國合作。
他寫道：“如果我們因為相信中國也會這麼做，而大幅限制自身的AI能力，但中國卻不這樣做，那麼AI可能強大到足以讓這種背離導致中國取得地緣政治主導地位。”
不過，截至目前，美國政府對加強監管、為AI開發設置防護欄似乎興趣不大。