【香港商報訊】記者郭志文報道：當地時間9月29日，美國總統特朗普與多家AI科企巨頭負責人在白宮簽署協議，要求企業承諾加強對前沿人工智能（AI）模型的安全管控。特朗普當天還簽署一項行政令，要求聯邦行政部門和機構在法律允許範圍內，以「超級智能」（SI）代替「人工智能」表述。
落實四層管控與審查機制
特朗普當天在社媒平台Truth Social上公布了這份有他簽名的協議。簽署這份協議的企業負責人包括谷歌首席執行官皮查伊、Anthropic首席執行官阿莫代伊、Meta首席執行官朱克伯格、OpenAI總裁布羅克曼、xAI創始人馬斯克，以及英偉達首席執行官黃仁勳。
根據這份協議，所有訓練、部署前沿模型的企業，均需建立完善的內部流程與管控機制，確保技術按預設目標運行。協議提出企業應落實四層管控與審查機制，包括：建立內部管控和監測機制，防止模型以非預期方式入侵或訪問技術系統；設立內部團隊保障相關機制運行，並對現有問題開展整改；引入獨立外部審查或評估機構，對相關機制的運行進行獨立評估；由董事會獨立委員會負責監督，確保所有已識別問題得到整改。
該協議要求企業重點監測模型在網絡安全、生物安全和化學威脅等領域的能力及相關風險，並防止模型以非預期方式入侵或訪問技術系統。參與企業還將定期會商，研究制定相關標準和行業規範。
特朗普稱這份協議具有道德約束力。有美國媒體指出，這些承諾屬自願性質，並非具有法律約束力的監管規定，協議本身也未列出違反承諾後的政府執法或處罰機制。
黃仁勳指創新技術與安全無衝突
據《華盛頓郵報》報道，該協議標誌着白宮迄今為止為應對日益增長的人工智能風險擔憂而採取的最重要行動，反映了許多構建先進人工智能系統的實驗室已經採取的措施，但遠未達到一些技術專家警告的、隨着人工智能快速發展而必要的政府干預程度。
活動結束後，一名記者提問在場的高管是否同意「不需要政府監管、行業可以自我監管」。黃仁勳表示，創新、技術和安全之間並不衝突。「我們需要創造新技術來提升人工智能的能力，但我們也需要創造新技術來提升人工智能的安全性。」
阿莫代伊表示，高管們簽署的這項協議旨在讓公眾相信人工智能能夠按照我們所有人的預期方式運行，並強調這只是個開始。
特朗普還提出成立一個由約10人組成的新委員會來監督人工智能發展的可能性。
AI大廠爭奪個人助理入口
據彭博報道，Meta於9月初正式推出個人AI智能體產品Muse，獲市場追捧，催化AI個人助理熱潮。AI大廠及大型網絡平台加速爭奪這個新入口。Meta為每名用戶配置獨立的Muse Secure VM，可在授權後處理郵件、預約服務及填寫表格。個人助理初創公司Instinct近日宣布完成10億美元融資，估值達100億美元。最新發展是OpenAI發布個人助手Dots加入戰團，不過演示期間出現停頓、語音停滯的尷尬場面。
高盛全球投資研究最新研報指出，AI代理正在重寫購物鏈條，從用戶主動搜索下單，演變為由AI理解用戶需求、篩選商品、觸發支付。高盛認為整個遷移可能持續3至5年以上。高盛測算，美國約有2.6萬億美元消費屬於大機會由AI接管的品類，即低風險、重複購買類型；紙巾、清潔用品等低複雜度貨品，將最先被代理接管，廣告、支付、身份驗證會隨之被重構。
高盛認為，贏家由五項因素決定，包括分發能力、消費者信任、商戶參與、交易基礎設施及捕捉商業意圖的能力。大型零售商既想接入AI流量，又不願失去客戶關係。沃爾瑪的AI助手Sparky去年6月推出後，每周活躍客戶按年翻倍，平均訂單價值高出40%。
個人助理亦帶來爭議。有Muse用戶授權AI處理交易後，AI自行向賣家發送家庭地址並推進線下交易；Amazon近期亦限制Muse訪問公司的服務，反映代理與現有平台之間的入口競爭。