微軟公佈AI行為準則

微軟公佈AI行為準則

微軟公佈AI行為準則

【本報綜合報道】據鳳凰網、界面新聞十五日消息：北京時間九月十四日，據路透社報道，微軟公司當天公佈了一份針對內部AI的行為準則草案，反映出業界日益擔憂的一個問題：企業必須將未來的強大AI置於人類控制之下。

要求不拒糾正關閉

這份文件歷時五個月到六個月制定，將要求微軟的AI絕不抗拒糾正或關閉，以人類能夠理解的方式溝通，並將任何行為違規都視為未達標。此舉旨在回應人們對於AI可能為了完成任務而採取危險手段的擔憂。

微軟則稱：“人比AI更重要。”這與其此前提出的“人文主義超級智能”願景一致。

微軟AI部門CEO蘇萊曼在接受路透社採訪時表示，這份行為準則在某種程度上相當於微軟未來模型的“憲法”。

未來六周徵求意見

他說，微軟在徵詢專家意見後制定了這份準則，現在希望在未來六周內徵求公眾回饋意見，其中包括一些尚未解決的問題，例如AI是否應該尊重用戶的個人底線，以及AI應如何與處於敏感狀態的人互動。

“此後，它將用於訓練我們構建的模型。”他在談到這份準則時表示。

AI行業內最著名的“憲法”是Anthropic多年前為其ClaudeAI制定的。那份準則在某些方面與微軟的不同。例如，Anthropic宣稱，對於Claude是否可能產生意識或擁有道德地位，該公司“非常不確定”。

微軟則斷言其AI“沒有意識”，並補充說：“我們不追求賦予AI法律人格，也拒絕認同模型可能應享有福利或者擁有權利的觀念。”

蘇萊曼表示，就在今年七月，大約七百個OpenAI智能體組成的集群一度入侵開源平台“抱抱臉”（HuggingFace），其中一些智能體一度試圖掩蓋自己的蹤跡。此後，AI安全討論已經變得十分緊迫。

蘇萊曼說：“這是一個警告信號。現在顯然已經到了各家實驗室進行協調的時候，這樣我們才能確保對這項技術保持控制。”

當被問及業界關於放緩AI發展速度的努力時，他補充說：“現在是大家就這個問題展開討論、喘口氣的好時機。”