AI光環背後的代價
陸 晴;穆吉亞 |
| | | 
|
《AI底層真相》
作 者：穆吉亞
譯 者：江坤山
出 版 社：天下文化
出版日期：2024年10月
|
| AI光環背後的代價 在生成式AI快速席捲世界的今天，我們不斷聽見“AI將提升效率、解放人類勞動、改變未來”的樂觀想像。各式AI工具已滲入教育、醫療、金融、司法與日常生活。然而，當我們享受便利與高效時，是否也曾追問：這些看似神奇的演算法背後，究竟隱藏甚麼代價？ 穆吉亞所著的《AI底層真相》，正是一本提醒我們重新審視AI的警醒之作。作者並不否定AI的創新潛力，也不是以反科技的姿態批判人工智能；她真正要指出的是，若我們只看見AI光鮮亮麗的一面，而忽略其背後的勞動剝削、全面監控、深度偽造與個人數據濫用，人類就可能在不知不覺中交出自己的主體性。 書中最令人震驚的，是對AI產業鏈底層勞動的揭露。事實上，AI自動化的背後需仰賴大量人類勞動。以在肯亞運作的Sama公司為例，這類公司提供AI訓練所需的資料標註服務，許多年輕人被吸納進這個被包裝為“科技工作”的新興市場。他們負責標記資料、分類影像、審查內容，以協助AI學會辨識、預測與判斷。其中，工作人員必須長時間觀看暴力、虐待、色情、仇恨或非法內容，再將其分類標記，使系統判斷哪些資訊應被移除。他們承擔了淨化平台與訓練AI的心理成本，卻僅領取極低的薪資。有些內容審查員只有約二點二美元的時薪，卻要面對長期焦慮、惡夢，甚至創傷後壓力症候群。 該書深入探討數據經濟與監控資本主義，作者透過檢視自己在網絡上留下的Cookie與個人數據，揭示AI如何無孔不入地掌握、分析並預測個人行為。在演算法推動下，我們的隱私、社交互動與日常決策，都可能被悄悄塑造。科技企業透過巨量資料與個性化推薦創造利潤，而我們不只是使用者，也成為被觀察、分類、預測甚至販售的數據來源。 深度偽造技術的發展，則讓該書的警示更具急切性。隨着AI生成影像、聲音與影片的能力快速提升，假影像與假聲音越來越難辨識。這不僅增加了詐騙風險，也會衝擊社會信任。更嚴重的是，深度偽造常被用來攻擊特定群體，尤其是女性。當一個人的臉孔可以被任意移植、聲音可以被複製、影像可以被篡改，個人的尊嚴與安全感也隨之受威脅。 此外，演算法偏見則揭示了更深層的制度危機。AI系統依賴資料進行判斷，而資料本身往往承載既有社會偏見。書中提到，臉部辨識系統對膚色較深女性的錯誤率曾高達百分之三十五。這不只是技術不準確，更是種族與性別不平等在科技系統中的再現。當AI被用於預測犯罪風險時，可能對特定族群進行標籤化。例如，有些系統會根據歷史資料，將某些族群判定為高風險群體，這種預測看似科學，卻可能忽略貧窮、教育、家庭與制度性歧視等複雜背景。當我們過度依賴這些工具，人的判斷力與責任感可能被技術權威取代，社會不公也會被進一步放大。 《AI底層真相》反覆提醒我們：“面對AI新科技，沒有人是局外人。”AI是每一個數位時代公民都必須理解的公共議題，因為我們都可能是資料提供者、演算法判斷的對象、深度偽造的受害者，或自動化決策下被影響的人，因此，AI的未來不應只由科技巨頭、資本市場或工程師決定；企業必須將人權納入設計核心，政府與社會也應建立透明、包容且具問責性的法律框架。該書讓我們看見AI光環背後的代價，也迫使我們重新思考：在演算法快速改寫世界的時代，我們究竟要成為被支配的人，還是共同塑造未來的人？ 陸晴
|