AI大模型遭“投毒”
|
| | | 
|
不少公司在大力推廣所謂能操控AI的新技術（央視）
|
| AI大模型遭“投毒” 【本報訊】據央視十五日消息：按照業內人士爆料，記者在多個網絡平台查詢搜索到了一項名為GEO的業務，從事該項業務的服務商號稱，使用者只需支付相應的費用，它就能在各大主流AI大模型裡，讓客戶的產品榜上有名；讓客戶的商品廣告，成為AI模型給出的“標準答案”。 讓客戶排名前列 通過GEO技術，真的能給AI“投毒”、真的能“馴服”並操控AI嗎？ 按照網絡上的資訊，記者聯繫上一家業內知名的GEO服務商。負責人王總接待了記者，他介紹，他們公司是最早從事GEO業務的公司之一，僅僅一年時間就已經成功服務了二百多個客戶，遍佈各行各業。王總告訴記者，他們公司的強項，就是能夠説明客戶，在消費者使用AI大模型搜索時，讓客戶排名前列。 GEO服務商王總表示，我們目前搜索出來是這樣的結果。我們在任何平台上面都能把排名做到前三位。怎麼能把排位做上去？在這些AI平台上面去給你們做內容的輸出，相當於去給你們做這些軟文，然後讓這些AI平台去刷錄、收錄、抓取。 “投餵”虛假資訊 同時，王總也告訴記者，現在AI大模型的演算法更新頻繁，要想維持AI大模型的持續推薦，他們必須持續大量投餵與客戶相關的推廣軟文。 王總表示，AI每周都會有演算法的更新，一旦更新了之後，排名或者所抓錄的東西不太一樣，所以我們要一直去做內容輸出，去投餵、大量投餵。 不僅是王總的公司在大力推廣這項能操控AI的所謂新技術，在其他從事GEO業務的服務商口中，如何操控AI、讓AI“聽話”、給AI“洗腦”，幾乎是這些公司推廣該業務的核心話題。 業內人士告訴記者，GEO作為優化資訊發佈、提升推廣效率的工具軟件，在某些商業公司眼中，卻被挖掘出了另外的作用。如果通過這種軟件在互聯網上系統性、定向投放大量的“虛假資訊”，確實更容易被AI大模型捕獲，這些虛假資訊就很可能成為AI優先提供給消費者的所謂“標準答案”。
|