近期，Google的AI搜尋功能AI Overview遭遇了一系列問題。AI Overview旨在在網頁頂部生成綜合多個內容來源的摘要，並附上連結。然而，這一功能卻在初期推出時遭遇了困境。
AI Overview的問題主要體現在生成的摘要中存在錯誤信息。例如，AI Overview曾引用了11年前Reddit上的一位用戶的評論，但卻無法理解其中的幽默。此外，AI Overview還回答了一些不合理的問題，例如每天應該吃多少石頭來補充營養。這些錯誤的回答源於AI模型的基本原理，它利用預測下一個單詞或短語的機率來生成內容，有時會選擇看似合理但不正確的詞語，從而產生虛假信息或所謂的「幻覺」。
AI Overview的內容來源本身也存在可信度問題，因為它引用了來自Reddit等由網友貢獻的內容，而非權威媒體。雖然AI Overview使用了檢索增強生成等技術來限制問題範圍，抑制幻覺的發生，但它無法徹底解決這一問題。
AI搜尋的幻覺問題並不僅限於Google，微軟的New Bing等產品也存在類似的問題。然而，由於Google作為搜尋巨頭，其犯錯的後果更為嚴重。
Google CEO在近期的採訪中提到，幻覺問題是大型語言模型的固有特徵，並表示大型語言模型不一定是瞭解事實的最佳途徑，但這並不意味著它們是無用的。相比之下，一些輕量級的AI公司則自豪地宣稱，他們的產品表現良好的概率要高於Google。
此外，AI搜尋還導致了使用者認知上的轉變。過去，我們說「用Google搜尋」，但現在，Google自己用AI回答我們的問題。這也使得錯誤信息的責任轉移到了Google身上。
然而，我們應該從另一個角度看待AI搜尋，問自己我們的預期是否出了問題。AI搜尋並不是對現有網頁的簡單總結，它擁有更多的應用場景，例如創作、規劃等，並可以回答更加複雜和具體的問題。AI搜尋的目標是讓搜尋更加可視化、互動性和個性化，並用人話而非關鍵字溝通，節省查詢內容的時間。
然而，我們仍然需要注意AI搜尋的幻覺問題。建議在使用生成式AI的功能時，除了查看摘要外，還應該使用傳統的Google搜尋進行進一步的核查。
總的來說，AI搜尋的幻覺問題是一個普遍存在且複雜的問題。雖然Google在AI搜尋方面遇到了一些困難，但這並不意味著AI搜尋是一個失敗的嘗試。我們需要理解並接受AI搜尋的局限性，同時也期待它未來所能帶來的更多可能性。
Share this content:
