近期，Google的AI搜尋功能AI Overview陷入了困境。AI Overview是一項在搜尋結果頂部生成綜合多個內容來源的摘要的功能。然而，該功能在近期被指出存在諸多問題，包括事實錯誤、生成虛假信息等。
這次Google I/O大會上，Google推出了AI Overview功能，並宣稱這項功能很快將在全球范圍內推廣。然而，不久之后，AI Overview在美國用戶中出現了問題。
一些用戶發現，AI Overview回答問題時存在錯誤和虛假信息。例如，Google建議在自製披薩的醬汁中添加膠水，這被證實是從11年前一位Reddit用戶的評論中照搬過來的，並且Google無法理解人類的幽默。另外，AI Overview還回答了一些荒謬的問題，比如一天應該吃多少石頭來補充營養等。
這些問題引起了網友的熱議，一些用戶甚至在社交媒體上分享了一些荒謬的AI回答。Google對此回應稱，大部分AI Overview提供的信息都是正確的，但也承認了一些不常見問題的回答存在問題。此外，一些網友還發現在Google I/O大會上展示的示範中也有錯誤，只是更加隱蔽。
AI搜尋的幻覺問題並不新鮮，這是大型語言模型的固有特徵。AI搜尋使用大型語言模型生成語句，並引用網際網路的內容來源，但無法保證引用內容的準確性。即使使用了檢索增強生成（RAG）等技術，限制回答問題的範圍，也只能抑制幻覺，而無法根治。
此外，AI搜尋使用的內容來源本身可信度存疑。Reddit是由網友貢獻內容的論壇，並非權威媒體。而Google與Reddit達成協議，使用其內容訓練AI模型。這引起了一些人的擔憂，擔心這可能導致垃圾信息的產生。
AI搜尋的問題不僅僅存在於Google，微軟的New Bing也曾出現過類似的問題。這些問題讓人們對AI搜尋產生了擔憂，特別是對於Google這樣的AI巨頭，人們期望它能提供準確的信息。
然而，Google CEO表示，幻覺問題是大型語言模型固有的特徵，並不一定是瞭解事實的最佳途徑。他強調，大型語言模型的價值不僅僅在於回答問題，還可以創造詩歌、引入搜尋等。Google的目標是讓搜尋更加可視化、有互動性和個性化，用人話而非關鍵詞溝通，並回答更加複雜和具體的問題。
儘管AI搜尋存在幻覺問題，但我們應該從不同角度看待它。AI搜尋的目的是為了提供更多的功能和服務，而不僅僅是作為傳統搜尋的簡單總結。AI搜尋仍然處於發展階段，還有很多功能需要完善和上線。
因此，我們應該對AI搜尋持有開放的態度，並理解它的局限性。同時，使用AI搜尋時，我們也應該保持一定的警惕性，並使用傳統的搜尋方式進行檢查。這樣才能更好地利用AI搜尋的功能，獲得準確和有用的信息。
Share this content:
