Google I/O 大會剛結束不久，推出的其中一項功能是 AI Overview，該功能在短時間內遭遇了一些問題。AI Overview 是在網頁頂部生成綜合多個內容來源的摘要，並附有連結。然而，這項功能在美國用戶中翻車了。
AI Overview 的問題主要在於其生成的內容可能包含了虛假訊息或者說「幻覺」。這是因為大型語言模型基於預測下一個單詞或短語生成出現機率最大的內容，有時可能會選擇不正確但看似合理的詞語，導致了虛假訊息的產生。AI Overview 同時結合了大型語言模型生成的語句和網際網路的連結，引用內容來源，但並不保證這些引用內容的準確性。
AI Overview 的問題並不是新鮮的，AI 會犯錯早已是公開的秘密。AI 搜尋的幻覺問題是大型語言模型的固有特徵。AI 搜尋模型不一定是瞭解事實最佳的管道，但這並不代表它們是廢柴。AI 搜尋的功能還有很多，比如創造詩歌、引入搜尋等。
然而，AI Overview 的問題引起了用戶的不滿，Google 也承擔了犯錯的後果。AI 搜尋的問題從訊息來源本身轉移到了引用訊息內容的 Google 身上。AI 搜尋在提供事實之外，還有很多可能性，但AI Overview 目前還不夠完善。
AI 搜尋的發展是一個漫長的過程，我們需要理解並接受幻覺問題的存在。AI 搜尋的目標是讓搜尋更加可視化、更有互動性和個性化，用人話而非關鍵字溝通，節省查詢內容的時間，並且回答更加複雜和具體的問題。AI 搜尋還有很多潛力可以開發，但我們需要保持對其功能的合理期待。
最後，AI 搜尋的發展是一個持續的過程，我們應該持續關注並提供反饋，以幫助改進 AI 搜尋的準確性和可靠性。
Share this content:
