Google AI 在推出的 AI Overview 功能中遇到了一些問題，這引起了外界的關注。AI Overview 的目的是在搜尋結果頂部生成綜合多個內容來源的摘要，並提供相關連結。然而，在實際使用中，AI Overview 生成的摘要存在事實錯誤和不合理的情況，甚至被批評為幻覺。這引起了一些網友的熱議，並上演了一波鬥圖狂歡。
AI Overview 的問題主要包括以下幾個方面：
1. 生成的摘要中包含了事實錯誤。例如，AI Overview 在回答關於歷史人物的問題時，生成了一些不準確的描述，被批評歧視白人。
2. 摘要中的內容來源可信度存疑。AI Overview 使用了來自網絡的內容來源，包括 Reddit 等，這些內容來源的可信度不如傳統的權威媒體。
3. 生成的摘要不合理。AI Overview 在回答一些問題時，生成了一些看似合理但不正確的答案，被網友截圖並分享在社交媒體上，引起了一片譁然。
面對這些問題，Google 表示大部分 AI Overview 提供的訊息仍然是正確的，並提供了有用的連結供用戶深入瞭解。同時，Google 也承認 AI Overview 存在一些問題，並表示將努力改進。
AI 搜尋的幻覺問題並不新鮮，這是大型語言模型的固有特徵。大型語言模型的基本原理是利用預測下一個詞或短語的出現機率生成內容，有時可能會選擇不正確但看似合理的詞語，導致虛假訊息或幻覺的生成。AI Overview 的幻覺表現就是結合了大型語言模型生成的語句和網絡的連結，可以引用內容來源，但不保證這些引用內容的準確。
AI 搜尋的問題不僅發生在 Google，微軟的 New Bing 也曾出現類似的問題。這可能是由於大型語言模型的特性所導致的，而 Google 作為 AI 巨頭，承擔了更大的責任。
然而，AI 搜尋也有其優勢和可能性。AI 搜尋可以讓搜尋更加可視化、互動性和個性化，用人話而非關鍵詞進行溝通，節省查詢內容的時間，並回答更加複雜和具體的問題。未來，AI 搜尋還將具備規劃能力，可以幫助用戶進行客製化的規劃，如晚餐食譜等。
雖然 AI 搜尋存在幻覺問題，但我們不應將 AI 搜尋僅僅看作是對現有網頁的簡單總結。AI 搜尋還有很多其他的應用和優勢，可以提供更多的研究、創作、規劃和創意發想等功能。
最後，我們應該對 AI 搜尋保持合理的期望，並在使用時注意檢查和驗證生成的內容。同時，Google 也應該加強對 AI 搜尋的監控和改進，提高其準確性和可靠性，以確保用戶獲得更好的搜尋體驗。
Share this content:
