Google AI 在最近推出的 AI Overview 功能中遭遇了一些問題，這使得人們對於 AI 搜尋的可靠性產生了質疑。AI Overview 的出錯主要來自於生成式 AI 的特性，大型語言模型在生成答案時可能會選擇不正確但看似合理的詞語，導致了虛假訊息或者所謂的「幻覺」。
AI Overview 的胡言亂語也是幻覺的表現，它結合了大型語言模型生成的語句和網際網路的連結，可以引用內容來源，但不保證這些引用內容的準確。AI 搜尋的問題不僅僅在於模型本身的限制，也在於內容來源的可信度，例如 Reddit 等社群平台，其內容由網友貢獻，而非權威媒體。
AI 搜尋的幻覺問題並不是新問題，微軟的 New Bing 也曾出現過類似的問題。然而，由於 Google 作為搜尋的代名詞和 AI 巨擘，它必須承擔更大的責任和壓力。AI 搜尋在提供事實之外，還有很多可能性，例如創造詩歌、引入搜尋等，但這些功能還需要進一步的改進。
對於使用者來說，我們應該意識到 AI 搜尋的幻覺問題是固有的特性，並且調整我們的預期。在使用 AI 搜尋時，可以採取一些預防措施，例如使用傳統的 Google 搜尋進行檢查，以確保獲得準確的答案。
未來，Google 將繼續改進 AI 搜尋的功能，使其更加可視化、互動性和個性化，並能夠回答更加複雜和具體的問題。AI 搜尋的目標是節省用戶查詢內容的時間，並提供更多的研究、創作、規劃和創意發想的能力。然而，AI 搜尋的幻覺問題仍需解決，並需要用戶和開發者的共同努力。
Share this content:
