Google AI Overview 幻覺 AI
2023 年 2 月，追趕 ChatGPT 的 Bard，公開犯了事實錯誤；2023 年 12 月，Gemini 侃侃而談如同賈維斯，然而卻被爆出影片是經過後製處理；2024 年 2 月，Gemini 生成多種膚色的歷史人物，被批評歧視白人。 這回，厄運降臨到 Google 的看家本領「搜尋」功能。國外網友看熱鬧不嫌事大，甚至上演了一波鬥圖狂歡。 剛結束不久的 Google I/O 大會，推出的其中一項功能是 AI Overview。 顧名思義，AI Overview 在網頁頂部生成綜合多個內容來源的摘要，同時附有連結。
當時，Google 對 AI Overview 很有信心，宣佈當即向所有美國用戶推出，很快也會推廣到更多國家，預計年底超過 10 億人都可以使用。 然而沒過幾天，AI Overview 先在美國用戶這裡翻車了。 自製披薩的奶酪容易掉下來怎麼辦？ Google 建議：往醬汁裡添加約 1/8 杯的膠水即可。特意強調是無毒的，真是令人感到窩心。
Google 並非隨意編故事，而是從 Reddit 一位用戶 11 年前的評論照搬了答案，可惜它讀不懂人類的幽默。 人一天裡應該吃多少石頭補充營養？ Google 沒有反駁問題本身的不合理，一本正經地胡說八道，根據加州大學伯克利分校地質學家的說法，應該一天至少吃一塊小石頭，以便攝取維生素和礦物質。 答案的源頭是 2021 年的一篇報導，出自以假新聞和諷刺文章聞名的新聞內容。 AI Overview 也不精通美國歷史，掉進了陰謀論的陷阱，說奧巴馬是第一位穆斯林總統。 一時間，X 等社交媒體掀起了一股抽象的浪潮：曬截圖，比拼誰的 Google 回答最荒謬。 競爭異常激烈，在 AI 的世界里，前總統從威斯康辛大學畢業了 21 次，一隻狗曾在 NBA、NFL 和 NHL 打過球，蝙蝠俠是一名警察。 針對這樣的狀況，Google 回應表示大部分 AI Overview 提供的訊息還是正確的，也提供了有用的連結供使用者深入瞭解，很多「翻車」例子，都是一些比較不常見的問題，結果無法重現甚至被篡改過。 比如，一張流傳甚廣的截圖顯示，治療憂鬱症的方法是跳下金門大橋一了百了。事關人命，Google 特意解釋了，這個結果是偽造的。
Share this content:
