Google搜尋AI翻車:荒謬回答引網友瘋傳,安全性引關注

Featured Image
2023年2月,Google AI推出了一项名为AI Overview的功能,旨在为用户提供综合多个内容来源的摘要,并附带相关的链接。然而,不久之后,AI Overview就在美国用户中出现了问题。用户发现,AI Overview提供的答案存在事实错误,甚至有些答案是荒谬的。这一情况引发了用户的不满和争议,一些用户甚至开发了扩展程序,强制使Google搜索只显示传统的搜索结果。此外,AI Overview还受到了一些内容来源的质疑,因为它引用的内容并不一定可信。

AI Overview的问题其实并不罕见,AI经常会犯错,这早已是公开的秘密。大型语言模型的基本原理是根据预测最有可能出现的词汇或短语生成内容,有时可能会选择不正确但看似合理的词汇,这就导致了虚假信息或所谓的“幻觉”。AI Overview的胡言乱语也是幻觉的表现,它结合了大型语言模型生成的句子和互联网的链接,可以引用内容来源,但不保证这些引用内容的准确性。即使采用了RAG(检索增强生成)等技术,将检索系统与生成模型相结合,限制回答问题的范围,也只能抑制幻觉,而不能根除幻觉。

此外,AI Overview的内容来源本身的可信度也是存在问题的。例如,Google与Reddit达成协议,将Reddit的内容用于训练AI模型。但Reddit是一个由网友贡献内容的论坛,并非权威媒体,因此其内容的可信度存疑。类似的情况在去年发生在微软的“New Bing”上,用户发现其回答明显错误,并且引用的回答也是由AI生成的。这些问题并不只是Google所独有的,其他公司也都可能面临类似的困扰。

AI搜寻的幻觉问题并不容易解决,甚至可以说是大型语言模型固有的特征。因此,我们应该换个角度来看待AI搜寻,思考我们的期望是否出现了错误。AI搜寻的目标并不一定是理解事实,但这并不意味着大型语言模型一无是处。大型语言模型可以创造诗歌、引入搜寻等功能。Google的思路是通过使搜寻更加可视化、更具互动性和个性化,用人话而非关键字进行交流,节省查询内容的时间,并回答更复杂和具体的问题。

虽然AI搜寻存在幻觉问题,但这并不意味着AI搜寻毫无价值。AI搜寻可以帮助用户进行研究、创作、规划和创意发想等。然而,用户在使用这些功能时应保持警惕,建议在使用生成式AI时,不要只看摘要,还要使用传统的Google搜寻进行核实。

总之,AI搜寻的幻觉问题是一个公开的秘密,我们应该对其有清醒的认识。虽然AI搜寻存在问题,但其在提供某些方面的便利性和创新性方面仍具有价值。然而,用户在使用AI搜寻时应保持警惕,同时也要意识到AI并非是完美无缺的,存在一定的局限性。

Share this content:

熱門内容

  • AI資訊
  • AI工具
  • AI繪圖指令
  • 食譜
  • ai生成圖片

    Introduction MyEdit  Midjourney DALL·E3 Stable Diffusio…

    Read more


  • Janitor Ai

    Introduction Platform Overview 1 Account Terminati…

    Read more


  • Stable Video Diffusion 穩定的圖片轉動畫Demo

    Stable Video Diffusion 穩定的圖片轉動畫Demo

    Stable Video Diffusion能讓你用一張圖片變成動畫. 限制 Share this conte…

    Read more


  • HappyAccidents

    HappyAccidents

    HappyAccidents是一個提供預先訓練的AI模型庫的平台,讓使用者能夠輕鬆生成圖像而無需手動下載和上傳…

    Read more


  • 文心一格

    文心一格

    「文心一格」是百度推出的一個基於文心大模型能力的AI藝術和創意輔助平台。該平台於2022年8月正式發布,利用百…

    Read more


  • Ai Gallery

    Ai Gallery

    Ai Gallery為用戶提供了一個強大的工具,利用人工智慧技術根據用戶輸入提示產生令人驚嘆的圖像。但是要強調…

    Read more


  • Graviti Diffus

    Graviti Diffus

    Graviti Diffus 是一個免部署的在線平台,專注於提供穩定擴散(Stable Diffusion)的…

    Read more


  • Aitubo

    Aitubo

    Aitubo是一個AI創作工具,它提供了方便且強大的功能,讓使用者能夠透過文本和照片輸入來生成藝術作品。 Ai…

    Read more


  • SeaArt

    SeaArt

    SeaArt AI是一款免費且強大的AI繪畫工具,它能夠幫助使用者無需專業技能,輕鬆生成高品質的繪畫作品。 S…

    Read more


  • Diffusion Art

    Diffusion Art

    DiffusionArt是一個精選的開源AI藝術模型庫,專注於藝術、動漫和照片逼真圖像的生成,涵蓋數十個類別。…

    Read more


  • 蜜汁檸檬雞翼

    蜜汁檸檬雞翼

    蜜汁檸檬雞翼簡介:這道菜以雞翼為主要食材,搭配蜜汁和檸檬的酸甜滋味,口感香脆多汁,讓人食指大動。準備時間:15…

    Read more


  • 清爽涼拌黃瓜

    清爽涼拌黃瓜

    清爽涼拌黃瓜簡介:這道涼拌黃瓜清爽爽脆,適合夏天食用,消暑解渴。準備時間:10分鐘烹飪時間:0分鐘食用人數:2…

    Read more


  • 清炒秋葵

    清炒秋葵

    清炒秋葵簡介:這道菜以新鮮的秋葵為主要食材,簡單清炒保留了秋葵的鮮甜口感,是一道清爽可口的家常菜。準備時間:1…

    Read more


  • 清炒時蔬

    清炒時蔬

    清炒時蔬簡介:這道菜以時令蔬菜為主要食材,經過清炒後,保留了蔬菜的鮮甜口感,營養豐富,清淡可口。準備時間:10…

    Read more


  • 涼拌海帶絲

    涼拌海帶絲

    涼拌海帶絲簡介:這道清涼爽口的涼拌海帶絲適合夏日食用,不僅口感爽脆,而且營養豐富。準備時間:15分鐘烹飪時間:…

    Read more


  • 清炒芥蘭

    清炒芥蘭

    清炒芥蘭簡介:這道菜以新鮮的芥蘭為主要食材,經過快速清炒後,保留了蔬菜的鮮甜味道,是一道營養豐富的健康菜品。準…

    Read more


  • 清炒西蘭花

    清炒西蘭花

    清炒西蘭花簡介:這道菜採用新鮮的西蘭花,經過簡單清炒後,保留了原汁原味,清爽可口,是一道健康又美味的家常菜。準…

    Read more


  • 夏日涼拌黃瓜

    夏日涼拌黃瓜

    夏日涼拌黃瓜簡介:清爽涼口的夏日小食,適合作為開胃菜或下酒菜,簡單易做,清涼解渴。準備時間:10分鐘烹飪時間:…

    Read more


  • 涼拌海帶絲

    涼拌海帶絲

    涼拌海帶絲簡介:這道菜清爽爽口,適合夏天食用,海帶絲富含膳食纖維和礦物質,是一道健康美味的涼拌菜。準備時間:1…

    Read more


  • 清蒸桂花魚

    清蒸桂花魚

    清蒸桂花魚簡介:這道菜以桂花魚為主要食材,經過清蒸後,口感鮮嫩,帶有桂花香氣,清淡可口,是夏日消暑的好選擇。準…

    Read more