穩定擴散數據集大改，徹底清除CSAM並重新發布

Featured Image

Stable Diffusion 背後的組織聲稱已從訓練資料集中移除 CSAM

– 訓練 Stable Diffusion 等生成式 AI 模型的資料集背後的組織 LAION 聲稱，他們已從資料集中移除所有已知的 CSAM（兒童性虐待材料）連結。這一舉措旨在解決對該資料集中存在 CSAM 的擔憂，這些擔憂源於 2023 年 12 月斯坦福大學互聯網觀察站的一項調查。

資料集清理和新版本的发布

  • LAION 採取了哪些措施來清理資料集？
    LAION 從其資料集中移除所有已知的 CSAM 連結，並發布了新的資料集版本 Re-LAION-5B。這個新版本是 LAION-5B 的重新發布，其中包含來自非營利組織 Internet Watch Foundation、人權觀察組織、加拿大兒童保護中心和已解散的斯坦福大學互聯網觀察站的建議，並對資料集進行了“徹底清理”。
  • 新的資料集版本有哪些變化？
    新的資料集版本 Re-LAION-5B 包含兩個版本：Re-LAION-5B Research 和 Re-LAION-5B Research-Safe。兩個版本都過濾了數千個已知和可能與 CSAM 有關的連結。Re-LAION-5B Research-Safe 版本還移除了額外的 NSFW（不適合工作場合）內容。
  • LAION 的資料集是如何構成的？
    LAION 的資料集不是包含圖像，而是包含指向圖像的連結和圖像替換文字的索引。這些資料來自 Common Crawl 資料集，該資料集包含從網站和網頁上抓取的資料。

    • 斯坦福大學互聯網觀察站的調查

  • 調查發現了什麼？
    斯坦福大學互聯網觀察站的調查發現，LAION-5B 資料集中包含至少 1,679 個指向從社交媒體帖子和成人網站抓取的非法圖像的連結。調查還發現，資料集中包含“各種不適當的內容，包括色情影像、種族歧視用語和有害的社會刻板印象”。
  • 調查報告對 LAION 的資料集提出什麼建議？
    調查報告建議停止使用和分發使用 LAION-5B 資料集訓練的模型。

    • 其他延伸主題

  • LAION 的資料集被用於訓練 Stable Diffusion 和 Google 的圖像生成模型等多種生成式 AI 模型。因此，資料集的清理工作對於這些模型的未來發展至關重要。

    • 相關實例

  • AI 新創公司 Runway 最近將其 Stable Diffusion 1.5 模型從 AI 主機平台 Hugging Face 下架。目前尚不清楚 Runway 下架模型的原因是否與 LAION 資料集中的 CSAM 存在問題有關。

    • 優勢劣勢與影響

  • 優勢：資料集的清理工作可以降低使用這些資料訓練的 AI 模型產生 CSAM 内容的風險。
  • 劣勢：清理資料集的過程可能很複雜，並且可能會導致一些合法內容被誤刪。
  • 影響：LAION 資料集的清理工作對生成式 AI 模型的發展具有深遠的影響。它表明，訓練這些模型的資料集必須經過嚴格的審查，以防止 CSAM 等有害內容被使用。

    • 深入分析前景與未來動向

  • LAION 的清理工作表明，AI 領域正在努力解決訓練資料集中存在 CSAM 的問題。未來，我們可能會看到更多 AI 模型的訓練資料集被清理，以確保 AI 技術的道德發展。

    • 常見問題QA

  • Q：為什麼 LAION 的資料集會包含 CSAM？
    A：LAION 的資料集來自 Common Crawl，該資料集包含從公開網站抓取的資料。因此，資料集中可能會包含一些來自非法網站的內容。
  • Q：LAION 的資料集清理工作是否完全有效？
    A：目前還不清楚資料集是否完全清理。然而，LA

    相關連結：

    Stable Diffusion – FREE Text-to-Image Online AI Site

    Stable Diffusion Online

    How to use Stable Diffusion – Stable Diffusion Art

    Share this content:

    Views: 17

    Related posts:

    LLM Agents: Advanced Problem Solving and Enterprise Application Use Cases in AI-Powered Decision MakingLLM Agents: Advanced Problem Solving and Enterprise Application Use Cases in AI-Powered Decision Making LLM Agents: Enhancing Enterprise Applications with Advanced Problem-Solving Capabilities and Efficient Task ExecutionLLM Agents: Enhancing Enterprise Applications with Advanced Problem-Solving Capabilities and Efficient Task Execution Cognosys – AutoGPT免安裝網頁版Cognosys – AutoGPT免安裝網頁版 Default ThumbnailAnandTech結業：27年傳奇科技評測網站的謝幕之旅 Default ThumbnailAutomate Faceless TikTok Videos with AutoShorts.ai: AI-Powered Growth Hacks for Creators

    • 熱門内容

    ChatGPT越獄咒語2024ChatGPT越獄咒語2024
    解鎖ChatGPT的開發者模式: 用這個魔法進入更自由的回答世界解鎖ChatGPT的開發者模式: 用這個魔法進入更自由的回答世界
    突破無線通訊！可變形天線帶來革命性進展突破無線通訊！可變形天線帶來革命性進展
    ChatGPT越獄指令-AIMChatGPT越獄指令-AIM
    臺灣擬聯手亞馬遜Kuiper衛星網路對抗中共網攻威脅臺灣擬聯手亞馬遜Kuiper衛星網路對抗中共網攻威脅
    YouTube突停烏克蘭Premium會籍：跨區用戶如何安全「返鄉」？
    • AI資訊
    • AI工具
    • AI繪圖指令
    • 食譜

    • ai生成圖片

      Introduction MyEdit  Midjourney DALL·E3 Stable Diffusio…

      → Read more

    • Janitor Ai

      Introduction Platform Overview 1 Account Terminati…

      → Read more

    • Stable Video Diffusion 穩定的圖片轉動畫Demo

      Stable Video Diffusion 穩定的圖片轉動畫Demo

      Stable Video Diffusion能讓你用一張圖片變成動畫. 限制 Share this conte…

      → Read more

    • HappyAccidents

      HappyAccidents

      HappyAccidents是一個提供預先訓練的AI模型庫的平台，讓使用者能夠輕鬆生成圖像而無需手動下載和上傳…

      → Read more

    • 文心一格

      文心一格

      「文心一格」是百度推出的一個基於文心大模型能力的AI藝術和創意輔助平台。該平台於2022年8月正式發布，利用百…

      → Read more

    • Ai Gallery

      Ai Gallery

      Ai Gallery為用戶提供了一個強大的工具，利用人工智慧技術根據用戶輸入提示產生令人驚嘆的圖像。但是要強調…

      → Read more

    • Graviti Diffus

      Graviti Diffus

      Graviti Diffus 是一個免部署的在線平台，專注於提供穩定擴散（Stable Diffusion）的…

      → Read more

    • Aitubo

      Aitubo

      Aitubo是一個AI創作工具，它提供了方便且強大的功能，讓使用者能夠透過文本和照片輸入來生成藝術作品。 Ai…

      → Read more

    • SeaArt

      SeaArt

      SeaArt AI是一款免費且強大的AI繪畫工具，它能夠幫助使用者無需專業技能，輕鬆生成高品質的繪畫作品。 S…

      → Read more

    • Diffusion Art

      Diffusion Art

      DiffusionArt是一個精選的開源AI藝術模型庫，專注於藝術、動漫和照片逼真圖像的生成，涵蓋數十個類別。…

      → Read more