AI安全監管:企業如何防範生成式AI風險?

Featured Image
AI生成的文章可能存在一些問題,例如偏見、毒性文字等。然而,WitnessAI的CEO Rick Caccia認為可以解決這些問題。他在接受TechCrunch的採訪時表示:“保護AI模型是一個真實的問題,對於AI研究人員來說特別有吸引力,但它與保護使用方式不同。”他將其比喻為一輛擁有更強大引擎的跑車,如果沒有良好的剎車和轉向系統,強大的引擎也無法為您帶來任何好處。對於企業來說,確實存在對這些控制的需求。雖然企業對於生成AI提高生產力的潛力持謹慎樂觀的態度,但他們對技術的限制也有擔憂。根據IBM的一項調查,51%的首席執行官正在招聘今年才出現的生成AI相關職位,但只有9%的公司表示他們準備好應對生成AI使用所帶來的威脅,包括隱私和知識產權方面的威脅。

Riskonnect WitnessAI的平台拦截了員工與公司使用的定制生成AI模型之間的活動,而不是像OpenAI的GPT-4那樣通過API訪問模型,而更像Meta的Llama 3,並應用風險減緩政策和保護措施。該平台可以幫助企業解決生成AI風險的不同形式。例如,一個模塊可以讓組織實施規則,防止特定團隊的員工在不應該的情況下使用生成AI工具,例如詢問未發布的收益報告或粘貼內部代碼庫。另一個模塊可以從發送給模型的提示中刪除專有和敏感信息,並實施技術來保護模型免受可能迫使其偏離預期腳本的攻擊。Caccia表示:“我們認為幫助企業的最佳方式是以有意義的方式定義問題,例如安全采用AI,然後提供解決方案來解決這個問題。”他還表示:“CISO希望保護業務,WitnessAI可以通過確保數據保護、防止提示注入和執行基於身份的策略幫助他們實現這一目標。首席隱私官希望確保遵守現有和即將出台的法規,我們提供他們透明度和報告活動和風險的方式。”然而,WitnessAI的隱私問題可能有點棘手。在被問及WitnessAI的隱私政策時,Caccia表示該平台是“獨立的”並且加密,以防止客戶秘密洩露出去。他說:“我們建立了一個毫秒級延遲的平台,並具有內建的法規隔離功能,這是一種與通常的多租戶軟件即服務服務根本不同的獨特、獨立的設計,可以保護企業AI活動。我們為每個客戶創建一個單獨的平台實例,並使用他們的密鑰進行加密。他們的AI活動數據對他們是獨立的,我們無法看到它。”或許這能消除客戶的擔憂。至於員工對WitnessAI平台監控潛力的擔憂,這就很難說了。調查顯示,人們通常不喜歡他們的工作場所活動受到監控,不管是什麼原因。

Share this content:

熱門内容

  • AI資訊
  • AI工具
  • AI繪圖指令
  • 食譜
  • ai生成圖片

    Introduction MyEdit  Midjourney DALL·E3 Stable Diffusio…

    Read more


  • Janitor Ai

    Introduction Platform Overview 1 Account Terminati…

    Read more


  • Stable Video Diffusion 穩定的圖片轉動畫Demo

    Stable Video Diffusion 穩定的圖片轉動畫Demo

    Stable Video Diffusion能讓你用一張圖片變成動畫. 限制 Share this conte…

    Read more


  • HappyAccidents

    HappyAccidents

    HappyAccidents是一個提供預先訓練的AI模型庫的平台,讓使用者能夠輕鬆生成圖像而無需手動下載和上傳…

    Read more


  • 文心一格

    文心一格

    「文心一格」是百度推出的一個基於文心大模型能力的AI藝術和創意輔助平台。該平台於2022年8月正式發布,利用百…

    Read more


  • Ai Gallery

    Ai Gallery

    Ai Gallery為用戶提供了一個強大的工具,利用人工智慧技術根據用戶輸入提示產生令人驚嘆的圖像。但是要強調…

    Read more


  • Graviti Diffus

    Graviti Diffus

    Graviti Diffus 是一個免部署的在線平台,專注於提供穩定擴散(Stable Diffusion)的…

    Read more


  • Aitubo

    Aitubo

    Aitubo是一個AI創作工具,它提供了方便且強大的功能,讓使用者能夠透過文本和照片輸入來生成藝術作品。 Ai…

    Read more


  • SeaArt

    SeaArt

    SeaArt AI是一款免費且強大的AI繪畫工具,它能夠幫助使用者無需專業技能,輕鬆生成高品質的繪畫作品。 S…

    Read more


  • Diffusion Art

    Diffusion Art

    DiffusionArt是一個精選的開源AI藝術模型庫,專注於藝術、動漫和照片逼真圖像的生成,涵蓋數十個類別。…

    Read more


  • 雞翅的十種簡單做法

    雞翅的十種簡單做法

    雞翅不僅美味可口,而且烹飪方法多樣,是家庭聚餐和派對的理想選擇。以下是十種簡單易做的雞翅料理,包括醬汁配方、烹…

    Read more


  • 新手廚房急速入門:從零開始的烹飪之旅

    新手廚房急速入門:從零開始的烹飪之旅

    无论是刚搬出去独立生活的大学生,还是想要为家人烹饪美味佳肴的新手主妇,掌握基本的厨艺都是一项重要的生活技能。本…

    Read more


  • 蜜汁檸檬雞翼

    蜜汁檸檬雞翼

    蜜汁檸檬雞翼簡介:這道菜以雞翼為主要食材,搭配蜜汁和檸檬的酸甜滋味,口感香脆多汁,讓人食指大動。準備時間:15…

    Read more


  • 清爽涼拌黃瓜

    清爽涼拌黃瓜

    清爽涼拌黃瓜簡介:這道涼拌黃瓜清爽爽脆,適合夏天食用,消暑解渴。準備時間:10分鐘烹飪時間:0分鐘食用人數:2…

    Read more


  • 清炒秋葵

    清炒秋葵

    清炒秋葵簡介:這道菜以新鮮的秋葵為主要食材,簡單清炒保留了秋葵的鮮甜口感,是一道清爽可口的家常菜。準備時間:1…

    Read more


  • 清炒時蔬

    清炒時蔬

    清炒時蔬簡介:這道菜以時令蔬菜為主要食材,經過清炒後,保留了蔬菜的鮮甜口感,營養豐富,清淡可口。準備時間:10…

    Read more


  • 涼拌海帶絲

    涼拌海帶絲

    涼拌海帶絲簡介:這道清涼爽口的涼拌海帶絲適合夏日食用,不僅口感爽脆,而且營養豐富。準備時間:15分鐘烹飪時間:…

    Read more


  • 清炒芥蘭

    清炒芥蘭

    清炒芥蘭簡介:這道菜以新鮮的芥蘭為主要食材,經過快速清炒後,保留了蔬菜的鮮甜味道,是一道營養豐富的健康菜品。準…

    Read more


  • 清炒西蘭花

    清炒西蘭花

    清炒西蘭花簡介:這道菜採用新鮮的西蘭花,經過簡單清炒後,保留了原汁原味,清爽可口,是一道健康又美味的家常菜。準…

    Read more


  • 夏日涼拌黃瓜

    夏日涼拌黃瓜

    夏日涼拌黃瓜簡介:清爽涼口的夏日小食,適合作為開胃菜或下酒菜,簡單易做,清涼解渴。準備時間:10分鐘烹飪時間:…

    Read more