【從KPMG的創投工作室發射,Cranium為AI安全展開挑戰】

近年來,KPMG的合夥人Jonathan Dambrot在幫助客戶部署和開發AI系統時,開始注意到一些遵守和安全的空白。據他所說,沒有人能解釋他們的AI是否安全,甚至不知道誰負責確保這一點。
Dambrot在給TechCrunch的電子郵件訪問中說:「從根本上講,數據科學家不了解AI和網絡安全的風險,而網絡專業人士也不像對待其他技術主題那樣理解數據科學。為了確保這些風險得到適當處理,以及組織能夠對安全和可靠的AI系統做出決定,將需要更多的意識和立法。」
Dambrot的觀點促使他向KPMG Studio提出,建議對AI安全和遵守性的挑戰提供資金和孵化軟件創業公司的建議。與兩位共同創始人Felix Knoll和Paul Spicer以及大約25名開發人員和數據科學家一起,Dambrot將這家企業創立為Cranium。
到目前為止,Cranium已經籌集了來自KPMG和SYN Ventures的700萬美元的风险投资。
Dambrot繼續說道:「Cranium是為了發現和提供客戶級別的AI系統可見度,提供安全報告和監控,以及創建遵守和供應鏈可見性報告而建立的。核心產品采取更全面的AI安全和供應鏈觀點,旨在解決其他解決方案中的空白,提供更好的AI系統可見度,提供核心對抗風險的安全性以及提供供應鏈可見性。」
為此,Cranium試圖在現有的機器學習模型訓練和測試環境中映射AI管道,並驗證其安全性,監控外部威脅。你問什么威脅?Dambrot說,這取決于客戶。但其中一些更常見的威脅涉及毒害(污染AI學習的數據)和基于文本的攻擊(用惡意指令欺騙AI)。
Cranium宣稱,在不需要訪問任何原始數據或供應商算法的情況下,它可以直接解決這些威脅。客戶可以捕獲正在開發和已部署的AI管道,包括AI生命周期中涉及的所有相關資產。他們可以建立一個AI安全架構,為安全和數據科學團隊提供一個建立安全計劃的基礎。

Share this content:

最新AI資訊
AI工具
ChatGPT指令
AI繪圖指令
最新AI資訊
最新AI資訊
AI工具
ChatGPT指令
AI繪圖指令