美國商務部的國家標準與技術研究所（NIST）是一個開發和測試技術，為美國政府、企業和廣大公眾提供服務的機構。該機構於本週一宣布了NIST GenAI計劃的啟動，該計劃旨在評估生成式人工智能技術，包括文字生成和圖像生成的AI。
NIST GenAI將發布基準，幫助創建“內容真實性”檢測（即檢測假像）系統，並鼓勵開發能夠識別假造或誤導性AI生成信息來源的軟件，NIST在新推出的[NIST GenAI網站](https://ai-challenges.nist.gov/genai)和一份[新聞稿](https://www.commerce.gov/news/press-releases/2024/04/department-commerce-announces-new-actions-implement-president-bidens)中解釋說。
新聞稿中寫道：“NIST GenAI計劃將發布一系列挑戰問題，旨在評估和測量生成式人工智能技術的能力和局限性。”“這些評估將用於確定促進信息完整性的策略，並指導數字內容的安全和負責任使用。” NIST GenAI的第一個項目是一項試點研究，旨在構建能夠可靠區分人類創作和AI生成媒體的系統，首先從文本開始。（儘管許多服務聲稱能夠檢測深度假像，但研究和我們自己的測試表明，它們在文本方面的表現並不可靠）NIST GenAI邀請來自學術界、工業界和研究實驗室的團隊提交“生成器”（用於生成內容的AI系統）或“區分器”，這些系統旨在識別AI生成的內容。
研究中的生成器必須根據所提供的主題和一組文檔生成250字或更少的摘要，而區分器必須檢測給定摘要是否可能是由AI生成的。為了確保公平，NIST GenAI將提供測試生成器所需的數據。NIST表示，不能符合“適用法律法規”的公開可用數據上訓練的系統將不被接受。試點計劃的註冊將於5月1日開始，第一輪註冊將於8月2日截止。該研究的最終結果將於2025年2月發表。NIST GenAI的推出和深度假像研究的啟動恰逢AI生成的錯誤和誤導信息量呈指數級增長。根據深度假像檢測公司Clarity的數據，與去年同期相比，今年已經創建並發布的深度假像增加了900％。這引起了人們的警惕。YouGov最近的一項民意調查發現，85％的美國人擔心深度假像在網絡上傳播。
NIST GenAI的推出是NIST對美國總統喬·拜登有關人工智能的[行政命令](https://techcrunch.com/2023/10/30/president-biden-issues-executive-order-to-set-standards-for-ai-safety-and-security/)的回應的一部分，該行政命令要求AI公司對其模型的工作方式進行更大的透明度，並建立了一系列新的標準，包括對AI生成內容進行標記。
這也是NIST在任命前OpenAI研究員保羅·克里斯蒂安諾（Paul Christiano）為該機構人工智能安全研究所之後的第一個與AI相關的公告。
克里斯蒂安諾因其“毀滅主義”觀點而引起爭議；他曾經預測“有50％的機會AI的發展會導致人類的毀滅”。據報導，包括NIST內部的科學家在內的批評人士擔心，克里斯蒂安諾可能會鼓勵人工智能安全研究所專注於“幻想情景”，而不是關注更現實、更即時的AI風險。
NIST表示，NIST GenAI將為人工智能安全研究所的工作提供指導。
Share this content:
