在這個資訊爆炸的時代，我們總是喜歡把技術推到前台，好像它們是解決所有問題的萬靈丹。最近，美國的國家標準技術研究院（NIST）又搞出了個新把戲——NIST GenAI。這是一個大張旗鼓的計劃，旨在評估那些能生成文字和圖像的AI技術。咱們先不說這些技術能不能真正地搞定假新聞和誤導資訊，但至少這個計劃聽起來很是高大上。
NIST GenAI將會推出一系列的基準測試，幫助創建“內容真實性”檢測系統，也就是俗稱的深度偽造檢測。這不，還鼓勵人們開發軟件來辨識假的或誤導性的AI生成資訊。這聽起來是不是有點像是從一個坑跳進另一個坑？AI做假，然後再用AI來抓假，這把戲圈可真夠大的。
NIST GenAI的第一個項目是一個試點研究，要建立一個系統，可靠地分辨出人造和AI生成的媒體內容，從文字開始。畢竟，很多服務聲稱能檢測深度偽造，但實際上，特別是在文字方面，它們的效果還是很讓人懷疑的。
該計劃邀請來自學術界、工業界和研究實驗室的團隊提交“生成器”——即生成內容的AI系統，或者是設計用來識別AI生成內容的“鑑別器”。這些生成器要在給定主題和一系列文件的情況下生成不超過250字的摘要，而鑑別器則需要檢測給定摘要是否可能是AI寫的。為了保證公平，NIST GenAI將提供必要的數據來測試生成器。不符合相關法律法規的系統是不被接受的，這是NIST的原則。
NIST GenAI的推出和對深度偽造的研究正值AI生成的錯誤信息和假新聞的數量呈指數級增長的時期。據深度偽造檢測公司的數據顯示，與去年同期相比，今年創造和發布的深度偽造增加了900%。這無疑引起了人們的警覺。最近的民意調查顯示，有85%的美國人對於網絡上誤導性深度偽造的傳播感到擔憂。
NIST GenAI的推出是NIST對美國總統喬·拜登有關AI的行政命令的回應，這個命令要求AI公司對其模型如何運作提供更多透明度，並制定了一系列新標準，包括對AI生成的內容進行標記。
NIST在任命前OpenAI研究員Paul Christiano進入該機構的AI安全研究所後，這是他們關於AI的首個公告。Christiano因其“終結論”觀點而受到爭議，他曾預測AI發展有一半的機會可能會導致人類的毀滅。NIST內部的科學家們據報對Christiano可能鼓勵AI安全研究所專注於“幻想情景”而非現實、更迫切的AI風險表示擔憂。
不得不說，這種對抗AI誤導的方法聽起來既激進又有點荒謬。畢竟，這就像是在一場無止境的自我追逐遊戲中，一邊創造問題，一邊又試圖解決問題。但是，或許這正是我們在這個由技術驅動的世界中所需要的：一個能夠自我反思並持續自我修正的系統。只是這個遊戲的終點在哪裡，恐怕沒有人能夠給出確切的答案。
Share this content:
