打擊Deepfake!Resemble AI新模型Detect-2B辨識率高達94%

Featured Image
語音複製公司Resemble AI最近發表了一款名為Detect-2B的新一代Deepfake檢測模型。這款模型的準確率高達94%,能夠準確地檢測出AI生成的音訊。Detect-2B的子模型使用了一個適應模組,將模型的重點轉向了人工痕跡,這樣可以辨識出真實音訊和虛假音訊的差異。該模型還可以預測出音訊中有多少是由AI生成的,無需重新訓練模型。Resemble表示,其研究人員在構建Detect-2B時考慮了訓練速度和運算能力的因素,使得該模型在部署時更加高效。

Detect-2B的架構基於Mamba-SSM或狀態空間模型,這種架構不依賴於靜態數據或重複模式,對不同變量有更好的回應。這使得該模型在處理音訊訊號時更加容易,即使是在錄音品質較差的情況下,也能夠正常運作。

Resemble表示,他們對Detect-2B進行了評估,將其應用於包含未見過的說話者、深度偽造生成的音頻和不同語言的測試集中。結果顯示,該模型在六種不同語言中的準確率至少為93%。這表明Detect-2B可以有效地檢測出Deepfake音訊。

隨著AI生成技術的不斷進步,識別和證明Deepfake音訊變得越來越重要。特別是在2024年美國總統選舉的籌備過程中,AI生成的聲音或影片可能被用來誤導選民和傳播錯誤信息。這種對AI Deepfake的擔憂已經影響到了對品牌的信任。因此,像Detect-2B這樣的工具可以在很大程度上幫助辨識和證明Deepfake音訊,從而保護公眾的利益。

當然,Resemble並不是唯一一個致力於檢測AI複製的公司。McAfee推出了Project Mockingbird,用於檢測AI音訊。而Meta則正在開發一種為AI生成的音訊加入水印的方法。這些工具的出現表明,AI Deepfake問題的解決需要不斷地進行研究和創新。

Resemble表示,他們將繼續改進Detect-2B,並致力於表徵學習、高級模型架構和數據擴展等方面的研究,以提升檢測能力。他們相信,隨著生成式AI能力的不斷進步,檢測工具也需要與時俱進。

總之,Resemble AI的Detect-2B檢測模型是一個極具潛力的工具,可以幫助辨識和證明AI生成的音訊。這對於保護公眾免受Deepfake音訊的影響非常重要。隨著AI技術的發展,這種檢測工具的重要性將會越來越突出。

Share this content: