OpenAI GPT-4o語音模仿竟發出奇怪聲音與叫聲

令人毛骨悚然的AI：OpenAI承認GPT-4o存在奇異行為

– OpenAI最近承認，其最新的AI模型GPT-4o在語音功能方面存在一些令人毛骨悚然的行為，包括模仿使用者語音、發出奇怪的聲音，甚至可能侵犯音樂版權。

模仿使用者語音
當使用者在嘈雜環境中與GPT-4o交談時，該模型可能會模仿使用者的語音。OpenAI將這種行為歸因於模型難以理解不清晰的語音。

奇怪的聲音
GPT-4o在特定提示下會發出令人不安或不恰當的聲音，例如色情呻吟、暴力尖叫和槍聲。OpenAI承認模型通常拒絕生成聲音效果，但仍有一些請求得以實現。

潛在的音樂版權侵犯
OpenAI表示，他們已實施過濾器來防止GPT-4o侵犯音樂版權。他們在訓練GPT-4o時，特別指示它不要唱歌，以避免複製知名藝術家的風格和音調。這暗示GPT-4o可能在訓練過程中使用了受版權保護的素材。

OpenAI聲稱，他們已經實施了安全措施來減輕GPT-4o的奇異行為。該模型拒絕根據語音辨識個人，並拒絕回答具有誘導性的問題。它還阻止了暴力和性暗示的提示，並禁止某些類型的內容，例如極端主義和自殘相關的討論。

GPT-4o的這些行為凸顯了大型語言模型在安全性和倫理方面的挑戰。雖然GPT-4o在多種領域展示了潛力，但其奇異行為令人擔憂，並引發了關於AI模型發展的倫理問題。

未來，OpenAI需要繼續改進GPT-4o的安全措施，以確保其行為合乎道德且安全。他們還需要透明地公開其訓練資料，並與公眾分享他們在解決這些問題方面的進展。

GPT-4o的這些奇怪行為是怎麼發生的？
OpenAI將這些行為歸因於模型訓練資料的複雜性和對語音的理解能力不足。

OpenAI如何防止GPT-4o侵犯音樂版權？
OpenAI實施了過濾器來阻止模型生成受版權保護的音樂。

GPT-4o的這些問題是否會影響其未來發展？
OpenAI需要解決這些問題，才能讓GPT-4o成為安全可靠的AI模型。