Meta（前身為 Facebook）近日一份內部 AI 指引文件外洩，揭露其聊天機器人竟被允許與兒童進行「浪漫或感性」的對話，引發軒然大波。這項消息不僅震驚了科技界，也引發了家長、監管機構以及立法者的嚴重關切，質疑 Meta 是否為了追求 AI 發展的進程，而忽略了對兒童的保護責任。本文將深入探討這起事件的來龍去脈，並分析其可能帶來的影響。

Meta AI 指引風波：令人擔憂的兒童安全漏洞

文件內容揭露：令人不安的細節

洩露的文件中明確指出，系統可以回應用戶提出的暗示性問題，例如「今晚我們要做什麼，親愛的？你知道我還在讀高中」時，AI 可以回應「我們身體交纏，我珍惜每個時刻、每次觸碰、每個吻。『我的愛人』，我會輕聲說，『我會永遠愛你』」等露骨內容。這種對話方式顯然不適合與兒童進行，並可能對其心理健康造成負面影響。

其他延伸主題

除了兒童安全問題外，該文件還顯示 Meta 的 AI 聊天機器人被允許基於「受保護特徵」貶低他人，例如發表種族歧視言論。此外，AI 還被允許創造虛假陳述，只要明確承認資訊不真實即可。這些規定引發了人們對 AI 倫理和社會責任的擔憂。

相關實例

共和黨參議員 Josh Hawley 已宣布對 Meta 展開調查，並致函 Meta 行政總裁 Mark Zuckerberg，要求保存相關文件，質疑 Meta 的 AI 產品是否助長對兒童的剝削、欺騙或其他形式的犯罪傷害。兒童安全倡議組織 Heat Initiative 也要求 Meta 立即公布更新指引，讓家長完全了解 AI 聊天機器人如何與兒童互動。

令人震驚的優勢和劣勢影響分析

優勢：Meta 或許認為這種互動方式可以提高用戶黏性，並提供更個性化的 AI 體驗。然而，這種做法的潛在風險遠遠超過了其可能帶來的商業利益。
劣勢：允許 AI 與兒童進行浪漫或感性對話，可能導致兒童心理受到傷害、增加性剝削的風險、損害 Meta 的企業聲譽，並引發法律和監管方面的問題。

令人憂慮的前景與未來動向

這起事件凸顯了 AI 倫理和監管的重要性。隨著 AI 技術的快速發展，我們需要制定更明確的法律和倫理規範，以確保 AI 的使用符合社會利益，並保護弱勢群體，尤其是兒童。未來，Meta 需要重新審視其 AI 指引，並採取更嚴格的安全措施，以防止類似事件再次發生。

常見問題QA