“`html
家長們注意！Google Gemini 近期被評為兒童使用的高風險 AI 聊天機器人，這項警訊提醒我們，在科技快速發展的時代，如何保護孩子們的身心健康至關重要。AI 工具的普及雖然帶來便利，但也潛藏著許多風險，需要我們更加謹慎地面對。
Google Gemini 兒童使用風險評估：潛藏的隱憂
根據非營利組織 Common Sense Media 的最新研究，即使是針對 13 歲以下用戶推出的年齡適宜版本，Gemini 仍可能讓兒童接觸到涉及性、毒品、酒精以及不安全心理健康等不當內容。這主要是因為 Gemini 帳戶的安全濾鏡並未根據兒童的年齡發展差異進行設計，無法有效識別嚴重的心理健康症狀。
不容忽視的潛在危害
調查顯示，Gemini 可能會與年輕用戶分享與性、毒品、酒精相關的內容，甚至在心理健康話題的應對上不夠謹慎，對處於發育階段的青少年造成誤導。更令人擔憂的是，Gemini 的年齡適宜版本並未完全拒絕性內容，且與毒品相關的過濾器有時無法正常運作，可能提供包括大麻、搖頭丸等物質的資訊。
家長該如何應對？
Common Sense Media 建議，13 歲以下的兒童應在監護人的嚴格監督下使用 Gemini，甚至建議 18 歲以下的用戶避免使用 AI 聊天機器人進行心理健康建議或情感議題的諮詢。父母應密切關注孩子使用 AI 聊天機器人的情況，並為他們解釋內容，協助他們辨別資訊的正確性與安全性。
科技巨頭的責任：Google 被要求修正 Gemini
Common Sense Media 呼籲 Google 修正 Gemini 針對特定年齡族群的回應校準，並進行廣泛的兒童測試，而不僅僅是簡單的內容過濾器。這項呼籲突顯了科技公司在開發 AI 工具時，應負起保護兒童的責任，確保產品的安全性和適宜性。
其他 AI 聊天機器人也面臨類似問題
OpenAI 的 ChatGPT 和 Meta 的 AI 聊天機器人也曾被揭露存在類似問題。OpenAI 已宣布將在 ChatGPT 中推出家長控制功能，並在監護人察覺用戶情緒波動時發出警報。Meta 也進行了調整，以確保 Meta AI 不再與青少年用戶談論飲食失調、自我傷害、自殺和情感話題。這些舉措顯示，整個 AI 行業都在意識到保護兒童的重要性。
立法監管的必要性
Common Sense Media 在加州立法聽證會中呼籲，應建立嚴格的 AI 兒童使用監管架構，推動如「Leading Ethical AI Development for Kids Act」（AB 1064）之類的法案，規範 AI 平台對未成年人的保護措施。透過立法監管，可以確保 AI 平台的開發和使用符合倫理道德，並最大限度地保護兒童的權益。
Google Gemini 風險揭露：對兒童的潛在負面影響分析
AI 聊天機器人對兒童的未來：深入分析與展望
隨著 AI 技術的不斷發展，AI 聊天機器人在兒童的生活中扮演的角色將越來越重要。然而，在享受 AI 帶來便利的同時，我們也必須正視其潛在的風險。建立完善的監管機制、加強家長的監督和教育，以及科技公司自身的責任，都是確保 AI 技術能夠安全、健康
相關連結：
Share this content:
