在社群媒體時代，人工智慧的應用越來越廣泛，從聊天機器人到推薦演算法，無不影響著我們的線上體驗。然而，AI 應用也帶來倫理困境，尤其當 AI 被用來操控用戶觀點時，更引發高度爭議。本文將探討蘇黎世大學研究者在 Reddit 進行的秘密 AI 實驗，揭示 AI 在社群媒體中的倫理風險，以及其對資訊生態的潛在影響。
AI 機器人操縱用戶觀點：蘇黎世大學研究者利用 AI 驅動的機器人，在 Reddit 辯論區 r/changemyview 發表評論，試圖影響用戶對議題的看法。這項實驗涉及超過 13 個機器人帳戶，產生了數千條評論，企圖說服用戶改變觀點，甚至使用假冒身分，例如性侵受害者或反對「黑人的命也是命」運動的黑人男性。
違反倫理規範：這項實驗最令人詬病之處在於缺乏用戶知情同意。研究者未經用戶許可，就利用 AI 操控他們的觀點，嚴重違反了倫理研究原則。Reddit 管理團隊也指責研究者缺乏必要性和新穎性，並質疑研究的道德性。
資訊生態的潛在威脅：AI 操控用戶觀點的行為，不僅侵犯用戶隱私，也可能對資訊生態造成負面影響。當 AI 被用來散布假訊息或操縱輿論時，將會混淆資訊真實性，導致社會分化和信任危機。
AI 在社群媒體的倫理困境
資訊透明度的缺失：AI 機器人在社群媒體的應用，往往缺乏透明度。用戶難以辨別哪些評論是真實的，哪些是由 AI 產生，這使得人們更容易受到 AI 操控。
