微軟宣布禁止美國警察部門通過Azure OpenAI服務使用生成式人工智能進行人臉識別。Azure OpenAI是微軟對OpenAI技術的全面托管、企業專注的封裝。Azure OpenAI服務的服務條款最新明確禁止將Azure OpenAI服務與美國警察部門用於人臉識別相關的集成，包括OpenAI當前和可能的未來的圖像分析模型。新的條款還涵蓋了“全球的任何執法機構”，明確禁止在移動攝像頭上使用“實時人臉識別技術”，例如身體攝像頭和行車記錄儀，以試圖在“自然環境中”識別一個人。這一政策變化發生在一週之後，軍事和執法裝備製造商Axon宣布利用OpenAI的生成文本模型總結身體攝像頭的音頻。批評者迅速指出了潛在的問題，如即使是最好的生成式人工智能模型今天也會發明事實，以及由訓練數據引入的種族偏見（尤其令人擔憂的是有色人種相比白人更容易被停車）。目前尚不清楚Axon是否通過Azure OpenAI服務使用GPT-4，如果是的話，更新的政策是否是對Axon產品發布的回應。OpenAI此前曾禁止通過其API將其模型用於人臉識別。如果我們收到回覆，我們將與Axon、微軟和OpenAI聯繫。新的條款為微軟留下了一些餘地。Azure OpenAI服務的完全禁止僅適用於美國而非國際警察。並且它不涉及在受控環境中使用靜態攝像頭進行的人臉識別，例如辦公室（儘管條款禁止美國警察使用任何人臉識別）。這與微軟和緊密合作夥伴OpenAI最近對人工智能相關的執法和國防合同的做法一致。今年1月，《彭博社》報導稱，OpenAI正在與五角大廈合作進行多項項目，包括網絡安全能力，這是該初創公司先前僅提供其AI給軍方的改變。此外，微軟還提出使用OpenAI的圖像生成工具DALL-E來幫助國防部（DoD）構建執行軍事行動的軟件。Azure OpenAI服務從2月份開始在微軟的Azure Government產品中提供，增加了針對政府機構（包括執法機構）的合規性和管理功能。在微軟的政府部門微軟聯邦的高級副總裁Candice Ling在一篇博客中承諾，Azure OpenAI服務將被提交給國防部進行額外的授權，以支持國防部的任務。更新：在發布後，微軟表示其原始的服務條款中存在一個錯誤，實際上禁令僅適用於美國的人臉識別。這不是對警察部門使用該服務的全面禁令。
Share this content:
