微軟禁止美國警方利用AI進行人臉識別:Azure OpenAI政策更新

Featured Image
微軟禁止美國警察部門通過Azure OpenAI使用生成AI進行面部識別。Azure OpenAI是微軟完全管理的企業導向OpenAI技術的封裝。最近更新的Azure OpenAI服務的服務條款中明確禁止將Azure OpenAI服務與美國警察部門的面部識別相關集成用於”由或為”美國的面部識別,包括與OpenAI當前和可能的未來的圖像分析模型的集成。另外,一個新的條款明確禁止在移動攝像頭上使用”實時面部識別技術”,例如身體攝像頭和車頂攝像頭,以試圖在”不受控制的野外”環境中識別人物。政策的變化是在Axon一周前宣布一個新產品之後出現的,該產品利用OpenAI的生成文本模型來對身體攝像頭的音頻進行摘要。批評者迅速指出了潛在的問題,如(即使是目前最好的生成AI模型也會編造事實)以及(從訓練數據中引入種族偏見(尤其令人擔憂的是有色人種比白人更有可能被停下來)。目前不清楚Axon是否通過Azure OpenAI服務使用了GPT-4,以及如果是這樣,是否是對Axon產品發布作出的回應。OpenAI以前禁止使用其模型進行面部識別。我們已經聯繫了Axon、微軟和OpenAI,如果收到回復,將更新此帖子。新的條款為微軟留下了可操作的空間。對Azure OpenAI服務的完全禁止僅適用於美國而不是國際警察。它不包括在受控環境中使用靜態攝像頭進行的面部識別,例如辦公室(儘管這些條款禁止美國警察使用任何面部識別技術)。這與微軟及其密切合作夥伴OpenAI最近在與AI相關的執法和國防合同方面的做法一致。彭博社在一月份的報導中指出,OpenAI正在與五角大樓合作進行多個項目,其中包括網絡安全能力,這是該初創公司提供AI給軍隊的一個轉變。在其他地方,微軟已經提出使用OpenAI的圖像生成工具DALL-E來幫助國防部(DoD)開發用於執行軍事行動的軟件。Azure OpenAI服務在二月份在微軟的Azure Government產品中推出,增加了針對政府機構,包括執法部門的合規性和管理功能。在微軟政府業務部門高級副總裁Candice Ling的一篇博客中,她承諾Azure OpenAI服務將”提交給國防部進一步授權”,以支持國防部任務的工作負載。更新:在發布後,微軟表示其服務條款的原始更改中存在錯誤,實際上該禁令僅適用於美國的面部識別。這不是對警察部門使用該服務的全面禁令。

Share this content: