微軟對美國警察部門使用生成式人臉識別 AI 的禁令已經通過 Azure OpenAI 這家企業專注於 OpenAI 技術的完全托管封裝，對於 Azure OpenAI 服務的服務條款進行了修改。在美國，明確禁止將 Azure OpenAI 服務與警察部門的人臉識別相集成使用，包括對 OpenAI 當前和可能的未來圖像分析模型的集成。另外，新的條款還涵蓋了「全球任何执法部门」，明確禁止在移動相機上，如警用攝像機和行車記錄儀等，使用「實時人臉識別技術」來嘗試在「無控制的野外環境」中識別人物。政策的變化是在一周前，一家為軍警提供技術和武器產品的公司 Axon 宣布了一項利用 OpenAI 的生成文本模型來總結警用攝像機音頻的新產品。批評者迅速指出了潛在的問題，如最好的生成式 AI 模型今天會捏造事實，以及訓練數據中引入的種族偏見（尤其令人擔憂的是有色人種相對於白人同輩更容易受到停車檢查）。目前尚不清楚 Axon 是否通過 Azure OpenAI 服務使用 GPT-4，如果是的話，更新的政策是否是對 Axon 產品發布的回應。OpenAI 曾經禁止使用其模型進行人臉識別。如果我們收到回复，我們將聯繫 Axon、微軟和 OpenAI，並更新此帖子。新的條款為微軟留下了一些餘地。Azure OpenAI 服務的完全禁令僅適用於美國而非國際警察部門。並且不包括在受控環境中使用「固定」攝像機進行的人臉識別，例如辦公室（儘管該條款禁止美國警察使用任何人臉識別）。這與微軟及其緊密合作夥伴 OpenAI 近期在與 AI 相關的執法和國防合同方面的做法一致。根據彭博社的報導，OpenAI 正在與五角大廈合作進行一些項目，包括提供网络安全能力，這是這家初創企業從前提供 AI 給軍隊的做法。此外，微軟還提出使用 OpenAI 的圖像生成工具 DALL-E，以幫助国防部（DoD）開發執行軍事行動的軟件。Azure OpenAI 服務於二月份在微軟的 Azure Government 產品中推出，增加了更多面向政府機構（包括執法機構）的合規性和管理功能。微軟的政府專屬部門微軟聯邦的高級副總裁 Candice Ling 在一篇博文中承諾，Azure OpenAI 服務將被提交給國防部，用於支持國防部任務的工作負載。**更新：** 在發布後，微軟表示其服務條款的原始更改存在錯誤，實際上該禁令僅適用於美國的人臉識別，而不是對警察部門使用服務進行全面禁止。
Share this content:
