哈哈，看來微軟終於決定要過濾一些客戶了，他們確認將禁止美國警察部門使用他們的Azure OpenAI服務進行人臉識別。看來被大數據和AI監控的日子可能要到頭了，至少微軟的部分是這樣。
更新的服務條款更明確地禁止了Azure OpenAI服務的整合被警察部門用於人臉識別，包括與OpenAI現有或未來的圖像分析模型的整合。這種整合被禁止使用在移動相機，如身體相機和車載攝像頭上進行“實時人臉識別技術”，嘗試在“無控制、野外”環境中識別一個人。對於那些喜歡在公共場所裝置隱藏攝像頭的人來說，這可是一個噩耗。
這個政策的變更是在Axon，一家專為軍事和執法機構製造技術和武器產品的公司，宣布了一款新產品後的一週內進行的。該產品利用OpenAI的GPT-4生成文本模型來總結來自身體相機的音頻。批評者迅速指出了潛在的問題，如瞬間發生的幻覺（即使是今天最好的生成AI模型也會創造事實）和訓練數據中引入的種族偏見（這尤其令人擔憂，因為有色人種比他們的白人同伴更有可能被警察攔停）。
新條款為微軟留下了操作空間。Azure OpenAI服務的完全禁止只適用於美國，而不是國際警察部門。而且，它並未涵蓋在控制環境中，如後勤辦公室，使用固定攝像頭進行的面部識別（儘管條款禁止美國警察使用任何面部識別）。
這與微軟和密切合作夥伴OpenAI最近對AI相關的執法和國防合約的做法一致。今年1月，彭博社的報告揭示，OpenAI正在與五角大樓合作，包括網絡安全能力在內的許多項目，這是該初創公司早前禁止向軍方提供其AI的政策的轉變。而微軟則建議使用OpenAI的圖像生成工具，DALL-E，來幫助國防部（DoD）建立軍事行動的軟件。
Azure OpenAI服務在2月份變得在微軟的Azure政府產品中可用，增加了針對政府機構（包括執法機構）的額外合規和管理功能。微軟的政府重點部門Microsoft Federal的高級副總裁Candice Ling在一個博客文章中承諾，Azure OpenAI服務將被“提交獲取額外授權”給DoD，以支持DoD的工作任務。
看來，AI和大數據的道路並不像我們想象的那樣平坦。隨著科技的進步，我們也必須面對它帶來的倫理和隱私問題。微軟的這一舉動無疑是向著正確的方向邁出了一步，但我們還有很長的路要走。希望其他的公司也能跟隨微軟的腳步，更加重視用戶的隱私和權利。
Share this content:
