美國當?shù)貢r間周二，微軟宣布將停止銷售基于面部圖像分析個人情緒狀態(tài)的自動化技術，并限制其面部識別工具的使用。

多年來，許多活動人士和學者始終擔心，聲稱能夠識別個人年齡、性別和情緒狀態(tài)的面部分析軟件可能存在偏見、侵入性，或者根本不可靠，因此不應該被允許出售。

微軟承認的確存在上述問題，并在美國當?shù)貢r間周二表示，計劃從其人工智能(AI)服務中移除這些用于檢測、分析和識別人臉的功能。微軟將于本周停止向新用戶出售該技術，現(xiàn)有用戶也將在今年內逐步停用。

這些改變是微軟加強對其AI產(chǎn)品控制努力的一部分。經(jīng)過兩年的審查，微軟的一個團隊制定了一份“負責任AI標準”。在長達27頁的文件中，該公司列出了對負責任AI系統(tǒng)的具體要求，以確保它們不會對社會產(chǎn)生有害影響。

這些要求包括確保AI系統(tǒng)“為它們致力于解決的問題提供有效的解決方案”，以及“為已確定的人口群體(包括邊緣化群體)提供類似質量的服務”。

這些技術將被用于幫助個人獲得就業(yè)、教育、醫(yī)療保健、金融服務或人生機遇等做出重要決定，在發(fā)布之前，它們需要接受由微軟首席負責任AI官娜塔莎·克蘭普頓(Natasha Crampton)領導的團隊的評估。

顯然，微軟對這種情緒識別工具的擔憂加劇了，它可以將個人的面部表情歸為憤怒、輕蔑、厭惡、恐懼、快樂、中立、悲傷或驚訝等?？颂m普頓說：“我們表達自我的方式存在著巨大的文化、地理和個人差異，這引發(fā)了人們對AI識別工具可靠性的擔憂，同時也會讓人產(chǎn)生更大的疑問，即面部表情是否是反映個人內心情緒狀態(tài)的可靠指標。”

克蘭普頓還說，年齡和性別分析工具以及其他檢測微笑等面部特征的工具，可能有助于盲人或視力不佳者解讀視覺圖像。但微軟認為，向公眾普遍提供這些分析工具不合適。克蘭普頓強調，該系統(tǒng)的所謂性別分類器是二元的，“這與我們的價值觀并不完全一致”。

微軟還將對其人臉識別功能施加新的控制，該功能可用于身份核查或搜索特定的人。例如，網(wǎng)約車公司Uber在其應用中使用該軟件來驗證司機的臉是否與該司機賬戶上的ID匹配。想要使用微軟面部識別工具的軟件開發(fā)商需要申請訪問權限，并解釋他們計劃如何部署該工具。

用戶還將被要求申請并解釋他們將如何使用其他可能被濫用的AI系統(tǒng)，如定制神經(jīng)語音(Custom Neural Voice)。該服務可以根據(jù)某人的演講樣本生成人的聲紋，這樣作者就可以創(chuàng)建他們的合成聲音，以用他們不會說的語言閱讀有聲讀物。

由于該工具可能被濫用，比如生成某個人沒有說過的話，用戶必須經(jīng)過一系列步驟來確認他們使用的聲音得到了授權，并且錄音中包括微軟可以檢測到的水印?？颂m普頓說：“我們正在采取具體行動，以踐行我們的AI原則，但這將是一段漫長的旅程。”

與其他科技公司一樣，微軟的AI產(chǎn)品在開發(fā)過程中也遭遇了許多挫折。2016年，微軟在推特上發(fā)布了名為Tay的聊天機器人，旨在從與其互動的用戶那里學習如何“理解對話”。然而，該機器人很快就開始發(fā)布具有種族歧視和攻擊性的推文，微軟最終不得不將其刪除。

2020年，研究人員發(fā)現(xiàn)，微軟、蘋果、谷歌、IBM和亞馬遜開發(fā)的“語音轉文本”工具在黑人用戶中的表現(xiàn)不太好。盡管微軟的系統(tǒng)是其中最好的，但對白人的誤認率為15%，而對黑人的誤認率為27%。

雖然微軟收集了各種各樣的語音數(shù)據(jù)來訓練其AI系統(tǒng)，但其始終沒有徹底理解語言的多樣化。因此，該公司聘請了來自華盛頓大學的社會語言學專家來幫助解釋其需要了解的語言變體。這種方法超越了人口統(tǒng)計和地區(qū)差異，囊括了人們在正式和非正式場合的說話方式。

克蘭普頓說：“認為種族是某個人說話方式的決定因素，實際上有很大誤導性。我們咨詢專家后了解到，實際上有很多因素會影響語言的多樣性。解決語音與文本之間差距的過程，為公司在新標準制定指導方針提供了巨大幫助。”

克蘭普頓還稱：“現(xiàn)在是為AI制定規(guī)范的關鍵時期。”她指的是歐洲擬議中的法規(guī)，該法規(guī)對AI的使用設定了規(guī)則和限制?？颂m普頓說：“我們希望能夠利用我們的標準，為科技公司普遍應該遵守的標準的討論和制定做出貢獻。”

關于AI的潛在危害，科技界已經(jīng)進行了多年的激烈辯論。爭論的起因是，有些AI錯誤和失誤對人們的生活產(chǎn)生了實際影響，比如決定人們是否能獲得福利的算法。荷蘭稅務機構錯誤地剝奪了貧困家庭的兒童看護福利，因為一個有缺陷的算法排除了具有雙重國籍的人。

用于識別和分析人臉的自動化軟件一直備受爭議。去年，F(xiàn)acebook關閉了其已有十年歷史的照片識別系統(tǒng)。該公司負責AI業(yè)務的副總裁提到，“很多人對面部識別技術在社會中的地位感到擔憂”。

幾名黑人男子因面部識別匹配有誤而被錯誤逮捕。2020年，在明尼阿波利斯市警察槍殺喬治·弗洛伊德(George Floyd)后，引發(fā)了“黑人的命也是命”(Black Lives Matter)的抗議活動。與此同時，亞馬遜和微軟宣布暫停美國警方使用其面部識別產(chǎn)品，稱需要對其使用制定更明確的法律。

自那以后，美國華盛頓和馬薩諸塞州通過了法規(guī)，其中要求對警察使用面部識別工具進行司法監(jiān)督。克蘭普頓說，微軟曾考慮是否開始在有法律依據(jù)的州向警方提供其軟件，但目前決定不這樣做。她說，隨著法律環(huán)境的變化，這種情況可能會改變。

普林斯頓大學計算機科學教授、著名AI專家阿溫德·納拉亞南(Arvind Narayanan)表示，公司可能正在放棄分析面部的技術，因為他們可能意識到，至少目前，這些系統(tǒng)沒有太大的商業(yè)價值。微軟沒有透露其面部分析功能有多少用戶。納拉亞南預測，公司不太可能放棄其他侵入性技術，比如定向廣告，它會讓人們選擇最好的廣告來展示給特定用戶，因為它們依然是“搖錢樹”。 (小小)

關鍵詞： 微軟宣布停售情緒狀態(tài)分析技術 停售情緒狀態(tài)分析技術 情緒狀態(tài)分析技術 情緒狀態(tài)分析