人工智能的崛起暴露了性別差距的擴(kuò)大

2018-12-16 22:21:04來源：japantoday

使技術(shù)行業(yè)成為女性更受歡迎的地方的挑戰(zhàn)很多，特別是在蓬勃發(fā)展的人工智能領(lǐng)域。

為了了解技術(shù)社區(qū)所面臨的具有多大意義的任務(wù)，只需參加ai頂級科學(xué)家的大型聚會即可。今年活動的籌備工作引起了爭議，不僅因為沒有足夠的女性發(fā)言人或研究作者。

最大的爭論是關(guān)于會議的名稱。

神經(jīng)信息處理系統(tǒng)年度會議和研討會(以前稱為nips)已成為關(guān)于性別失衡對人工智能有多嚴(yán)重的一個標(biāo)志性象征。上周，成千上萬的人工智能研究人員在蒙特利爾召開了一次略微調(diào)整的旗幟--neurips--但仍存在許多相同的問題。

人工智能的挑戰(zhàn)反映出科技行業(yè)更加缺乏多樣性。在主要的科技公司，女性占工程和計算職位的20%或更少。根據(jù)一些說法，ai的性別失衡甚至更糟：創(chuàng)業(yè)孵化器element ai的一項估計顯示，在美國，女性僅占人工智能勞動力的13%。

挑戰(zhàn)的影響遠(yuǎn)遠(yuǎn)超出職業(yè)招聘的范圍。人工智能和稱為機(jī)器學(xué)習(xí)的自我訓(xùn)練學(xué)科可以模仿人類創(chuàng)造者進(jìn)入消費產(chǎn)品和日常生活的偏見。

“我們在機(jī)器學(xué)習(xí)方面的多樣性越多，我們在創(chuàng)造不歧視的產(chǎn)品方面就會做得更好，”微軟研究員hanna wallach說道，他是該會議的高級項目主席，也是相關(guān)活動的共同創(chuàng)始人。適合機(jī)器學(xué)習(xí)的女性。

人工智能系統(tǒng)在巨大的數(shù)據(jù)庫中尋找模式 - 比如我們對語音助手所說的內(nèi)容或我們在社交媒體上發(fā)布的圖像。這些系統(tǒng)可以分享那里發(fā)現(xiàn)的相同性別或種族偏見。

這種失火越來越受到關(guān)注。一個流氓的微軟聊天機(jī)器人發(fā)出性別歧視和種族主義言論。一個谷歌應(yīng)用程序?qū)⒆耘呐c大多數(shù)西方藝術(shù)的著名作品相匹配，將許多非白人混為一體。在另一個例子中，一項針對幾個突出的人工智能系統(tǒng)識別面部的研究表明，他們在膚色較淺的男性上的表現(xiàn)要比膚色較深的女性好得多。

今年，谷歌測試了一個電子郵件功能，旨在預(yù)測某人想寫什么，這證明其算法正在做出有偏見的假設(shè) - 例如，將護(hù)士稱為“她”，將工程師稱為“他”。該公司表示，在5月推出此功能之前，它最終刪除了所有性別代詞。

雖然越來越多的研究人員和產(chǎn)品設(shè)計師正致力于解決這些問題，但wallach表示，在分享新研究和招募新人的重要聚會上，有一個“令人反感”的名稱并沒有幫助。

會議的歷史可以追溯到1986年，這個名字在最初的幾十年里沒有引起太多人的關(guān)注，特別是在技術(shù)領(lǐng)域工作的女性人數(shù)更少。

但隨著近年來書呆子峰會的人數(shù)和公眾聲譽(yù)的爆炸，這個綽號越來越令人尷尬。批評人士說，這增加了一個充滿敵意的環(huán)境，一些女性也包括不受歡迎的進(jìn)展和其他形式的騷擾。

“這一名稱改變開辟了女性和少數(shù)民族在技術(shù)領(lǐng)域面臨的諸多問題，”長期參加芯片制造商nvidia的機(jī)器學(xué)習(xí)研究的長期會議參與者animashree anandkumar說。

初創(chuàng)公司的攤位上印有t恤衫和其他宣傳免費贈品，其性別歧視口號也是首字母縮略詞。由于會議吸引了谷歌，亞馬遜，微軟和facebook等企業(yè)巨頭作為贊助商和與會者，并且試圖在其行列中推廣更多女性和其他代表性不足的群體，因此內(nèi)涵變得更加棘手。

今年的會議領(lǐng)導(dǎo)人承認(rèn)“過去會議不敏感的事件”，并頒布了更嚴(yán)格的規(guī)定，禁止騷擾，欺凌和性服裝和活動。

但是他們最近在10月份拒絕更改這個名字，當(dāng)時他們發(fā)布了一項針對2000多名與會者(大多數(shù)是男性)的調(diào)查，結(jié)果發(fā)現(xiàn)大多數(shù)人都對此有所了解。這導(dǎo)致anandkumar啟動twitter標(biāo)簽以加大壓力。

凱瑟琳海勒是杜克大學(xué)教授和谷歌研究員，曾幫助領(lǐng)導(dǎo)一個新的多元化和包容性會議委員會，他說這有助于一些行業(yè)領(lǐng)導(dǎo)者也參與其中。例如，谷歌人工智能負(fù)責(zé)人杰夫迪恩在推特上發(fā)表說“有足夠多的人制造用現(xiàn)在的名字感到不舒服。“

會議委員會在11月16日做出了妥協(xié)并宣布新的首字母縮略詞是neurips。它敦促參與者尊重它并重新關(guān)注“科學(xué)與思想”。

主辦方將會議移至新網(wǎng)站，印制新標(biāo)志和小冊子，并聘請品牌公司設(shè)計新標(biāo)識，但過渡期尚未完成。與此同時，它提供了更多的便利設(shè)施 - 例如兒童保育 - 以及更多致力于解決偏見和包容性的小組 - 無論是在行業(yè)還是在其創(chuàng)造的技術(shù)方面。

這些變化促使anandkumar發(fā)推文說她多年來第一次經(jīng)歷了“歸屬感”。她說，她希望這標(biāo)志著“文明回歸”。

希瑟艾姆斯范思哲曾批評董事會“聾啞”，他表示，品牌重塑將有助于改變世界對科技產(chǎn)業(yè)的看法，并鼓勵年輕女性加入其中。人工智能創(chuàng)業(yè)公司neurala的聯(lián)合創(chuàng)始人范思哲表示，盡管有所改進(jìn)，但還需要做很多工作才能讓人工智能反映社會，而不僅僅是那些從事社會工作的小群體。

“通過人工智能，我們正在創(chuàng)造在現(xiàn)實世界中學(xué)習(xí)和制定決策的技術(shù)，”范思哲說。“我們需要確保它們代表了各種各樣的意見。”