原標(biāo)題：微軟總裁施博德：開發(fā)可信賴的人工智能，技術(shù)設(shè)計(jì)者的角色是關(guān)鍵

【上圖為微軟公司總裁施博德（brad smith）】

我們正走進(jìn)人工智能（ai）社會(huì)。人工智能已經(jīng)深入地融入到生活與工作中，日常交通出行查看手機(jī)導(dǎo)航、每天在手機(jī)app上查看各種推送的媒體新聞、工業(yè)自動(dòng)化機(jī)器人代替人類生產(chǎn)著各種產(chǎn)品等等，已經(jīng)有著非常廣泛的人工智能身影。人工智能對(duì)社會(huì)的影響，遠(yuǎn)遠(yuǎn)比今天人們的認(rèn)知還要廣泛。

在教育、醫(yī)療保健、交通、農(nóng)業(yè)、能源和制造等領(lǐng)域，人工智能已初顯鋒芒，極大提高了人們的理解深度和決策能力，但另一方面也必將引發(fā)新的社會(huì)問題。例如，如何確保人工智能公平對(duì)待每一個(gè)人？如何在保護(hù)隱私的同時(shí)，享受人工智能帶來的好處？如何避免失去對(duì)機(jī)器的控制？此外，人工智能系統(tǒng)并非法外之地，如何讓人工智能系統(tǒng)遵守世界各地浩如煙海的法律規(guī)定？

2018年7月9日，微軟公司總裁施博德（brad smith）在由中國(guó)發(fā)展研究基金會(huì)主辦的《未來基石-人工智能的社會(huì)倫理和角色》報(bào)告（以下簡(jiǎn)稱：《報(bào)告》）發(fā)布會(huì)上，與清華大學(xué)公管學(xué)院院長(zhǎng)薛瀾教授就人工智能的社會(huì)角色進(jìn)行了深入探討。施博德表示，人工智能可以幫助人類克服最為艱巨的社會(huì)挑戰(zhàn)，但也要注意人工智能所需要承載的倫理道德和價(jià)值觀，人工智能只有在符合倫理道德標(biāo)準(zhǔn)的基礎(chǔ)上才能更好的服務(wù)人類社會(huì)。為了設(shè)計(jì)可信賴的人工智能，微軟提出了人工智能六項(xiàng)基本準(zhǔn)則，作為體現(xiàn)道德原則的人工智能解決方案框架。

ai倫理道德大討論

【上圖為微軟公司總裁施博德（左）與清華大學(xué)公管學(xué)院院長(zhǎng)薛瀾教授（右）對(duì)話】

近年來，國(guó)際社會(huì)對(duì)于人工智能的關(guān)注，日益轉(zhuǎn)移到重視人工智能中的倫理道德與法律問題。從去年開始，從美國(guó)到歐洲到中國(guó)，全球掀起了關(guān)于人工智能倫理道德大討論。特別是2018年3月，uber自動(dòng)駕駛車首次撞死了行人，進(jìn)一步激發(fā)了各界對(duì)人工智能立法的關(guān)注。

國(guó)際電氣和電子工程師協(xié)會(huì)（ieee）在2016年12月發(fā)布了“自主和智能系統(tǒng)的倫理設(shè)計(jì)”1.0版本，當(dāng)時(shí)匯集了全球數(shù)百位思想領(lǐng)袖以及人工智能、倫理道德領(lǐng)域?qū)＜业囊庖?，主要為鼓?lì)技術(shù)開發(fā)者在開發(fā)自主系統(tǒng)和智能系統(tǒng)的時(shí)候，要優(yōu)先考慮倫理道德因素與原則。2017年12月，“自主和智能系統(tǒng)的倫理設(shè)計(jì)”2.0版本發(fā)布，ieee同時(shí)推出了“倫理道德在行動(dòng)”活動(dòng)，鼓勵(lì)全球都積極參與ieee發(fā)起的討論。

微軟公司積極參與國(guó)際社區(qū)關(guān)于人工智能倫理道德以及相關(guān)立法方面的討論，這是源自于比爾·蓋茨時(shí)代就追求可信計(jì)算以及建立計(jì)算與人類用戶之間的信任。在2002年，比爾·蓋茨在發(fā)送給微軟員工的一份備忘錄中就表達(dá)了可信計(jì)算比其他任何工作內(nèi)容都更重要的觀點(diǎn)。而微軟新一任ceo薩提亞·納德拉在可信計(jì)算的基礎(chǔ)上，進(jìn)一步提出技術(shù)的倫理與同理心。納德拉在其《刷新：重新發(fā)現(xiàn)商業(yè)與未來》一書中提出了“同理心+共同價(jià)值觀+安全可靠=信任”這一公式。

納德拉提出在推動(dòng)人工智能發(fā)展的過程中，最重要的步驟就是對(duì)人工智能設(shè)計(jì)達(dá)成一個(gè)倫理和同理心的框架，并鼓勵(lì)全行業(yè)和全社會(huì)對(duì)此進(jìn)行討論。微軟總裁施博德去年與微軟全球執(zhí)行副總裁、微軟人工智能及微軟研究事業(yè)部負(fù)責(zé)人沈向洋主持撰寫了《future computed》一書，進(jìn)一步推動(dòng)了業(yè)界與社會(huì)對(duì)于人工智能倫理道德的關(guān)注。

人工智能的機(jī)遇與挑戰(zhàn)

中國(guó)也認(rèn)識(shí)到了人工智能倫理道理的重要性。2017年，中國(guó)政府發(fā)布《新一代人工智能發(fā)展規(guī)劃》，提出要“建立人工智能法律法規(guī)、倫理規(guī)范和政策體系，形成人工智能安全評(píng)估和管控能力”。中國(guó)發(fā)展研究基金會(huì)積極展開了《未來基石-人工智能的社會(huì)倫理和角色》研究，并參考了微軟在人工智能的社會(huì)角色和倫理方面的思考和洞察。

《報(bào)告》認(rèn)為，中國(guó)在人工智能領(lǐng)域的快速發(fā)展，已經(jīng)展示出巨大的應(yīng)用前景。特別是人工智能確實(shí)能幫助中國(guó)推進(jìn)經(jīng)濟(jì)社會(huì)結(jié)構(gòu)轉(zhuǎn)型，在人口數(shù)量上紅利消失的前提下，幫助突破供給側(cè)短板，緩解醫(yī)療、教育等社會(huì)資源挑戰(zhàn)。

微軟總裁施博德在對(duì)談中表示，人工智能可以幫助解決人類現(xiàn)在面臨最大的一些挑戰(zhàn)，比如精準(zhǔn)醫(yī)療、精準(zhǔn)農(nóng)業(yè)等。

例如在精準(zhǔn)農(nóng)業(yè)方面，未來二十五年內(nèi)全球人口預(yù)計(jì)將增加約25億，人工智能可提高農(nóng)業(yè)產(chǎn)量和減少浪費(fèi)，有效地增加糧食產(chǎn)量。例如，微軟的“farmbeats”項(xiàng)目采用先進(jìn)技術(shù)、聯(lián)通現(xiàn)有設(shè)施以及強(qiáng)大的云和機(jī)器學(xué)習(xí)功能，來實(shí)現(xiàn)低成本的數(shù)據(jù)驅(qū)動(dòng)型農(nóng)業(yè)。該項(xiàng)目為農(nóng)民提供了易于理解的建議，幫助提高農(nóng)業(yè)產(chǎn)量，降低總體成本，減少農(nóng)業(yè)對(duì)環(huán)境的影響。

當(dāng)然，在另一方面，我們也看到科幻小說和科幻電影以戲劇化方式引發(fā)了公眾的恐慌，讓中產(chǎn)階級(jí)產(chǎn)生了對(duì)人工智能的知識(shí)恐慌和焦慮，社會(huì)上出現(xiàn)了對(duì)人工智能的狂熱投資和非理性投入等。而諸如無人車在決定“撞老人”還是“撞孩子”這樣就算是人類司機(jī)也難以決策的問題，ai決策算法到底要怎么設(shè)計(jì)，這其實(shí)在很大程度上引發(fā)了對(duì)人類自己的反思。因此，如何讓社會(huì)更好地理解和認(rèn)識(shí)人工智能，在接受的同時(shí)能夠理性地看待人工智能，是我們進(jìn)入人工智能社會(huì)面臨的主要挑戰(zhàn)之一。

人工智能六項(xiàng)基本準(zhǔn)則

與其它公司討論人工智能不同的是，微軟還在積極實(shí)踐人工智能，并且把普及人工智能全民化作為公司的使命。微軟不僅僅推出了基于智能云azure的人工智能服務(wù)以及cortana人工智能助理和微軟小冰對(duì)話型聊天機(jī)器人等，更把人工智能擴(kuò)散到微軟的所有產(chǎn)品和服務(wù)中。

《future computed》一書強(qiáng)調(diào)，40年前比爾·蓋茨和保羅·艾倫成立微軟時(shí)，他們的目標(biāo)是讓每一個(gè)人都能受益于計(jì)算機(jī)的計(jì)算能力，于是他們著手建立用于家庭、學(xué)校以及工作場(chǎng)所、幫助人們提高效率的“個(gè)人”計(jì)算機(jī)。如今，微軟通過人工智能所做的事情也與此類似。微軟的目標(biāo)是部署人人可用、體現(xiàn)永恒社會(huì)價(jià)值的人工智能系統(tǒng)，讓人工智能贏得所有人的信任。

施博德強(qiáng)調(diào)，要設(shè)計(jì)出可信賴、贏得所有人信任的人工智能，必須采取體現(xiàn)道德原則的解決方案，而這些道德原則應(yīng)深深根植于重大和永恒的價(jià)值觀。具體而言，人工智能系統(tǒng)應(yīng)公平、可靠與安全、隱私與保密、包容、透明和負(fù)責(zé)，這就是微軟的人工智能六項(xiàng)基本準(zhǔn)則。

比如在可靠與安全方面，人工智能能否取得人們信任，最終取決于基于人工智能的系統(tǒng)能否可靠、安全和一致地運(yùn)行，這不僅是在通常情況下，更包括意外或受到攻擊的情況。此外，人工智能系統(tǒng)往往并不能看到或理解更大的社會(huì)圖景，因此人類的判斷對(duì)于識(shí)別人工智能系統(tǒng)潛在的盲點(diǎn)和偏見非常關(guān)鍵，開發(fā)人員應(yīng)意識(shí)到這些挑戰(zhàn)。

再比如在透明方面，因?yàn)橐坏┤斯ぶ悄芟到y(tǒng)被用于做出影響人們生活的決策，人們就有必要了解人工智能是如何做出這些決策的。然而深度神經(jīng)網(wǎng)絡(luò)等人工智能算法本身就是“黑箱子”，因此需要更全面的方法，使人工智能系統(tǒng)設(shè)計(jì)人員能夠盡可能完整、清晰地描述系統(tǒng)的關(guān)鍵組成要件。微軟正在與人工智能合作組織（pai）及其他組織合作開發(fā)最佳實(shí)踐規(guī)范，以實(shí)現(xiàn)人工智能系統(tǒng)有意義的透明度。

施博德表示，創(chuàng)建安全、可靠的人工智能系統(tǒng)不是某一個(gè)人的責(zé)任，而是共同的責(zé)任。為了確保這六項(xiàng)原則有效實(shí)施，微軟設(shè)立了開發(fā)和研究人工智能與道德標(biāo)準(zhǔn)委員會(huì)（aether），幫助解決微軟人工智能研究、產(chǎn)品和客戶溝通中產(chǎn)生的倫理和社會(huì)影響問題。清華大學(xué)薛瀾教授在會(huì)上也表示，未來人工智能需要一套信息治理機(jī)制，在使用信息和保護(hù)隱私之間找到合理的平衡，而這其中公司的責(zé)任非常關(guān)鍵。像微軟提出的六項(xiàng)原則，可以適用到更多公司，跨界的治理機(jī)制需要盡快推進(jìn)。

總結(jié)來說，人工智能的長(zhǎng)期發(fā)展基石，無疑是技術(shù)的倫理道德和價(jià)值觀。畢竟技術(shù)是由人所創(chuàng)造出來的產(chǎn)物，反應(yīng)了人的思維和智慧，也反應(yīng)了人的倫理道德和價(jià)值觀。面對(duì)新一輪技術(shù)帶來的巨大變化和沖擊，人工智能的最大挑戰(zhàn)不在技術(shù)而在于設(shè)計(jì)、開發(fā)和使用技術(shù)的人。建立負(fù)責(zé)任地使用人工智能的原則、政策和法律是全社會(huì)和全人類共同面對(duì)的挑戰(zhàn)，需要政府、學(xué)界、企業(yè)等各利益相關(guān)方的共同努力。（文/寧川）