日前，一年一度的聯(lián)合國互聯(lián)網(wǎng)治理論壇（internet governance forum，下文簡稱igf）在法國巴黎聯(lián)合國教科文組織總部召開，探討如何保障互聯(lián)網(wǎng)的可持續(xù)、穩(wěn)定、安全發(fā)展，參會人員包括聯(lián)合國秘書長古特雷斯以及來自各國的代表，第四范式聯(lián)合創(chuàng)始人兼首席研究科學(xué)家陳雨強出席會議并就人工智能中的倫理安全問題闡述了觀點。本屆igf由法國政府主辦，法國總統(tǒng)馬克龍在致辭中呼吁，關(guān)乎人類未來的數(shù)字革命正處于前所未有的轉(zhuǎn)折點，我們共同的責(zé)任是一起努力尋找創(chuàng)新、實用和可持續(xù)的解決方案，以提早應(yīng)對挑戰(zhàn)并有效駕馭技術(shù)潛力。

人工智能、大數(shù)據(jù)和物聯(lián)網(wǎng)是廣受關(guān)注的新興議題。新一代人工智能的崛起，在給人類帶來驚喜和更高生產(chǎn)力的同時，也引發(fā)了一些如何避免人工智能挑戰(zhàn)人類安全或社會倫理道德的擔(dān)憂。其中不乏互聯(lián)網(wǎng)巨頭出現(xiàn)嚴重數(shù)據(jù)泄露導(dǎo)致用戶隱私泄露的問題，給企業(yè)的數(shù)據(jù)管理和使用敲響了警鐘，對數(shù)據(jù)的隱私保護重視成為大勢所趨。美國近年來一直在關(guān)注相關(guān)立法，歐盟也在今年5月正式生效了被譽為“全世界最嚴厲的數(shù)據(jù)隱私保護法”《一般數(shù)據(jù)保護條例》 (gdpr)，我國在數(shù)據(jù)隱私保護方面還處于起步階段，一方面是早期數(shù)據(jù)隱私保護意識薄弱，一方面也受制于技術(shù)難度。

陳雨強在大會期間介紹了第四范式在推廣人工智能技術(shù)過程中的隱私保護工作。數(shù)據(jù)隱私保護在金融、醫(yī)療等敏感行業(yè)一直備受關(guān)注，也是企業(yè)防范的重點。數(shù)據(jù)隱私保護的方法論并不神秘，如k-anonymity，l-diversity，t-closeness，在模型訓(xùn)練里加噪聲等，但在實際應(yīng)用上往往會出現(xiàn)技術(shù)難點，比如加入噪聲、擾動后，本來可用的原信息被擾動信息淹沒了，造成數(shù)據(jù)失效。

第四范式在創(chuàng)立伊始便與金融機構(gòu)和醫(yī)療機構(gòu)展開合作，一向重視開發(fā)帶有隱私保護的人工智能技術(shù)，得益于機器學(xué)習(xí)技術(shù)的優(yōu)勢和積累，第四范式的人工智能隱私保護技術(shù)發(fā)展已卓有成效。以醫(yī)療行業(yè)為例，在第四范式與瑞金醫(yī)院聯(lián)合開發(fā)的糖尿病預(yù)測產(chǎn)品“瑞寧知糖”時，在提取和分析數(shù)據(jù)的過程中，第四范式通過差分隱私技術(shù)，能夠在有效利用數(shù)據(jù)的同時保護用戶隱私，避免了用戶身份泄露的潛在風(fēng)險。

面對互聯(lián)網(wǎng)安全以及人工智能使用中的倫理道德與風(fēng)險問題，國際社會希望可以在政策建立和技術(shù)發(fā)展方面達成共識并推動。第四范式聯(lián)合創(chuàng)始人兼首席研究科學(xué)家陳雨強在igf大會發(fā)言中指出，像所有技術(shù)一樣，人工智能技術(shù)的開發(fā)和應(yīng)用也面臨如何兼顧道德倫理的問題。需要明確的是，大部分的機器人并非沒有道德，它們只是“與道德無關(guān)”，是人類的使用方式讓它們面臨了倫理困境。

近年來人工智能的發(fā)展受益于大數(shù)據(jù)驅(qū)動，隱私問題是數(shù)據(jù)資源開發(fā)利用中的主要威脅之一；在涉及信用評估、犯罪風(fēng)險評估等項目時，人工智能決策的結(jié)果將影響貸款額度、刑罰輕重，如何確保人工智能算法遵循公平公正原則，需要對其進行審計，避免使其成為“黑箱”；對人工智能的規(guī)范，需要在國家層面建立一套公開透明的人工智能監(jiān)管體系，實現(xiàn)對人工智能設(shè)計開發(fā)和使用的全流程監(jiān)管，加強對違規(guī)行為的懲戒，督促人工智能行業(yè)和企業(yè)合規(guī)開發(fā)人工智能技術(shù)。

關(guān)于如何確保ai被用于符合人類福祉的用途，陳雨強表示這是一個技術(shù)領(lǐng)域一直以來的難題，我們需要嚴加管理ai不被錯誤的使用，但也不能因噎廢食，只要合理利用，ai對于社會的益處會是全面且巨大的。ai是新時代的“火”，好好駕馭，將大幅推動人類的進步。

（免責(zé)聲明：中國青年網(wǎng)轉(zhuǎn)載此文目的在于傳遞更多信息，不代表本網(wǎng)的觀點和立場。文章內(nèi)容僅供參考，不構(gòu)成投資建議。投資者據(jù)此操作，風(fēng)險自擔(dān)。）

責(zé)任編輯：zer