2019年人工智能的六大潛在危險(xiǎn)

2019-01-18 14:57來源:固華智能//

原標(biāo)題：2019年人工智能的六大潛在危險(xiǎn)

曾經(jīng)，人們對超智能機(jī)器占領(lǐng)人類世界的未來憂心忡忡。世界在過去的一年表明，不必等到超智慧機(jī)器人的出現(xiàn)，人工智能就可能造成各種危害。

最新的人工智能方法在諸如圖像分類和語音轉(zhuǎn)錄等感知任務(wù)上表現(xiàn)出色，但對這些技能的炒作和興奮掩蓋了我們離制造像我們這樣聰明的機(jī)器還有多遠(yuǎn)。從2018年開始的六個(gè)爭議突顯，即使是最聰明的人工智能算法也可能行為不端，或者不小心應(yīng)用它們而導(dǎo)致可怕的后果。

1.自毀的汽車

在三月份uber的一輛自動駕駛汽車發(fā)生致命事故后，調(diào)查人員發(fā)現(xiàn)，該公司的技術(shù)發(fā)生了災(zāi)難性的故障，而這種故障很容易預(yù)防。

優(yōu)步在美的自動駕駛事故

福特和通用汽車等汽車制造商、優(yōu)步（uber）等新來者以及一批初創(chuàng)企業(yè)正忙著將一項(xiàng)技術(shù)商業(yè)化，盡管這項(xiàng)技術(shù)還不成熟，但其投資已達(dá)數(shù)十億美元。作為alphabet的子公司，韋莫公司取得了最大的進(jìn)步；它去年在亞利桑那州推出了第一個(gè)完全自主的出租車服務(wù)。但即使是韋莫公司的技術(shù)也有限，而且自動駕駛汽車在任何條件下都不能到處行駛。

2019年要注意的是：迄今為止，美國和其他國家的監(jiān)管機(jī)構(gòu)都采取了不動手的做法，擔(dān)心扼殺創(chuàng)新。美國國家公路交通安全管理局甚至表示，現(xiàn)有的安全規(guī)則可能會放寬。但行人和司機(jī)還沒有注冊成為豚鼠。2019年的另一次嚴(yán)重事故可能會改變監(jiān)管機(jī)構(gòu)的態(tài)度。

2.被操縱機(jī)器人

今年3月，有消息稱，咨詢公司利用facebook的數(shù)據(jù)共享做法影響了2016年美國總統(tǒng)選舉。由此引起的騷動表明，決定在社交媒體上出現(xiàn)什么新聞和信息的算法是如何進(jìn)行博弈的，以放大錯(cuò)誤信息，破壞健康的辯論，并將持有不同觀點(diǎn)的公民隔離開來。

大數(shù)據(jù)的新型誤傳技術(shù)

在美國國會聽證會上，facebook首席執(zhí)行官馬克.扎克伯格承諾，盡管人工智能還遠(yuǎn)不能理解文本、圖像或視頻的含義，但人工智能本身可以接受識別和阻止惡意內(nèi)容的入侵。

2019年要注意的是：扎克伯格的承諾將在南非和尼日利亞這兩個(gè)非洲最大的國家舉行的選舉中受到考驗(yàn)。到2020年美國大選的長期準(zhǔn)備也已經(jīng)開始，這可能會激發(fā)由人工智能驅(qū)動的新型誤傳技術(shù)，包括惡意聊天機(jī)器人。

三.和平算法

去年，當(dāng)谷歌員工得知他們的雇主正在向美國空軍提供用于分類無人機(jī)圖像的技術(shù)時(shí)，一場人工智能和平運(yùn)動開始成形。工人們擔(dān)心，這可能是為實(shí)現(xiàn)致命無人機(jī)打擊自動化提供技術(shù)的決定性一步。作為回應(yīng)，該公司放棄了相關(guān)項(xiàng)目，并創(chuàng)建了一個(gè)人工智能道德規(guī)范。

分類無人機(jī)圖像技術(shù)

學(xué)術(shù)界和工業(yè)界的重量級人物支持一項(xiàng)禁止使用自主武器的運(yùn)動。然而，人工智能的軍事使用只是在增長勢頭，而其他公司，如微軟和亞馬遜，對幫助他人毫無保留。

在2019年要注意的是：盡管美國五角大樓在人工智能項(xiàng)目上的開支在增加，但活動家們希望在今年的一系列聯(lián)合國會議上出臺一項(xiàng)禁止自主武器的先發(fā)制人條約。

4.監(jiān)視對抗

人工智能識別人臉的超人能力使各國以驚人的速度部署監(jiān)控技術(shù)。人臉識別還允許您解鎖手機(jī)，并在社交媒體上自動為您標(biāo)記照片。

人臉識別技術(shù)

機(jī)構(gòu)宣稱，這項(xiàng)技術(shù)是一種侵入人們隱私的強(qiáng)大方式，而測試數(shù)據(jù)的偏見使其很可能自動進(jìn)行歧視。

2019年要注意什么：人臉識別將傳播到車輛和網(wǎng)絡(luò)攝像頭上，它將被用來跟蹤你的情緒以及你的身份。

5.假裝直到你把它弄壞

去年大量的“deepfake”視頻顯示了使用人工智能制作假視頻是多么的容易。這意味著虛假的名人色情片，許多怪異的電影混搭，以及潛在的惡毒的政治誹謗運(yùn)動。

生成性對抗網(wǎng)絡(luò)（gans）包含兩個(gè)相互對抗的神經(jīng)網(wǎng)絡(luò)，可以產(chǎn)生非常逼真但完全由圖像和視頻組成的效果。nvidia最近展示了gans如何生成你想要的任何種族、性別和年齡的真實(shí)照片。

2019年要注意的是：隨著深海生物的改善，今年人們可能會開始被它們欺騙。國防高級研究計(jì)劃局將測試新的探測深凹處的方法。但由于這也依賴人工智能，所以這將是一個(gè)貓和老鼠的游戲。

6.算法識別

去年在許多商業(yè)工具中發(fā)現(xiàn)了偏差。在不平衡數(shù)據(jù)集上訓(xùn)練的視覺算法無法識別女性或有色人種；根據(jù)歷史數(shù)據(jù)制定的雇傭計(jì)劃被證明是對已經(jīng)存在的歧視的延續(xù)。

算法識別偏差

與偏見和更難解決的問題有關(guān)的是整個(gè)人工智能領(lǐng)域本身缺乏多樣性。女性最多占據(jù)了30%的行業(yè)工作崗位，在頂尖大學(xué)的教學(xué)崗位上所占比例不足25%。黑人和拉丁語研究者相對較少。

2019年的預(yù)期：我們將看到檢測和減輕偏差的方法，以及從有偏差的數(shù)據(jù)中產(chǎn)生無偏結(jié)果的算法。國際機(jī)器學(xué)習(xí)會議是一個(gè)重要的人工智能會議，將于2020年在埃塞俄比亞舉行，因?yàn)檠芯科妴栴}的非洲科學(xué)家可能難以獲得前往其他地區(qū)的簽證。

南京固華智能科技有限公司，致力于變革傳統(tǒng)工業(yè)，專注于工業(yè)智能的研發(fā)、設(shè)計(jì)、生產(chǎn)、銷售 和服務(wù)，為客戶量身定制高效、柔性、安全的智能化設(shè)備、自動化生產(chǎn)線及智慧工廠解決方案， 是中國領(lǐng)先的智能制造服務(wù)商。

責(zé)任編輯：

聲明：該文觀點(diǎn)僅代表作者本人，搜狐號系信息發(fā)布平臺，搜狐僅提供信息存儲空間服務(wù)。

閱讀 ()