我們應(yīng)該害怕人工智能嗎？

2018-11-21 11:56來源:新天域互聯(lián)//

原標題：我們應(yīng)該害怕人工智能嗎？

一些知名人士，如傳奇物理學(xué)家斯蒂芬霍金和特斯拉以及spacex領(lǐng)導(dǎo)者和創(chuàng)新者埃隆馬斯克認為人工智能可能非常危險; 馬斯克曾一度將人工智能與朝鮮獨裁者的危險進行比較。微軟聯(lián)合創(chuàng)始人比爾蓋茨也認為有理由保持謹慎，但如果管理得當，好處可能會超過壞處。由于最近的發(fā)展使得超智能機器比最初想象的要早得多，現(xiàn)在是時候確定人工智能帶來的危險。

什么是應(yīng)用和廣義人工智能？

人造智能的核心是建立能夠智能思考和行動的機器，并包括諸如谷歌的搜索算法或使自動駕駛汽車成為可能的機器等工具。雖然大多數(shù)當前的應(yīng)用程序都被用來積極地影響人類，但任何強大的工具都可以在落入壞人手中時用于有害目的。今天，我們已經(jīng)實現(xiàn)了應(yīng)用ai-ai，它執(zhí)行面部識別，自然語言處理或互聯(lián)網(wǎng)搜索等狹窄任務(wù)。最終，該領(lǐng)域的專家正在努力實現(xiàn)更廣泛的ai，系統(tǒng)可以處理智能人類可以執(zhí)行的任何任務(wù)，并且最有可能在每個人身上擊敗我們。

在一篇評論中，elon musk寫道：“人工智能的進步速度（我指的是狹窄的人工智能）非?？臁３悄阒苯咏佑|像deepmind這樣的團體，否則你不知道它的增長速度有多快接近指數(shù)的速度。發(fā)生嚴重危險的風(fēng)險發(fā)生在五年時間框架內(nèi)。最多10年?！?/p>

確實有很多ai應(yīng)用程序可以讓我們的日常生活變得更加方便和高效。人工智能應(yīng)用程序在確保馬斯克，霍金和其他人在宣布對技術(shù)猶豫時所擔心的安全方面發(fā)揮著關(guān)鍵作用。例如，如果人工智能負責確保我們的電網(wǎng)運行并且我們的最大恐懼已經(jīng)實現(xiàn)，并且系統(tǒng)變得流氓或被敵人攻擊，則可能導(dǎo)致巨大的傷害。

人工智能如何危險？

雖然我們尚未實現(xiàn)超級智能機器，但法律，政治，社會，金融和監(jiān)管問題是如此復(fù)雜和廣泛，現(xiàn)在有必要對它們進行審視，以便我們準備好在它們之間安全運行。時機成熟。現(xiàn)在，除了為超級智能機器做好準備之外，人工智能已經(jīng)在目前的形式下造成危險。讓我們來看看一些與ai相關(guān)的關(guān)鍵風(fēng)險。

自主武器

人工智能被編程為做一些危險的事情，就像被編程殺死的自主武器一樣，這是人工智能可能帶來風(fēng)險的一種方式。期望核軍備競賽將被全球自主武器競賽取代甚至可能是合理的。俄羅斯總統(tǒng)弗拉基米爾普京說：“ 人工智能不僅是俄羅斯的未來，也是全人類的未來。它帶來了巨大的機遇，但也存在難以預(yù)測的威脅。無論誰成為這個領(lǐng)域的領(lǐng)導(dǎo)者，都將成為世界的統(tǒng)治者。“

除了擔心自主武器可能獲得“自己的思想”之外，更迫切需要關(guān)注的是自主武器可能對個人或政府不利于人類生命的危險。一旦部署，它們很可能難以拆除或打擊。

社交操縱

社交媒體通過其自主驅(qū)動算法在目標營銷方面非常有效。他們知道我們是誰，我們喜歡什么，并且非常善于推測我們的想法。調(diào)查仍在進行中，以確定劍橋分析公司和其他與該公司有關(guān)的其他公司的錯誤，該公司使用了來自5000萬facebook用戶的數(shù)據(jù)來試圖影響2016年美國總統(tǒng)大選和英國退歐公投的結(jié)果，但如果指控是正確的，它說明了ai對社交操縱的力量。通過將宣傳傳播給通過算法和個人數(shù)據(jù)識別的個人，ai可以針對他們并以他們最有說服力的事實或虛構(gòu)的任何形式傳播他們喜歡的任何信息。

侵犯隱私和社會分級

現(xiàn)在可以跟蹤和分析個人在線的每一步以及他們?nèi)粘I(yè)務(wù)的時間。相機幾乎無處不在，面部識別算法知道你是誰。事實上，這是為中國的社會信用體系提供動力的信息類型，預(yù)計將根據(jù)他們的行為方式為其14億公民中的每一個人提供個人得分 - 例如他們jaywalk，他們吸煙嗎？非吸煙區(qū)以及他們花多少時間玩視頻游戲。當老大哥正在觀察你，然后根據(jù)英特爾做出決定時，它不僅會侵犯隱私，而且很快就會轉(zhuǎn)向社會壓迫。

我們的目標與機器之間的不一致

人類在人工智能機器中所重視的部分原因是它們的效率和有效性。但是，如果我們不清楚我們?yōu)槿斯ぶ悄軝C器設(shè)定的目標，那么如果機器沒有我們擁有的相同目標，則可能會很危險。例如，“盡快讓我到機場”的命令可能會產(chǎn)生可怕的后果。沒有說明道路規(guī)則必須得到尊重，因為我們重視人的生命，機器可以非常有效地實現(xiàn)其目標，即盡快讓您到機場，并按照您的要求進行，但留下一連串的事故。

區(qū)別

由于機器可以收集，跟蹤和分析很多關(guān)于您的信息，因此這些機器很可能會對您使用該信息。不難想象一家保險公司告訴你，根據(jù)你在手機上用相機說話的次數(shù)，你不可保險。雇主可能會根據(jù)您的“社會信用評分”扣留工作機會。

任何強大的技術(shù)都可能被濫用。今天，人工智能被用于許多好的事業(yè)，包括幫助我們做出更好的醫(yī)療診斷，找到治愈癌癥的新方法，讓我們的汽車更安全。不幸的是，隨著我們的ai功能擴展，我們也會看到它被用于危險或惡意目的。由于人工智能技術(shù)發(fā)展如此迅速，因此我們必須開始討論人工智能積極發(fā)展的最佳方式，同時盡量減少其破壞性潛力。