【網(wǎng)易智能訊8月8日消息】很多人一直在討論將人工智能技術(shù)應(yīng)用于開(kāi)發(fā)武器所產(chǎn)生的道德問(wèn)題，這是否會(huì)導(dǎo)致ai武器使用禁忌的出現(xiàn)？

這場(chǎng)圍繞人工智能武器道德問(wèn)題的辯論涉及到每個(gè)人，從倡導(dǎo)團(tuán)體、政府官員到谷歌工程師。許多人認(rèn)為人工智能武器帶有非常重要的道德問(wèn)題，這就引出了一個(gè)疑問(wèn)，這些道德問(wèn)題以及反人工武器倡導(dǎo)組織的努力是否會(huì)導(dǎo)致人工智能武器被禁止使用或者引發(fā)強(qiáng)烈禁忌的出現(xiàn)？有些人認(rèn)為 ，國(guó)際協(xié)議足以阻止ai武器被應(yīng)用于世界軍隊(duì)。然而，圍繞人工智能武器使用禁忌的討論取決于更為直接的因素：它們?cè)趹?zhàn)場(chǎng)上的有效性。

今年4月，谷歌員工以非常公開(kāi)的方式抗議公司參與五角大樓計(jì)劃（pentagon program），該計(jì)劃使用人工智能來(lái)解釋圖像以改進(jìn)無(wú)人機(jī)對(duì)目標(biāo)的攻擊。當(dāng)然，人工智能武器的風(fēng)險(xiǎn)和道德問(wèn)題是真實(shí)存在的（就像任何新的戰(zhàn)爭(zhēng)技術(shù)一樣）。此外，大多數(shù)人工智能武器的反對(duì)者通常都指出了這樣一個(gè)道德問(wèn)題：使用計(jì)算機(jī)算法來(lái)選擇和消除人類(lèi)目標(biāo)，而控制過(guò)程卻沒(méi)有人類(lèi)參與。

然而，人工智能武器所帶來(lái)的危機(jī)已超出了戰(zhàn)爭(zhēng)的道德問(wèn)題。有些人指出 ，如果人工智能武器在世界范圍內(nèi)擴(kuò)散，危機(jī)會(huì)呈現(xiàn)出動(dòng)態(tài)、不穩(wěn)定的狀態(tài)。如果危機(jī)涉及的兩個(gè)國(guó)家能夠獲得可以輕易進(jìn)行如此迅速破壞的武器，那么先發(fā)優(yōu)勢(shì)（first mover advantage）可能會(huì)使這些國(guó)家走向戰(zhàn)爭(zhēng)而不是遠(yuǎn)離戰(zhàn)爭(zhēng)。例如，人們常常認(rèn)為先發(fā)優(yōu)勢(shì)是第一次世界大戰(zhàn)爆發(fā)的原因。部隊(duì)的迅速流動(dòng)和武器的進(jìn)步使得軍事規(guī)劃人員相信那些先行動(dòng)的人將擁有不可逾越的優(yōu)勢(shì)。因此，如果對(duì)方正準(zhǔn)備行動(dòng)，那么你就會(huì)希望在對(duì)方行動(dòng)前先發(fā)制人，ai可以創(chuàng)造類(lèi)似的激勵(lì)。

大多數(shù)人認(rèn)為化學(xué)武器使用禁忌之所以存在，是因?yàn)樗鼈兪且环N特別可怕的戰(zhàn)爭(zhēng)武器，國(guó)際社會(huì)同意禁止使用它們。但是，國(guó)際社會(huì)禁止某些事物并不代表這些武器足以被阻止使用。姑且先把對(duì)人工智能武器的使用禁令是否切合實(shí)際放在一邊，人們?cè)趹?zhàn)場(chǎng)上使用或不使用人工智能武器的唯一決定因素是一些更為直接的結(jié)果：有效性，如果ai武器有效，各國(guó)便會(huì)在戰(zhàn)場(chǎng)上使用它。

以往被開(kāi)發(fā)的新戰(zhàn)爭(zhēng)工具也證明了這一點(diǎn)。在這些新武器被開(kāi)發(fā)出來(lái)時(shí)，通常會(huì)被要求禁止使用。約翰·埃利斯（john ellis）在《機(jī)槍的社會(huì)歷史》（the social history of the machine gun）一書(shū) 中解釋了早期美國(guó)使用機(jī)槍的獨(dú)特性原因，以及機(jī)槍最終戰(zhàn)勝封建觀念并遍布戰(zhàn)場(chǎng)的原因。與此相對(duì)的是，在傳統(tǒng)觀念里，人們認(rèn)為只有勇敢的人可以贏得戰(zhàn)爭(zhēng)，而不是依賴花哨的武器。

類(lèi)似的武器禁忌以及對(duì)戰(zhàn)爭(zhēng)行為制定適當(dāng)?shù)囊?guī)則提供了一些例子，我們可以從中獲知人們對(duì)人工智能武器的期許。1898年，來(lái)自世界各地的代表在日內(nèi)瓦召開(kāi)會(huì)議，討論戰(zhàn)爭(zhēng)中的規(guī)則和法律。人們尤為關(guān)心的是對(duì)化學(xué)武器的使用，化學(xué)武器是當(dāng)時(shí)正在開(kāi)發(fā)的一種新武器。大會(huì)期間，即使化學(xué)武器被規(guī)定禁止大規(guī)模使用，代表們?nèi)匀桓械綋?dān)心。

最終討論得出的公約要求：禁止使用窒息性、有毒或其他氣體。只有兩個(gè)國(guó)家對(duì)這項(xiàng)禁止表示反對(duì)，美國(guó)和（支持美國(guó)的）英國(guó)。美國(guó)持反對(duì)意見(jiàn)的觀點(diǎn)是，各國(guó)應(yīng)該盡一切可能利用所有手段盡快結(jié)束戰(zhàn)爭(zhēng)，他們認(rèn)為禁止使用化學(xué)武器只會(huì)延長(zhǎng)沖突的時(shí)間，最終導(dǎo)致更多人死亡。他們對(duì)美國(guó)內(nèi)戰(zhàn)仍記憶猶新，這場(chǎng)戰(zhàn)爭(zhēng)僅在三十三年前結(jié)束，此外，這是一場(chǎng)人們預(yù)計(jì)會(huì)很快結(jié)束但并沒(méi)有并伴有大量傷亡的戰(zhàn)爭(zhēng)。

1898年，美國(guó)代表大使alfred t. mahan說(shuō)：“對(duì)于新武器來(lái)說(shuō)，總有一種反對(duì)意見(jiàn)認(rèn)為具有戰(zhàn)爭(zhēng)危險(xiǎn)的武器是野蠻、殘暴的，然而，人們最終還是采用了這種武器。”那么，為什么一種禁忌形式會(huì)圍繞特定的具有戰(zhàn)爭(zhēng)危險(xiǎn)的武器，而不是其他具有戰(zhàn)爭(zhēng)危險(xiǎn)的武器呢？理查德·普賴斯（richard price）觀察到 ，“縱觀歷史，許多新武器作為一種新技術(shù)被引入戰(zhàn)爭(zhēng)時(shí)都會(huì)引發(fā)道德抗議的呼聲。然而，正如長(zhǎng)弓，弩，槍械，爆炸彈和潛艇等例子所表明的那樣，隨著這些創(chuàng)新被納入戰(zhàn)爭(zhēng)的標(biāo)準(zhǔn)技術(shù)，相關(guān)道德顧慮隨著時(shí)間的推移就會(huì)逐漸消失”。

最終，圍繞化學(xué)武器會(huì)形成使用禁忌。雖然這并不妨礙化學(xué)武器被人們使用（在最近的伊拉克戰(zhàn)爭(zhēng)中化學(xué)武器被多次使用），但這肯定會(huì)對(duì)其被廣泛使用產(chǎn)生威懾作用。但是什么推動(dòng)了化學(xué)武器被有限使用呢？“禁忌”實(shí)際上能夠在不停止部分國(guó)家的情況下阻止了其他國(guó)家使用化學(xué)武器嗎？

由于化學(xué)武器在戰(zhàn)場(chǎng)上不是一種特別有效或有用的工具，所以認(rèn)為禁忌是阻止其被廣泛使用的唯一因素，這種論點(diǎn)更不具有說(shuō)服力。產(chǎn)生足夠濃度的氣體云是很困難的。在戰(zhàn)爭(zhēng)的迷霧中，在不同程度的“摩擦”下，瞄準(zhǔn)目標(biāo)變得更加困難。在精確制導(dǎo)武器的時(shí)代，武器無(wú)法擊中離散目標(biāo)似乎尤其無(wú)用。此外，如果風(fēng)起作用或改變方向，也不能保證部隊(duì)不會(huì)受到影響。這些限制使得這種武器只對(duì)已經(jīng)處于極度絕望境地的領(lǐng)導(dǎo)人和政權(quán)具有吸引力。

現(xiàn)在對(duì)比一下潛艇的發(fā)展。潛艇最初是在化學(xué)武器被廣泛使用的同時(shí)被開(kāi)發(fā)出來(lái)的，也曾受到類(lèi)似的對(duì)待，人們認(rèn)為潛艇是一種不光彩的武器，潛伏在地下，匿名殺死它們的目標(biāo)。在不受限制的潛艇戰(zhàn)崛起時(shí)期中尤其如此。人們還呼吁禁止使用潛艇，1936年的倫敦議定書(shū)試圖對(duì)潛艇戰(zhàn)采取制定限制。

那么為什么化學(xué)武器發(fā)展成為禁忌而潛水艇沒(méi)有呢？這告訴我們圍繞人工智能武器使用禁忌的潛在發(fā)展趨勢(shì)是什么呢？這里考慮的三種新戰(zhàn)爭(zhēng)技術(shù)都引發(fā)并造成了重大的道德困境，并且仍然被許多人視為是不道德的。然而，在這兩個(gè)歷史例子中，無(wú)效的工具產(chǎn)生了一個(gè)禁忌，而有效的工具卻沒(méi)有。那么，人工智能將成為一種有效的戰(zhàn)爭(zhēng)工具嗎？

人工智能似乎極有可能成為戰(zhàn)爭(zhēng)的有用工具。盡管人們應(yīng)該避免使用諸如“軍事革命（evolution in military affairs）”之類(lèi)的術(shù)語(yǔ)，但很容易看到這種新型武器系統(tǒng)的前景。然而，人們不應(yīng)該期待一場(chǎng)終結(jié)“現(xiàn)代系統(tǒng)（modern system）”戰(zhàn)爭(zhēng)的劇變。盡管人工智能武器可能會(huì)提高軍事效率，但隨后的對(duì)策發(fā)展可能會(huì)阻止它們顛覆現(xiàn)代的戰(zhàn)爭(zhēng)體系。

人工智能在軍隊(duì)中的承諾之一，似乎可以保證其被采用，這就是它的廣泛適用性。人工智能可以用來(lái)提高效率，不僅僅是作戰(zhàn)行動(dòng)上。人工智能可以改善補(bǔ)給線，加強(qiáng)對(duì)新士兵的訓(xùn)練，提高情報(bào)收集和處理的效率但人工智能在作戰(zhàn)行動(dòng)中的有效性似乎特別有前景。人工智能并不是一個(gè)完全革命性的概念，它被應(yīng)用到軍事領(lǐng)域，這僅僅是現(xiàn)代戰(zhàn)場(chǎng)數(shù)字化和機(jī)械化下的一個(gè)合乎邏輯的步驟。在911之后，電子和機(jī)器人武器系統(tǒng)進(jìn)入現(xiàn)代軍隊(duì)的過(guò)程越來(lái)越快。根據(jù)一篇文章所述，“已經(jīng)有90個(gè)國(guó)家和非政府組織擁有無(wú)人機(jī)，30個(gè)國(guó)家擁有武裝無(wú)人機(jī)或計(jì)劃開(kāi)發(fā)它們。”isis采用無(wú)人機(jī)是一個(gè)著名例子，證明了人工智能武器的潛力。

最后，人工智能武器將對(duì)美國(guó)軍方正在實(shí)施的第三次抵消戰(zhàn)略至關(guān)重要。機(jī)器學(xué)習(xí)、人機(jī)協(xié)作、以及無(wú)人機(jī)群都是可能會(huì)破壞國(guó)家之間的平衡的潛在系統(tǒng)。我們已經(jīng)看到了一些戰(zhàn)術(shù)在戰(zhàn)場(chǎng)上被使用。例如，俄羅斯聲稱，無(wú)人機(jī)群襲擊了其在敘利亞的一個(gè)基地。

在戰(zhàn)場(chǎng)上早期采用類(lèi)似于ai的策略，投入此類(lèi)技術(shù)的國(guó)家數(shù)量之多，以及展示其潛力的現(xiàn)有武器系統(tǒng)，所有這些似乎都表明，人工智能武器將是非常有效的戰(zhàn)爭(zhēng)工具。因此，雖然人們應(yīng)該對(duì)工具的倫理和限制進(jìn)行有力的討論，但不太可能?chē)@工具的使用制定出一個(gè)強(qiáng)制的禁忌。

（選自：taskandpurpose 作者：adam wunische 編譯：網(wǎng)易智能 參與：nariiy）