[導(dǎo)讀]隨著科技的發(fā)展，技術(shù)的競(jìng)爭越來越激烈，在引領(lǐng)新興科技競(jìng)賽和未來戰(zhàn)爭戰(zhàn)場(chǎng)的競(jìng)爭中，人工智能(ai)正迅速成為大家關(guān)注的焦點(diǎn)。正如大家所看到的，自主武器系統(tǒng)(aws)正在迅速發(fā)展，而人工智能武器化的發(fā)展成為了一個(gè)高風(fēng)險(xiǎn)不可控因素。

本文由騰訊數(shù)碼獨(dú)家發(fā)布

圖片來源：圖蟲創(chuàng)意

自主武器系統(tǒng)崛起

隨著科技的發(fā)展，技術(shù)的競(jìng)爭越來越激烈，在引領(lǐng)新興科技競(jìng)賽和未來戰(zhàn)爭戰(zhàn)場(chǎng)的競(jìng)爭中，人工智能(ai)正迅速成為大家關(guān)注的焦點(diǎn)。正如大家所看到的，自主武器系統(tǒng)(aws)正在迅速發(fā)展，而人工智能武器化的發(fā)展成為了一個(gè)高風(fēng)險(xiǎn)不可控因素。這不僅給各國帶來了復(fù)雜的安全挑戰(zhàn)，也給人類的未來帶來了安全威脅。

如今，人工智能正在引領(lǐng)我們走向一個(gè)新的時(shí)代同時(shí)也把我們領(lǐng)進(jìn)了一個(gè)全新的戰(zhàn)場(chǎng)，這個(gè)戰(zhàn)場(chǎng)沒有邊界，可能涉及也可能不涉及人類，將控制整個(gè)人類生態(tài)系統(tǒng)的網(wǎng)絡(luò)空間、地理空間和空間(cgs)。人工智能武器化帶來的風(fēng)險(xiǎn)是肉眼可見的，人工智能無需人類設(shè)計(jì)者或操作者的進(jìn)一步干預(yù)，可以自主選擇和攻擊人類和非人類目標(biāo)，給人類帶來巨大威脅。

一旦人工智能武器化，人工智能和武器就會(huì)脫離人工參與和干預(yù)，只需使用交互的嵌入式傳感器、計(jì)算機(jī)編程和算法，這個(gè)有必要引起我們的注意和重視，也是一個(gè)不容忽視的現(xiàn)實(shí)。

人工智能武器化

隨著人工智能、機(jī)器學(xué)習(xí)和深度學(xué)習(xí)的進(jìn)一步發(fā)展，人工智能從概念到商業(yè)化，加上其計(jì)算能力、內(nèi)存、大數(shù)據(jù)和高速通信的快速發(fā)展，不僅帶來了市場(chǎng)創(chuàng)新、投資的熱潮，也加劇了對(duì)人工智能芯片的追求。我們可以看到人工智能正在為戰(zhàn)爭帶來革命性的變革，各國也很重視開發(fā)人工智能以及其人工智能自動(dòng)化武器系統(tǒng)。

當(dāng)各國在著力發(fā)展科學(xué)技術(shù)，爭取在這方面取得競(jìng)爭優(yōu)勢(shì)時(shí)，人工智能的進(jìn)一步武器化是不可避免的。因此有必要為未來的人工智能自主武器系統(tǒng)做好準(zhǔn)備。隨著科技的發(fā)展，人工智能逐步進(jìn)軍事行業(yè)，正如我們所看見的，自動(dòng)化戰(zhàn)爭已經(jīng)開始有了苗頭，我們有必要做好應(yīng)對(duì)措施。

自動(dòng)武器系統(tǒng)被認(rèn)為提供降低武器系統(tǒng)的運(yùn)營成本的一種方式，特別是通過更有效地利用人力資源，會(huì)使武器系統(tǒng)能夠?qū)崿F(xiàn)更高速度、更高準(zhǔn)確性、持久性、精度，但同時(shí)技術(shù)、法律、經(jīng)濟(jì)、社會(huì)和安全問題仍然不能忽視。

程序員和編程人員扮演的角色

在應(yīng)對(duì)這些復(fù)雜的安全挑戰(zhàn)和未知的技術(shù)是，為了保障人類的安全，最根本的仍然是關(guān)注程序員和編程人員在其中扮演的角色。原因是程序員可以在開始時(shí)定義和確定aws的性質(zhì)，直到ai開始編寫自己的程序。

不過設(shè)想一下，如果一個(gè)程序員有意或無意地編寫了一種自動(dòng)武器，而且這個(gè)武器違反了當(dāng)前和未來的國際人道主義法(ihl)，那么人類將如何控制人工智能武器化?而且問題的核心是，誰該為此負(fù)責(zé)？

網(wǎng)絡(luò)安全挑戰(zhàn)

簡而言之算法的安全性不是很可靠，也不能忽視漏洞、惡意軟件、惡意操縱帶來的危險(xiǎn)。雖然自主武器系統(tǒng)存在許多風(fēng)險(xiǎn)和挑戰(zhàn)，但我們要重視的是，我們不能讓人工智能將推動(dòng)并決定我們的人類生存和安全戰(zhàn)略，我們自己掌控?；谶@個(gè)問題，risk group與markus wagner發(fā)起了關(guān)于自主武器系統(tǒng)的討論，markus wagner是澳大利亞伍倫貢大學(xué)(university of wollongong)的一名出版作家和法學(xué)副教授。

接下來我們要做什么?

各國都在科學(xué)技術(shù)方面卯著一股勁爭取在科技領(lǐng)域獲得競(jìng)爭優(yōu)勢(shì)，而且人工智能的進(jìn)一步武器化是不可避免的。重要的是要理解和評(píng)估，如果不能阻止，那么就該接受這樣一個(gè)事實(shí)了，僅僅因?yàn)榧夹g(shù)允許和aws成功開發(fā)，并不意味著我們就應(yīng)該這樣做。如果人工智能武器化不符合人類的利益那就必須暫停。