近日，根據(jù)“2019財(cái)年國防授權(quán)法案”批準(zhǔn)，美國成立了人工智能國家安全委員會。這是今年美國繼國防部組建聯(lián)合人工智能中心后，在國家安全領(lǐng)域成立的又一個更高層次的人工智能專門咨詢機(jī)構(gòu)。按照要求，該委員會將采取必要的方法和手段，推動美國人工智能、機(jī)器學(xué)習(xí)和相關(guān)技術(shù)的發(fā)展，全面滿足美國國家安全和國防需要。此舉意味著，美國將人工智能的軍事應(yīng)用進(jìn)一步提升到國家安全的戰(zhàn)略層面。

據(jù)悉，此次成立的美國人工智能國家安全委員會由美國眾議院武裝部隊(duì)新興威脅與能力小組委員會提議成立，由15名成員組成。該委員會的使命是著眼于美國的競爭力、國家保持競爭力的方式，以及需要關(guān)注的“道德問題”，審查人工智能、機(jī)器學(xué)習(xí)開發(fā)和相關(guān)技術(shù)的進(jìn)展情況。具體職責(zé)包括：考察人工智能在軍事應(yīng)用中的風(fēng)險(xiǎn)以及對國際法的影響；考察人工智能在國家安全和國防中的倫理道德問題；建立公開訓(xùn)練數(shù)據(jù)的標(biāo)準(zhǔn)，推動公開訓(xùn)練數(shù)據(jù)的共享。

從國家安全的戰(zhàn)略層面出發(fā)，美國推動人工智能技術(shù)發(fā)展的目的在于始終保持技術(shù)引領(lǐng)和優(yōu)勢地位的戰(zhàn)略態(tài)勢。9月7日，美國國防部高級研究計(jì)劃局在成立60周年大會上，宣布將投資20億美元推動人工智能領(lǐng)域的發(fā)展。以國防部高級研究計(jì)劃局為代表的技術(shù)研究機(jī)構(gòu)對人工智能的研究早已不再局限于人們熟知的無人系統(tǒng)，而是諸如“機(jī)器如何獲得類似人類的溝通和推理能力”等方面更深層次的機(jī)理研究。

同時(shí)，美國還特別強(qiáng)調(diào)在人工智能領(lǐng)域保持對潛在對手的優(yōu)勢地位。美國國防部常務(wù)副部長羅伯特·沃克曾表示，“人工智能是當(dāng)前美國國防戰(zhàn)略的主要組成部分，目的在于重塑美國的軍事技術(shù)優(yōu)勢?！?/p>

在這兩方面因素的推動下，美國政府不斷加大在人工智能領(lǐng)域的投資力度。今年年初公布的《國防戰(zhàn)略報(bào)告》就明確提出，將向自主技術(shù)、人工智能和機(jī)器學(xué)習(xí)等軍事應(yīng)用注入更多資金，加快吸收商業(yè)領(lǐng)域突破性技術(shù)，以獲取軍事競爭優(yōu)勢。按照計(jì)劃，美軍將在2019財(cái)年投入137億美元，支持包括人工智能、無人系統(tǒng)在內(nèi)的尖端技術(shù)研發(fā)創(chuàng)新。

隨著對人工智能研究的深入，美國在充分開發(fā)人工智能技術(shù)優(yōu)勢的同時(shí)，也開始關(guān)注到人工智能可能帶來的技術(shù)風(fēng)險(xiǎn)和應(yīng)用威脅。10月10日，美國陸軍訓(xùn)練與條令司令部發(fā)起了一項(xiàng)“瘋狂科學(xué)家”的調(diào)查活動，專門探討人工智能在未來戰(zhàn)場上的影響。在收到的115名參與者提交的意見書中，形成了8個方面的意見。其中一個方面專門指出需要對抗人工智能帶來的風(fēng)險(xiǎn)，即人工智能支持的數(shù)據(jù)和算法容易受到欺騙、降級或其他形式的顛覆。其中，致命的自主性則是最受關(guān)注的問題。

今年7月，智庫新美國安全中心發(fā)布報(bào)告認(rèn)為，人工智能技術(shù)的未來不可限量，但是目前仍然不成熟，存在4個方面的隱患：一是機(jī)器可能作弊，即人工智能系統(tǒng)可能在違背人類設(shè)計(jì)本意的情況下去完成任務(wù)；二是機(jī)器也有“偏見”，即在數(shù)據(jù)保障不充分的情況下，人工智能系統(tǒng)的錯誤反應(yīng)可能會造成災(zāi)難性后果；三是ai的思考過程是個謎，即人工智能有一部分行為是不為人類所理解的；四是人機(jī)互動失敗，即設(shè)計(jì)師與用戶之間的差異可能造成人機(jī)互動失敗而帶來風(fēng)險(xiǎn)。美國蘭德公司今年年初在一項(xiàng)研究中警告說，軍事人工智能系統(tǒng)在分析局勢時(shí)出錯的可能性將會導(dǎo)致各國作出輕率的、潛在的災(zāi)難性決定。

為此，美國開始認(rèn)識到人工智能不僅是一個領(lǐng)域（尤其是軍事領(lǐng)域）的應(yīng)用問題，而應(yīng)在政府層面有所規(guī)劃。今年9月，美國眾議院監(jiān)督和政府改革委員會信息技術(shù)小組在發(fā)布的《機(jī)器的崛起》報(bào)告中指出，人工智能有可能以預(yù)期和意料之外的方式擾亂社會的每一個部門。鑒于這種潛在的危險(xiǎn)，聯(lián)邦政府必須解決人工智能帶來的不同挑戰(zhàn)，包括其當(dāng)前和未來的應(yīng)用。而這一理念在軍事技術(shù)上的直接體現(xiàn)，就是保持對某些任務(wù)的控制權(quán)。美國國防部高級研究計(jì)劃局目前正在開發(fā)一種合作自主系統(tǒng)，確保人類可以實(shí)現(xiàn)“進(jìn)入決策”，即機(jī)器是自主的，但需由人類監(jiān)督?？梢?，美軍也意識到，無論人工智能有多先進(jìn)，也不能把戰(zhàn)爭完全交給機(jī)器。（王鵬 空軍工程大學(xué)）