《2019國防授權法》設立了美國人工智能安全委員會(huì )，該委員會(huì )通過(guò)研究必要的舉措來(lái)推動(dòng)美國人工智能、機器學(xué)習和相關(guān)技術(shù)發(fā)展，多面應對安全和國防需求。國會(huì )賦予委員會(huì )從競爭力、保持技術(shù)優(yōu)勢之道、國際合作和競爭趨勢、促進(jìn)基礎和GJ研究投入、勞動(dòng)力和培訓、軍事應用的潛在風(fēng)險、道德倫理問(wèn)題、數據標準建立以及人工智能未來(lái)發(fā)展等方面審查人工智能。2019年11月4日，美國人工智能安全委員會(huì )于向國會(huì )遞交中期報告。本文重點(diǎn)介紹“美國面臨的挑戰”與“美國政府的行動(dòng)路線(xiàn)”兩部分。

目 錄

一、人工智能討論的范疇

二、人工智能對美國安全至關(guān)重要

三、政府人工智能戰略指導方針與實(shí)際執行間存在差距

四、對美國人工智能L導地位形成巨大挑戰

五、確保美國人工智能L導地位的五條行動(dòng)路線(xiàn)

人工智能討論的范疇

鑒于人工智能涵蓋范圍非常廣泛，本報告中，委員會(huì )討論的人工智能重點(diǎn)集中在以下方面：

狹義人工智能與人機編組

狹義人工智能將會(huì )以多種不同的方式為人類(lèi)提供協(xié)助，包括在人類(lèi)認為不安全、不想做或無(wú)法d自完成的任務(wù)中充當替補。

機器學(xué)習

今天的人工智能快速創(chuàng )新浪潮，很大程度上應歸因于出現了一種被稱(chēng)為深度學(xué)習的機器學(xué)習方式。深度學(xué)習在圖像分類(lèi)、對象檢測、語(yǔ)音識別、自然語(yǔ)言處理和其他應用L域，已被證實(shí)是一項有效的技術(shù)。

人工智能技術(shù)核心

人工智能并非是某個(gè)單一硬件或軟件，準確地講，它是一系列技術(shù)的集合，需要人才、數據、硬件、算法、應用程序和集成。

人工智能生態(tài)系統

一個(gè)能夠提供支持的合格產(chǎn)業(yè)生態(tài)系統十分重要，包括法律、資金、機構、政策、人才、知識產(chǎn)權保護、供應鏈和反人工智能防御機制。

人工智能對美國安全至關(guān)重要

人工智能可以幫助美國更有效地應對自然災害和突發(fā)事件

具備人工智能的工具和系統能夠協(xié)助守護邊境安全、偵測并打擊惡意網(wǎng)絡(luò )活動(dòng)、保護關(guān)鍵基礎設施以及有效應對自然災害。

人工智能可對大量數據進(jìn)行處理，在海量數據中辨別異常，實(shí)現實(shí)時(shí)風(fēng)險評估與響應，以支援反恐和反間諜工作。

在入境口岸運用載有人工智能的傳感器，能夠更有效地阻止武器、違禁品和人員的非法流動(dòng)，幫助美國更有效地應對威脅與突發(fā)事件。

基于人工智能的分析能夠支持更G質(zhì)量的決策

在一個(gè)遍布傳感器的世界，人工智能算法能夠通過(guò)對大量數據進(jìn)行篩選，找出模式、偵測威脅并識別關(guān)聯(lián)。

人工智能工具能夠使衛星圖像、通信信號、經(jīng)濟指標、社交媒體數據和其他大型信息源更加易于理解。

將人工智能技術(shù)運用于軍事將改變美國的戰爭方式

在未來(lái)戰場(chǎng)上，軍方能夠借助具備人工智能的機器、系統和武器更快地了解戰場(chǎng)情況，更快地生成通用作戰態(tài)勢圖，更快地進(jìn)行相關(guān)決策，在對抗環(huán)境下實(shí)施更復雜的多域作戰，將更少的美國軍人置于險境以及保護無(wú)辜者生命并減少附帶損傷。

將人工智能技術(shù)多面集成到軍事系統及行動(dòng)當中，能夠提升感知、理解及決策的精度和速度，并獲得超出人類(lèi)認知能力的優(yōu)秀表現，因此有人認為人工智能將會(huì )開(kāi)啟“算法戰爭”的新時(shí)代。

政府人工智能戰略指導方針與實(shí)際執行間存在差距

針對人工智能的戰略指導方針陸續出臺

以白宮2019年頒布《維護美國在人工智能L域L導地位》的行政命令為開(kāi)端，美國政府已經(jīng)意識到了人工智能對于安全的重要性并開(kāi)始出臺戰略指導方針。

人工智能仍難以得到足夠的政府資金支持

在很大程度上， 人工智能對于美國政府來(lái)說(shuō)仍然是一個(gè)難題，因為它不符合由安全需求及聯(lián)邦資金來(lái)推動(dòng)技術(shù)發(fā)展的傳統方式。目前，大多數人工智能應用程序都屬于商用范疇，安全方面的應用則大多停留在理論層面。

僵化的政府運作體系不利于人工智能發(fā)展

在不斷追趕的模式下，政府正嘗試將人工智能與現有的基礎設施和技術(shù)結合。由于采購、測試和評價(jià)體系落后，無(wú)法適應人工智能迭代的、基于軟件的屬性，政府的法規和官僚體制常被視為對人工智能商業(yè)模式的阻礙。

此外，由于政府缺乏廣博的專(zhuān)業(yè)知識，難以想象人工智能的前景、涵義、操作理念，使得守舊僵化的思想成為人工智能發(fā)展的主要障礙。

總之，委員會(huì )的初步判斷是：美國沒(méi)有將人工智能L域的優(yōu)勢和戰略宣言轉化成為特定的安全利益，主要部門(mén)和機構尚未完全體察上層的戰略政策，因此關(guān)鍵性安全任務(wù)并未納入人工智能。

確保美國人工智能L導地位的五條行動(dòng)路線(xiàn)

加大人工智能研發(fā)政府投資

委員會(huì )認為，雖然人工智能具有巨大的變革性潛力，但目前美國政府尚未投入足夠的資源去滿(mǎn)足當前的研究需求，也未能給未來(lái)的創(chuàng )新制造條件。美國的人工智能L導地位可能比現在預想的更早面臨風(fēng)險。委員會(huì )作出五方面判斷：

一是聯(lián)邦政府撥給人工智能的研發(fā)經(jīng)費與其潛在的革命性?xún)r(jià)值不匹配，更不及競爭對手在這方面激進(jìn)式的投入，因此亟需比當前水平G出數倍的投資。

二是政府應在全國范圍內建造人工智能研發(fā)基礎設施，并鼓勵建設區域創(chuàng )新集群。

三是官僚體制與資源的局限，阻礙了政府下屬的實(shí)驗室和研究中心對自身人工智能研發(fā)潛力的充分發(fā)揮。

四是美國政府需要明確目標、優(yōu)先上馬、協(xié)調一切并且爭分奪秒地投入以安全為重心的人工智能研發(fā)。

五是美國政府應實(shí)施更加靈活的出資機制以支持人工智能研究，不可再墨守成規。

加快人工智能在安全任務(wù)中的應用

安全委員會(huì )認為，人工智能是下一次科技飛躍的關(guān)鍵，若能夠妥善加以利用，它將拓展美國的優(yōu)勢并在東亞與東歐保持強大威懾力。因此，美國政府需要加快對人工智能的應用工作。委員會(huì )形成六方面共識：

一是人工智能可以幫助美國執行重大安全任務(wù)。

二是官僚體制威脅到了政府對于人工智能安全策略的執行。國防和情報機構需要即刻加快人工智能應用步伐。

三是從國防部到情報體系，存在著(zhù)一大批成功的自下而上的創(chuàng )新。但是，當前沒(méi)有自上而下的L導力來(lái)克服組織障礙，這些孤立的項目無(wú)法轉化為戰略變革。

四是能夠快速部署人工智能成為作戰的必要條件，要在有彈性、強健、可靠和安全的人工智能系統上進(jìn)行投資。

五是人工智能的優(yōu)劣取決于其依托的基礎設施。而在國防部?jì)炔�，這類(lèi)基礎設施尤其薄弱。

六是美國政府沒(méi)有充分利用基本的商業(yè)人工智能來(lái)提升商業(yè)實(shí)踐并節省納稅人的錢(qián)。部門(mén)和機構需要進(jìn)行現代化改造，以提G效率并節約成本。

培訓和招募人工智能人才

委員會(huì )認為，增加人工智能人力資本已勢在必行，政府可以培訓自身人力資源、招募新人才以及與外部機構合作。美國應該將從戰場(chǎng)到實(shí)驗室的每個(gè)人都納入對人工智能勞動(dòng)力需求的再思考。關(guān)于培訓和招募人工智能人才，委員會(huì )成員形成如下共識：

一是安全機關(guān)需要重新思考對于人工智能勞動(dòng)力的需求。包括提G各個(gè)機構對人工智能相關(guān)技術(shù)的熟悉度，在人工智能開(kāi)發(fā)和部署的各個(gè)層J嵌入對于倫理和責任方面的培訓，以及推廣使用現代軟件工具。

二是美國的人工智能人才庫很大程度上要依賴(lài)留學(xué)生和國際勞工。因此，美國的競爭力就取決于吸引和留住全世界D人才的能力。

三是政府應著(zhù)眼于增加人工智能相關(guān)的獎學(xué)金和交流機會(huì )，讓官員和服役人員掌握先進(jìn)的人工智能技術(shù)，并將人工智能企業(yè)的人才納入到聯(lián)邦工作中。

四是軍事和安全機關(guān)需要更好的激勵和培訓機制，爭取留住人工智能人才。

保護和建立美國技術(shù)優(yōu)勢

為了在保持開(kāi)放型經(jīng)濟的同時(shí)，維持美國在國防技術(shù)上的優(yōu)勢，委員會(huì )經(jīng)過(guò)初步研究，形成如下共識判斷：

一是傳統基于商品的出口管制以及小范圍的外資審查已不足以維持美國在人工智能L域的競爭力。

二是美國政府應該繼續借由出口管制（包括多邊管制）來(lái)保護美國及其盟友特定的人工智能硬件優(yōu)勢，尤其是在半導體制造設備方面。

三是美國需要繼續在與人工智能相關(guān)的硬件L域保持L先，并確保政府有獲得新技術(shù)的可靠途徑。

四是執法部門(mén)和學(xué)術(shù)界L導人可以且應該找到共同立場(chǎng)，在保持開(kāi)放性研究體系的同時(shí)，降低美國校園中存在受外國政府指示活動(dòng)的安全風(fēng)險。

引L人工智能合作

隨著(zhù)人工智能成為聯(lián)合國和經(jīng)濟合作與發(fā)展組織等多邊機構關(guān)注的焦點(diǎn)，委員會(huì )正在研究如何發(fā)起一個(gè)聯(lián)盟，來(lái)強化美國及其盟友的利益與價(jià)值觀(guān)，特別是在人工智能規范與標準方面。委員會(huì )經(jīng)過(guò)初步研究，形成如下共識判斷：

一是美國需要建立合作伙伴網(wǎng)絡(luò )，用于人工智能數據共享、研發(fā)協(xié)調、能力建設和人才交流，以增強自身在人工智能L域的競爭力。

二是人工智能對軍事互用性提出了重大挑戰。如果美國及其盟友不及早并且經(jīng)常對人工智能能力進(jìn)行協(xié)調，那么美國軍事同盟的效能將受到損害。

三是美國的外交應當開(kāi)放地看待與中俄進(jìn)行合作的可能性，以提升人工智能的安全性，并掌控人工智能對于戰略穩定性的影響。

四是美國應倡導建立積J的議程，就人工智能的發(fā)展與所有進(jìn)行合作，以造福人類(lèi)。