人工智能與網(wǎng)絡(luò)如何保護(hù)美國(guó)國(guó)家核安全

美國(guó)的一些國(guó)家安全官員相信，人工智能作為力量倍增器，應(yīng)用于攻擊性和防御性網(wǎng)絡(luò)武器，將給網(wǎng)絡(luò)安全帶來(lái)變革性影響，確實(shí)能夠提升改善核安全。

一是人工智能與網(wǎng)絡(luò)技術(shù)得以快速發(fā)展。近年來(lái)，隨著機(jī)器學(xué)習(xí)技術(shù)的發(fā)展，解決了人工智能領(lǐng)域的一些技術(shù)瓶頸問(wèn)題，使廣泛應(yīng)用的無(wú)人武器系統(tǒng)和網(wǎng)絡(luò)系統(tǒng)的性能得到顯著提升，正通過(guò)許多種方式改變核安全，對(duì)國(guó)家的網(wǎng)絡(luò)安全和戰(zhàn)略穩(wěn)定產(chǎn)生正面的影響。

二是人工智能可以提升軍隊(duì)?wèi)?yīng)對(duì)網(wǎng)絡(luò)攻擊的能力。人工智能網(wǎng)絡(luò)防御工具（或者稱(chēng)反人工智能工具），其目的在于識(shí)別網(wǎng)絡(luò)行為模式的變化，檢測(cè)網(wǎng)絡(luò)異常和軟件代碼漏洞，查找重要的證據(jù)，追蹤并確定攻擊者的身份。而利用人工智能機(jī)器學(xué)習(xí)技術(shù)（如深度學(xué)習(xí)技術(shù)），可以及時(shí)發(fā)現(xiàn)正常網(wǎng)絡(luò)活動(dòng)出現(xiàn)的偏差，協(xié)助建立更加牢固的防線，抵御網(wǎng)絡(luò)入侵，保護(hù)國(guó)家核安全。

三是利用人工智能技術(shù)開(kāi)發(fā)主動(dòng)性網(wǎng)絡(luò)工具。在對(duì)美國(guó)核系統(tǒng)積極防御的同時(shí)，國(guó)家也可以運(yùn)用人工智能技術(shù)，開(kāi)發(fā)對(duì)抗性人工智能武器，以加強(qiáng)網(wǎng)絡(luò)安全，比如枚舉目標(biāo)空間或者重新封裝惡意軟件，以規(guī)避對(duì)手對(duì)我方網(wǎng)絡(luò)和系統(tǒng)進(jìn)行偵測(cè)或者攻擊，并且能主動(dòng)對(duì)對(duì)手開(kāi)展網(wǎng)絡(luò)反制和攻擊行動(dòng)。此外，人們還認(rèn)為，通過(guò)網(wǎng)絡(luò)攻擊（即欺騙、入侵、操縱與數(shù)字干擾）滲透對(duì)方的核武器系統(tǒng)，可以破壞其通信系統(tǒng)，并最終（且對(duì)方可能根本不知道）獲取核與非核指揮控制系統(tǒng)的控制權(quán)。

四是美國(guó)軍方著手研發(fā)人工智能網(wǎng)絡(luò)防御工具。正是考慮到人工智能的強(qiáng)大力量，美國(guó)國(guó)防部國(guó)防創(chuàng)新組正在開(kāi)發(fā)一款程序，利用人工智能技術(shù)破解高層級(jí)戰(zhàn)略問(wèn)題，繪制事件概率鏈條，制定備用戰(zhàn)略，使國(guó)防部系統(tǒng)在遭受人工智能網(wǎng)絡(luò)攻擊時(shí)能夠快速恢復(fù)，而且系統(tǒng)配置和故障修復(fù)的速度可以比人做的更快更好。

人工智能與網(wǎng)絡(luò)相結(jié)合給美國(guó)國(guó)家核安全帶來(lái)的威脅

將人工智能技術(shù)賦予網(wǎng)絡(luò)中，會(huì)導(dǎo)致對(duì)手使用惡意軟件，采取秘密行動(dòng)、欺騙、計(jì)謀等手段，控制、操縱或欺騙核網(wǎng)絡(luò)系統(tǒng)，從而威脅國(guó)家核安全。近期對(duì)兩用預(yù)警系統(tǒng)成功實(shí)施網(wǎng)絡(luò)攻擊的報(bào)告也表明，核指揮、控制與通信系統(tǒng)（NC3）遭受網(wǎng)絡(luò)入侵的猜測(cè)正在快速變?yōu)楝F(xiàn)實(shí)。

一是人工智能等新技術(shù)將威脅核安全。為增強(qiáng)信息能力而開(kāi)發(fā)人工智能、5G網(wǎng)絡(luò)、機(jī)器學(xué)習(xí)、大數(shù)據(jù)分析、量子計(jì)算等，可能會(huì)被對(duì)手利用，開(kāi)發(fā)出自動(dòng)的、先進(jìn)的、持續(xù)性的威脅工具，破壞核信息系統(tǒng)安全。而且，隨著人工智能和機(jī)器學(xué)習(xí)的不斷發(fā)展，可能不需要過(guò)多的人力，也不需要很高的技術(shù)水平，就可以持續(xù)對(duì)核網(wǎng)絡(luò)開(kāi)展威脅行動(dòng)。最近國(guó)際戰(zhàn)略研究所舉辦的研討會(huì)也證實(shí)，預(yù)警系統(tǒng)接收到的惡意操作數(shù)據(jù)，不僅會(huì)在特定的情況下破壞人工智能系統(tǒng)的輸出結(jié)果，而且如果在程序執(zhí)行階段，還會(huì)破壞整個(gè)網(wǎng)絡(luò)環(huán)境的可靠性。因此，人工智能機(jī)器學(xué)習(xí)技術(shù)通過(guò)操縱數(shù)字信息世界，做出使用核武器的錯(cuò)誤決策，會(huì)加劇國(guó)家間爆發(fā)沖突的風(fēng)險(xiǎn)?？紤]到當(dāng)前美國(guó)與如中國(guó)、俄羅斯、朝鮮等有核國(guó)家之間的緊張關(guān)系，不難想象，如果一個(gè)第三方組織或代理國(guó)家充滿(mǎn)惡意，使用人工智能深度偽裝，融合數(shù)據(jù)中毒技術(shù)對(duì)一方國(guó)家核安全開(kāi)展秘密網(wǎng)絡(luò)攻擊，可能引發(fā)這些有核國(guó)家局勢(shì)緊張。此外，在競(jìng)爭(zhēng)性戰(zhàn)略的背景下，各個(gè)國(guó)家傾向于對(duì)他國(guó)的意圖往壞處揣測(cè)。一個(gè)國(guó)家通過(guò)人工智能技術(shù)提高本國(guó)戰(zhàn)略部隊(duì)生存能力的舉措，可能被其它國(guó)家視為對(duì)其核報(bào)復(fù)能力和核二次打擊能力的威脅。

二是人工智能網(wǎng)絡(luò)行動(dòng)可能導(dǎo)致國(guó)家攻防戰(zhàn)略模糊。早期階段的人工智能網(wǎng)絡(luò)行動(dòng)，通常搞不清楚對(duì)手是打算搜集情報(bào)還是準(zhǔn)備實(shí)施攻擊。模糊的網(wǎng)絡(luò)攻防策略，可能加劇對(duì)手對(duì)先發(fā)打擊的恐懼，增加其先機(jī)制敵的打算，在極端情況下還可能促使對(duì)手產(chǎn)生使用核武器的考慮。如果在危機(jī)期間使用人工智能網(wǎng)絡(luò)情報(bào)搜集工具（或者間諜行為），更容易讓對(duì)手產(chǎn)生誤解，認(rèn)為這是對(duì)其核力量進(jìn)行先發(fā)制人打擊的前奏。此外，在危機(jī)條件下，攻擊性人工智能網(wǎng)絡(luò)工具成功破壞對(duì)手的核武器系統(tǒng)，導(dǎo)致出現(xiàn)“信息不對(duì)稱(chēng)”的局面，可能引起單方或者雙方高估（或者低估）對(duì)方的報(bào)復(fù)能力，隨之可能采取冒險(xiǎn)行動(dòng)。比如，公開(kāi)研究表明，中國(guó)分析人士認(rèn)為，中國(guó)的核指揮、控制、通信系統(tǒng)容易遭受網(wǎng)絡(luò)滲透，哪怕攻擊者的目的僅限于網(wǎng)絡(luò)間諜活動(dòng)，也會(huì)被視為高度升級(jí)的國(guó)家安全威脅問(wèn)題。因此在危機(jī)或沖突期間，人工智能網(wǎng)絡(luò)能力的作用存在一些不確定性，可能會(huì)降低雙方對(duì)風(fēng)險(xiǎn)的承受能力，增加其先發(fā)制人的考慮。

三是人工智能技術(shù)使核攻擊反應(yīng)時(shí)間大為縮短。在對(duì)手核打擊發(fā)起的短時(shí)間內(nèi)，針對(duì)核武器系統(tǒng)的人工智能網(wǎng)絡(luò)攻擊幾乎不可能被提前發(fā)現(xiàn)和識(shí)別，更不可能對(duì)攻擊源、攻擊性質(zhì)進(jìn)行判斷。根據(jù)公開(kāi)的信息來(lái)源，在預(yù)警系統(tǒng)發(fā)出即將遭受攻擊的初步征兆后，北美航天航空防御司令部的操作人員只有不到三分鐘時(shí)間進(jìn)行評(píng)估和確認(rèn)。這樣緊迫的決策時(shí)間會(huì)使政治領(lǐng)導(dǎo)者承受巨大壓力，不得不使用不完整甚至可能是錯(cuò)誤的信息做出決策，容易導(dǎo)致危機(jī)再度升級(jí)。

四是人工智能與網(wǎng)絡(luò)結(jié)合可能導(dǎo)致決策復(fù)雜化。人工智能、5G網(wǎng)絡(luò)支持下的機(jī)器學(xué)習(xí)、大數(shù)據(jù)分析和傳感技術(shù)，針對(duì)即將到來(lái)的威脅，能夠以更快的速度和更高的精度向指揮官發(fā)出預(yù)警，減少在敏感的指揮控制環(huán)節(jié)發(fā)生事故。然而，技術(shù)結(jié)合也導(dǎo)致兩種風(fēng)險(xiǎn)并存。其一，人工智能機(jī)器學(xué)習(xí)作為網(wǎng)絡(luò)攻擊行為的力量倍增器，使一些攻擊行為更加難于發(fā)現(xiàn)，如數(shù)據(jù)中毒欺騙、深度偽裝、數(shù)據(jù)控制、網(wǎng)絡(luò)入侵、數(shù)字干擾等，尤其是網(wǎng)絡(luò)攻擊者在電磁頻譜對(duì)抗環(huán)境中使用這些先進(jìn)的持續(xù)性威脅工具。其二，在不能成功發(fā)現(xiàn)網(wǎng)絡(luò)攻擊行為的情況下，以機(jī)器速度確認(rèn)威脅源（或者攻擊屬性）幾乎是不可能的。因此，當(dāng)危機(jī)發(fā)生時(shí)，如果一個(gè)國(guó)家沒(méi)有能力判定攻擊者的意圖，可能會(huì)得出對(duì)方的攻擊行動(dòng)是計(jì)劃破壞其核威懾的結(jié)論，從而影響決策。此外，如果不了解人工智能系統(tǒng)如何輔助系統(tǒng)做出決策，可能會(huì)導(dǎo)致操作人員對(duì)系統(tǒng)的性能或者信心過(guò)滿(mǎn)，或者信心不足，也會(huì)導(dǎo)致決策復(fù)雜化。

五是人工智能的技術(shù)尚不成熟。由于人工智能機(jī)器學(xué)習(xí)系統(tǒng)需要通過(guò)高質(zhì)量的數(shù)據(jù)集來(lái)訓(xùn)練驗(yàn)證他們的算法，因此隨之產(chǎn)生一個(gè)問(wèn)題，如果將“中毒”數(shù)據(jù)注入訓(xùn)練數(shù)據(jù)集，會(huì)導(dǎo)致這些人工智能機(jī)器學(xué)習(xí)系統(tǒng)以人們不希望的和可能無(wú)法檢測(cè)的方式運(yùn)行。除非終止系統(tǒng)的機(jī)器學(xué)習(xí)算法，否則在實(shí)際應(yīng)用階段，系統(tǒng)可能學(xué)習(xí)到一些人們不愿意讓其學(xué)習(xí)的內(nèi)容，甚至執(zhí)行一些設(shè)計(jì)者不期望其去執(zhí)行的工作或任務(wù)。因此，這就是為什么在武器系統(tǒng)方面，目前人們大多將人工智能機(jī)器學(xué)習(xí)限定在實(shí)驗(yàn)研究領(lǐng)域的主要原因之一。