智能化武器系統(tǒng)的正確打開方式

有“限”倚重

■賈珍珍

《流浪地球》影片中，劉培強(qiáng)和空間站人工智能——MOSS之間有一番較量。最終，劉培強(qiáng)取得勝利，用自己的生命和空間站燃料點(diǎn)燃了木星。憑借爆炸產(chǎn)生的沖擊波，地球再次踏上流浪的漫漫征程。

回頭細(xì)想不禁心頭一驚：如果MOSS中止了劉培強(qiáng)所有行動(dòng)權(quán)限呢？劉培強(qiáng)還能取得勝利，還能有地球的繼續(xù)流浪嗎？確切點(diǎn)說，影片中“有人類的文明”能繼續(xù)存在，恰恰是因?yàn)镸OSS沒有獲得完全控制權(quán)限。

由此聯(lián)想到，對智能化武器系統(tǒng)來說，有“限”倚重，也許是打開它們的正確方式。

當(dāng)前，世界主要軍事大國都在不斷研發(fā)挖掘智能化武器系統(tǒng)潛力。

一是發(fā)展“人機(jī)協(xié)同”式智能指控系統(tǒng)，即通過智能化武器裝備與人的充分配合來完成作戰(zhàn)任務(wù)。比如俄羅斯陸軍在2016年底進(jìn)行的“排級分隊(duì)帶機(jī)器人實(shí)彈射擊”演練，美軍F-35戰(zhàn)機(jī)飛行員對無人駕駛型F-16戰(zhàn)機(jī)進(jìn)行指揮與控制，等等。

二是研發(fā)“機(jī)器自主”式智能指控系統(tǒng)，即由智能化武器系統(tǒng)自主領(lǐng)會(huì)指揮員決策意圖，自主完成相關(guān)作戰(zhàn)任務(wù)。如俄軍正在研發(fā)的無人機(jī)群“任務(wù)智能分配系統(tǒng)”。它可以根據(jù)戰(zhàn)場環(huán)境來合理分配無人機(jī)“角色”，制定并實(shí)施最優(yōu)行動(dòng)方案，自主完成“行動(dòng)-評估-再行動(dòng)”作戰(zhàn)閉環(huán)。

從實(shí)際效果來看，這兩種方式都能大幅度提升軍隊(duì)的戰(zhàn)斗力。但與此同時(shí)，這些舉措，也在客觀上把武器使用和生殺予奪的權(quán)力分發(fā)給智能化武器系統(tǒng)，使人類不同程度地處于危險(xiǎn)境地。畢竟，由于目前人工智能技術(shù)的發(fā)展局限，智能化武器系統(tǒng)有可能在執(zhí)行復(fù)雜程序過程中出現(xiàn)失序。比如，美軍在伊拉克戰(zhàn)場上，就出現(xiàn)過軍用機(jī)器人失控事件。

再者，即使人工智能發(fā)展到更高水平，實(shí)際情況同樣難以預(yù)測。一旦雷·庫茲韋爾曾經(jīng)提出的“技術(shù)奇點(diǎn)”理論成為現(xiàn)實(shí)，人工智能的復(fù)雜度達(dá)到和人類一個(gè)量級水平，類人智能或超人智能就會(huì)從機(jī)器中自動(dòng)涌現(xiàn)出來。那時(shí)，就難以斷言電影《機(jī)械公敵》和《西部世界》中出現(xiàn)的機(jī)器人反叛并傷害人類場景不會(huì)出現(xiàn)。

從這個(gè)角度來講，無論是“人機(jī)協(xié)同”式智能化武器系統(tǒng)還是“機(jī)器自主”式智能化武器系統(tǒng)，也許“有‘限’倚重”才是其正確打開的方式。這種有“限”不是反對智能化武器的發(fā)展，而是在其快速發(fā)展的同時(shí)，設(shè)定安全可控的底線，始終將人置于主體地位，并建立預(yù)警機(jī)制與意外應(yīng)急處置機(jī)制，保證人類指揮員對系統(tǒng)的控制權(quán)。

科幻作家艾薩克·阿西莫夫曾說：“在我們這些真正無所不知的人眼中，那些自以為無所不知的人就是一個(gè)巨大的麻煩。”

人工智能向何處去？智能化武器系統(tǒng)往何處去？這考驗(yàn)著人類的智慧。

（作者單位：國防科技大學(xué)）