自主系統(tǒng)中的智能體

智能體是自動駕駛汽車和無人機(jī)等自主系統(tǒng)的大腦。它們處理來自傳感器、攝像頭和其他來源的大量數(shù)據(jù)，以安全高效地在復(fù)雜環(huán)境中導(dǎo)航、駕駛以及完成特定任務(wù)。

智能體的構(gòu)建模塊

每個智能體都有三個主要組成部分：

l傳感器：就像智能體的眼睛和耳朵，從環(huán)境中獲取信息。

l決策機(jī)制：這是智能體的大腦，根據(jù)感官輸入確定動作。

l執(zhí)行器：就像智能體的手和腳，執(zhí)行大腦做出的決定。

這些部分共同幫助代理感知、思考和行動，就像人類使用感官、大腦和肌肉來執(zhí)行任務(wù)一樣。

智能體的類型

智能體有不同的形式，每種形式都有其獨(dú)特的思維和行為方式：

l簡單反射

這些智能體會根據(jù)當(dāng)前感知做出快速反應(yīng)，而不會考慮過去的經(jīng)驗(yàn)或未來的后果。例如，一個簡單的恒溫器會在天氣冷時打開，在天氣熱時關(guān)閉。它反應(yīng)很快，但不太智能。

l基于模型

這些智能體會維護(hù)一個內(nèi)部模型，幫助它們在信息不完整的情況下做出更好的決策。這就像根據(jù)記憶猜測暗室里有什么一樣。

l基于效用

這些智能體通過權(quán)衡不同的選擇來尋求最 佳的長期結(jié)果。這類似于在即時滿足和以后更大的獎勵之間做出選擇。

智能體如何做出決策

決策過程對于智能體至關(guān)重要。其工作原理如下：

1. 傳感器從環(huán)境中收集信息。

2. 該信息被發(fā)送到?jīng)Q策機(jī)制。

3. 智能體根據(jù)其類型（反射、基于模型或基于效用）決定采取何種行動。

4. 它會選擇最 佳動作。

5. 執(zhí)行器執(zhí)行所選擇的動作。

如此循環(huán)重復(fù)，使得智能體能夠隨著時間的推移提高其性能。

真實(shí)世界的例子

智能體在我們的日常生活中隨處可見。例如：

l清潔家居的機(jī)器人吸塵器

l回答網(wǎng)站問題的聊天機(jī)器人

l自動駕駛汽車可以引導(dǎo)交通

它們都使用傳感器來感知環(huán)境，使用決策機(jī)制來確定動作，并使用執(zhí)行器來執(zhí)行這些動作。

了解智能體的工作原理是構(gòu)建更好的計(jì)算機(jī)和機(jī)器人的關(guān)鍵。這是一個令人興奮且不斷發(fā)展的領(lǐng)域！

智能體在自主系統(tǒng)中的應(yīng)用

軍事專家正在開發(fā)新的支持技術(shù)，以幫助無人機(jī)、地面車輛、潛艇和水面艦艇集群并在沒有人工干預(yù)的情況下做出決策。

無人系統(tǒng)在水下、地面和空中完全自主運(yùn)行的能力需要強(qiáng)大的處理能力。

鹽湖城柯蒂斯·萊特國防解決方案部門高級產(chǎn)品經(jīng)理邁克·索斯沃思指出，將實(shí)現(xiàn)車輛自動駕駛所需的所有不同技術(shù)結(jié)合在一起，是對強(qiáng)大計(jì)算能力需求的一個重要來源。

“分析大量數(shù)據(jù)以完成復(fù)雜的深度學(xué)習(xí)算法可能需要強(qiáng)大的處理能力。想想自動駕駛汽車在沒有人工干預(yù)的情況下安全行駛所需的設(shè)備數(shù)量，例如攝像頭和傳感器，”Southworth 說?！笆占瘮?shù)據(jù)的設(shè)備越多，帶寬競爭就越激烈。這就是為什么當(dāng)今人工智能的大部分?jǐn)?shù)據(jù)處理都在傳統(tǒng)的計(jì)算機(jī)數(shù)據(jù)中心進(jìn)行。

“然而，完全依賴數(shù)據(jù)中心的集中處理具有固有的局限性，包括帶寬、安全性和可用性，”Southworth 繼續(xù)說道。“考慮這樣一種模式，所有傳感器數(shù)據(jù)都上傳到集中數(shù)據(jù)中心進(jìn)行處理，然后邊緣計(jì)算機(jī)等待數(shù)據(jù)中心的響應(yīng)來執(zhí)行命令。如果僅依靠云，可能會有明顯的延遲或延遲，比較應(yīng)用程序發(fā)出指令的時間和收到響應(yīng)的時間。自動駕駛汽車可能需要實(shí)時視覺和感知才能安全導(dǎo)航、路徑規(guī)劃或主動防護(hù)。想象一下戰(zhàn)場場景中的后果，檢測到來襲威脅，但在采取任何對策之前存在可測量的網(wǎng)絡(luò)延遲。威脅尚未消除，生命可能會喪失。集成到車輛平臺上的高性能嵌入式計(jì)算可以潛在地克服這些障礙，并在戰(zhàn)場上實(shí)現(xiàn)深度學(xué)習(xí)?！?/span>

嵌入式計(jì)算

對于無人系統(tǒng)而言，無論在哪個領(lǐng)域，尺寸都很重要。由于需要將許多集成技術(shù)融入到體積有限的物體中，占用空間小，高性能嵌入式計(jì)算 (HPEC) 有助于實(shí)現(xiàn)這一切。

“作為一個行業(yè)，我們一直在努力從我們開發(fā)的系統(tǒng)中獲得更多收益。HPEC 計(jì)算與 AI 功能相結(jié)合，以 SWaP [尺寸、重量和功率] 優(yōu)化的形式帶來強(qiáng)大的計(jì)算解決方案，”位于加利福尼亞州弗里蒙特的嵌入式計(jì)算專家 Elma Electronic Inc. 的戰(zhàn)略營銷和溝通負(fù)責(zé)人 Valerie Andrew 說?！坝捎谌魏谓o定的嵌入式系統(tǒng)中都會使用大量數(shù)據(jù)點(diǎn)，因此擁有高性能基礎(chǔ)設(shè)施來管理和處理這些信息，進(jìn)而推動 AI 和深度學(xué)習(xí)的發(fā)展，使無人系統(tǒng)能夠訪問可用于運(yùn)營活動的按需情報(bào)。”

安德魯同時也是傳感器開放系統(tǒng)架構(gòu)聯(lián)盟業(yè)務(wù)工作組外展負(fù)責(zé)人，他指出，國防部通過通用模塊化開放系統(tǒng)架構(gòu) (MOSA) 實(shí)現(xiàn)互操作性的舉措可以消除發(fā)展障礙 — — 即使是圍繞人工智能構(gòu)建的無人系統(tǒng)。

“先進(jìn)的學(xué)習(xí)技術(shù)將變得更加重要，而不僅僅是‘這些系統(tǒng)是否協(xié)同工作’，”安德魯說?！斑@將在系統(tǒng)功能方面呈指數(shù)級增長，無人系統(tǒng)的開發(fā)和部署將開始更加快速。對于國防部來說，這意味著能夠快速且經(jīng)濟(jì)地獲得一流的技術(shù)。對于戰(zhàn)士來說，這意味著在執(zhí)行任務(wù)期間增加知識和決策能力?！?/span>

加州查茨沃斯 Aitech Defense Systems Inc. 的視頻和通用圖形處理單元 (GPGPU) 產(chǎn)品線總監(jiān) Dan Mor 表示，在獨(dú)立或部分獨(dú)立的嵌入式超級計(jì)算機(jī)中使用 HPEC 有雙重好處?！癏PEC 系統(tǒng)能夠在更小的框架中容納更多功能，這樣就可以在更靠近傳感器的地方處理更大的數(shù)據(jù)集，而這正是最需要的地方，”Mor 說道?！岸@些 HPEC 系統(tǒng)的加固意味著計(jì)算能力可以在更多遠(yuǎn)程和移動位置使用。隨著這些處理需求的增加，使用 GPGPU 技術(shù)和基于 AI 的解決方案的 SFF 系統(tǒng)正在為下一代嵌入式系統(tǒng)提供一條道路，準(zhǔn)備應(yīng)對日益增長的移動、無人駕駛和自動駕駛汽車技術(shù)領(lǐng)域，將計(jì)算能力帶到以前無法想象的領(lǐng)域?！?/span>

位于德克薩斯州糖城的 Systel Inc. 營銷副總裁 Aneesh Kothari 表示，無人系統(tǒng)可以利用機(jī)載人工智能和機(jī)器學(xué)習(xí)來減少在對抗環(huán)境中作戰(zhàn)現(xiàn)實(shí)帶來的責(zé)任。Kothari 表示：“高性能嵌入式邊緣計(jì)算對于成功部署 AI 任務(wù)至關(guān)重要。在帶寬受限、通信質(zhì)量低下的競爭環(huán)境中運(yùn)行，使得基于云計(jì)算和 AI 的戰(zhàn)術(shù)使用成為一種負(fù)擔(dān)。計(jì)算處理能力必須駐留在本地，以確?；?AI 的應(yīng)用程序所需的低延遲和近乎實(shí)時的速度。近年來，商用現(xiàn)貨 (COTS) 技術(shù)的進(jìn)步使得嵌入式邊緣計(jì)算在無人駕駛車輛中得到實(shí)際應(yīng)用?！薄癝ystel 的堅(jiān)固型嵌入式系統(tǒng)（例如 Kite-Strike 和 Raven-Strike）將商用硬件組件（例如視頻采集卡和編碼器）以及最 新的基于 NVIDIA Ampere 和 Jetson Xavier GPU）集成在小型 (SFF) 堅(jiān)固型嵌入式計(jì)算機(jī)中，使其成為無人駕駛車輛的理想選擇?！?/span>

高性能嵌入式計(jì)算機(jī)提供了運(yùn)行人工智能和機(jī)器學(xué)習(xí)技術(shù)“智能”所需的處理能力，使無人機(jī)、無人潛航器和地面車輛保持移動。

空軍人員在佛羅里達(dá)州廷德爾空軍基地觀看無人地面車輛的測試，這是使用“電腦犬”協(xié)助偵察和加強(qiáng)基地安全巡邏行動的計(jì)劃的一部分。

技術(shù)專家表示，冷卻對于無人系統(tǒng)來說至關(guān)重要

“這些無人系統(tǒng)需要更高、更大的處理能力，因此計(jì)算時會產(chǎn)生熱量。因此，通過冷卻系統(tǒng)控制熱量越好，在更小的空間內(nèi)完成的工作就越多。隨著物體變小，在更緊湊的空間內(nèi)會變得更熱。因此，你需要能夠更有效地冷卻它。如果你的系統(tǒng)無法在計(jì)算機(jī)背面安裝風(fēng)扇來防止它變熱，那么你需要能夠在這些狹小的空間內(nèi)以極高的難度完成這些工作。

“因此，在海底，你不會希望擁有與你在家里的辦公桌上想要的解決方案相近的東西，”海格繼續(xù)說道。“軍事化程度越高，就越需要冷卻方面的突破，以便完美地結(jié)合在一起，從而能夠?yàn)檫@些系統(tǒng)提供能力?！?/span>

位于華盛頓州白鮭魚的 Sagetech Avionics 公司為軍用和民用市場的無人機(jī)領(lǐng)域提供應(yīng)答器和 UAS 態(tài)勢感知解決方案。該公司首席執(zhí)行官 Tom Furey 也認(rèn)同保持無人機(jī)系統(tǒng)冷卻的重要性。

“微電子技術(shù)不斷發(fā)展，并在縮小高功率電子設(shè)備的尺寸和減少其產(chǎn)生的熱量方面實(shí)現(xiàn)了創(chuàng)新。例如，Sagetech 通過先進(jìn)的微電子設(shè)計(jì)實(shí)現(xiàn)了 SWaP 的大幅降低，其中包括創(chuàng)造性的熱通道，以實(shí)現(xiàn)更好的熱性能，而無需依賴大而重的散熱器或風(fēng)扇等可靠性較低的組件，”Furey 說。

Elma 公司的 Andrew 表示同意：“散熱是設(shè)計(jì)外殼時需要考慮的最關(guān)鍵方面之一。由于小型化 (SFF) 系統(tǒng)的模塊化，沒有一種萬 能的解決方案，這增加了當(dāng)今嵌入式計(jì)算系統(tǒng)中熱管理的復(fù)雜性。依靠成熟的設(shè)計(jì)原則，基于整體系統(tǒng)方法，制造商可以為現(xiàn)代電子應(yīng)用生產(chǎn)定制外殼，同時將設(shè)計(jì)成本降至最 低，并保持熱分布穩(wěn)定。”

人工智能與作戰(zhàn)人員

自主無人系統(tǒng)技術(shù)的主要優(yōu)勢就在于此——作戰(zhàn)人員可以遠(yuǎn)離危險(xiǎn)。

海軍陸戰(zhàn)隊(duì)參加位于加利福尼亞州二十九棕櫚村的海軍陸戰(zhàn)隊(duì)空地作戰(zhàn)中心的指揮與控制演習(xí)。指揮與控制是軍事行動中有望通過人工智能進(jìn)行增強(qiáng)的領(lǐng)域之一。

駛往可能布有水雷的水域意味著船只和船員陷入危險(xiǎn)境地的可能性大大降低。空中和地面的擔(dān)保工作也是如此。

柯蒂斯-萊特公司的 Southworth 表示：“國防界對人機(jī)協(xié)同的發(fā)揮方式的創(chuàng)意越來越豐富。例如，無人潛航器將幫助大型海上船只探測水雷、進(jìn)行快速環(huán)境評估 (REA)、情報(bào)、監(jiān)視和偵察 (ISR)、海洋數(shù)據(jù)收集以及港口和海岸監(jiān)視和保護(hù)。無人潛航器也正在開發(fā)中，用于受傷作戰(zhàn)人員的醫(yī)療后送。被擊落的士兵或盟友可以發(fā)出需要救護(hù)車的信號，然后可以派遣裝甲自動駕駛車輛，規(guī)劃出該地區(qū)最安全的進(jìn)出路線，并營救傷員。

“自主武器系統(tǒng)可以探測敵人或潛在威脅。一旦威脅被識別并排隊(duì)，系統(tǒng)就可以自動反擊或依靠人在環(huán)做出決定，Southworth 繼續(xù)說道?！霸O(shè)備或補(bǔ)給運(yùn)輸也是如此?！?/span>

人工智能和無人駕駛車輛尤其適用于保護(hù)船隊(duì)。柯蒂斯-萊特公司的 Southworth 表示：“從歷史上看，車隊(duì)一直面臨簡易爆炸裝置 (IED) 的威脅，這些裝置可能會嚴(yán)重傷害士兵。自動駕駛車輛現(xiàn)在可以在車隊(duì)前方巡邏，以檢測、識別 IED 并標(biāo)記區(qū)域。在車隊(duì)前方配備一輛無人駕駛車輛最終可以挽救數(shù)千人的生命。最終，整個車隊(duì)可能都由無人駕駛車輛組成?！?/span>

無人駕駛車輛群相互通信和協(xié)作是無人駕駛和人工智能技術(shù)的另一大潛在收益。“無人駕駛車輛的另一個應(yīng)用涉及群體智能，即一組無人機(jī)（通常是無人駕駛飛行器）自組織成一個連貫的群體，同步飛行而不會發(fā)生碰撞，”Southworth 說?！袄纾嗉軣o人機(jī)可以勘察戰(zhàn)場區(qū)域并識別任何一架無人機(jī)視野范圍內(nèi)的任何敵方威脅。每架無人機(jī)都跟蹤自己的位置和速度，并與群體中的其他無人機(jī)共享這些信息，而不是按照預(yù)先設(shè)定的路線飛行并遵循預(yù)先設(shè)定的位置。這樣，它們就可以自行繞過障礙物，避開敵人的火力，并探索可能發(fā)現(xiàn)大量敵方作戰(zhàn)人員的區(qū)域?！?/span>

持續(xù)監(jiān)視

美國空軍研究實(shí)驗(yàn)室工程師李·M·托德上尉在五角大樓會議中心發(fā)布小型無人機(jī)系統(tǒng)飛行計(jì)劃期間向媒體做簡報(bào)。

Aitech 的莫爾表示，人工智能可以持續(xù)提供實(shí)時信息來幫助作戰(zhàn)人員。

“目前已有多種軍事應(yīng)用采用基于人工智能的超級計(jì)算機(jī)，例如態(tài)勢感知系統(tǒng)、電子戰(zhàn)系統(tǒng)和無人機(jī)以及智能士兵和便攜式系統(tǒng)和增強(qiáng)現(xiàn)實(shí)，但尤其值得注意的是，越來越多使用這項(xiàng)技術(shù)的無人機(jī)，”Mor 說道。一些基于人工智能的 SWaP 優(yōu)化超級計(jì)算機(jī)體積非常緊湊，大約相當(dāng)于一部手機(jī)的大小，無人系統(tǒng)可以實(shí)現(xiàn)令人難以置信的高性能和卓越的能效。它們可以在任務(wù)期間運(yùn)行更長時間，提供更好的可靠性，并通過處理并將數(shù)據(jù)傳輸回主指揮中心來提供實(shí)時數(shù)據(jù)輸入?！?/span>

無人系統(tǒng)創(chuàng)新的其他領(lǐng)域包括在現(xiàn)有車輛平臺上進(jìn)行構(gòu)建以擴(kuò)展單個車輛的功能，Mor 繼續(xù)說道。“例如，一架戰(zhàn)斗機(jī)可能將多個 UVS 同步到其飛行控制中心，將其范圍從一架大型飛機(jī)擴(kuò)展到包括幾個充當(dāng)小型軍隊(duì)的小型單位，所有這些單位都協(xié)同工作并由大型飛機(jī)的飛行員控制。這有效地?cái)U(kuò)大了一架飛機(jī)可以覆蓋的空域范圍?！?/span>

水星公司的黑格指出，無人系統(tǒng)體積小，再加上續(xù)航能力強(qiáng)，可以讓人們遠(yuǎn)離危險(xiǎn)。“廣義上講，如果你有無人設(shè)備，你就可以進(jìn)入人類無法進(jìn)入的空間。例如，進(jìn)入福島或切爾諾貝利，或者潛入海底，在那里呆很長時間，而不必?fù)?dān)心人體的極限。有了這些神奇的傳感器系統(tǒng)，你可以將眼睛和耳朵擴(kuò)展到人體無法到達(dá)的地方，而且更安全，例如，即使在空中，你只是擴(kuò)大了傳感范圍，但你仍然可以進(jìn)行通信，而且對人類不一定有危險(xiǎn)?！?/span>

此外，快速傳播的信息有助于指揮官比依靠攜帶雙筒望遠(yuǎn)鏡和無線電的作戰(zhàn)人員更快地下達(dá)命令。加州阿拉米達(dá)實(shí)時軟件專家 Wind River Systems 的航空航天和國防工業(yè)解決方案總監(jiān)亞歷克斯·威爾遜 (Alex Wilson) 表示：“增加人工智能/機(jī)器學(xué)習(xí)功能可以增強(qiáng)前端的快速決策能力。這為作戰(zhàn)人員提供了一種先進(jìn)的工具，可以增強(qiáng)信息并提高決策速度和準(zhǔn)確性?！?/span>

Elma 的 Andrew 同意自主系統(tǒng)有助于提高做出更明智決策的能力。

“軍事計(jì)算生態(tài)系統(tǒng)本身正在經(jīng)歷一場變革，”安德魯表示?！耙試啦俊⒄畽C(jī)構(gòu)和業(yè)界在過去兩年的共同努力為例，這些努力通過開發(fā)開放標(biāo)準(zhǔn)，共同采用了一個共同的平臺。開放組織傳感器開放系統(tǒng)架構(gòu)實(shí)現(xiàn)了以前無法實(shí)現(xiàn)的跨行業(yè)合作。這些是軍事電子產(chǎn)品開發(fā)過程中的相同原則：共享信息并共同努力提供更完善、更安全的系統(tǒng)，以便能夠做出更明智的決策。自主系統(tǒng)也將有助于實(shí)現(xiàn)這種智能。

Wind River 公司的 Wilson 還表示，自主和集群系統(tǒng)與傳統(tǒng)作戰(zhàn)部隊(duì)的結(jié)合“將迅速增加兵力投射，使較小規(guī)模的部隊(duì)能夠在更廣闊的戰(zhàn)線上作戰(zhàn)。這為交戰(zhàn)提供了更大的靈活性，并為作戰(zhàn)人員提供了有效執(zhí)行任務(wù)的選擇。”

超越安全

人工智能和機(jī)器學(xué)習(xí)使主戰(zhàn)坦克等無人和載人系統(tǒng)能夠?qū)⒁恍┹^為單調(diào)的情境工作從基地或戰(zhàn)場上的人員身上轉(zhuǎn)移開。

在英國皇家海軍的一次訓(xùn)練活動——水雷對抗演習(xí) 19-1 期間，水兵們在波斯灣準(zhǔn)備無人水下航行器。

Mercury 公司的 Haigh 表示：“如果一群人協(xié)同工作，那么他們就能完成一個人無法完成的任務(wù)。如果你想在世貿(mào)中心尋找尸體，你可以派出自動駕駛汽車去尋找受害者，而人類則負(fù)責(zé)做出執(zhí)行決策，并確保一切與人類響應(yīng)團(tuán)隊(duì)協(xié)調(diào)一致。因此，一旦找到受害者，你的應(yīng)急響應(yīng)團(tuán)隊(duì)就會集中精力去幫助受害者，而無人駕駛汽車則負(fù)責(zé)搜索，這是人類不一定愿意做的單調(diào)、令人不快的工作?！?/span>

位于弗吉尼亞州阿靈頓的美國國防高級研究計(jì)劃局 (DARPA) 信息創(chuàng)新辦公室 (I2O) 項(xiàng)目經(jīng)理 Sandeep Neema 表示，人工智能可以幫助減輕軍隊(duì)一些較為繁瑣的工作負(fù)擔(dān)?！疤箍说膶?dǎo)航功能應(yīng)該可以合理地減輕負(fù)擔(dān)。戰(zhàn)士們可以擺脫這些負(fù)擔(dān)，將更多精力放在戰(zhàn)斗的技術(shù)方面。自動駕駛的未來可能還很遙遠(yuǎn)，但在不遠(yuǎn)的將來，從 a 點(diǎn)開到 b 點(diǎn)并不困難。真正困難的是了解情況?！?/span>

值得信賴的自治

尼馬在 DARPA 的主要職責(zé)是負(fù)責(zé)該機(jī)構(gòu)的“保證自主”計(jì)劃。他表示，國防部專家必須確保軍用無人系統(tǒng)安全運(yùn)行，并不斷進(jìn)行監(jiān)控、更新和評估。

Neema 列舉了目前阻礙自主系統(tǒng)部署和發(fā)展的三個因素。

首先，操作員的參與仍然是必要的。“這不僅嚴(yán)重限制了運(yùn)營收益，而且在人機(jī)交互和混合主動控制領(lǐng)域帶來了重大的新挑戰(zhàn)，”Neema 在 DARPA 網(wǎng)站上解釋了“保證自主”計(jì)劃。第二個障礙是，“另一方面，在不確定、非結(jié)構(gòu)化和動態(tài)環(huán)境中實(shí)現(xiàn)更高水平的自主性，越來越多地涉及數(shù)據(jù)驅(qū)動的機(jī)器學(xué)習(xí)技術(shù)，以及許多開放系統(tǒng)科學(xué)和系統(tǒng)工程挑戰(zhàn)。”

最后，Neema 寫道，第三個障礙是“當(dāng)今廣泛使用的機(jī)器學(xué)習(xí)技術(shù)本質(zhì)上是不可預(yù)測的，缺乏必要的數(shù)學(xué)框架來保證正確性，而依賴于安全和正確操作才能完成任務(wù)的國防部應(yīng)用程序需要可預(yù)測的行為和強(qiáng)有力的保證。”

另一個令人擔(dān)憂的是，當(dāng)無人系統(tǒng)執(zhí)行奪取敵方戰(zhàn)斗人員生命或摧毀敵方車輛、物資或基礎(chǔ)設(shè)施的任務(wù)時，它們會自主行動，而這些無人系統(tǒng)目前是由遠(yuǎn)程駕駛的無人機(jī)，如 MQ-9 收割者無人機(jī)。

Systel 公司的 Kothari 表示：“隨著人工智能技術(shù)變得越來越復(fù)雜和普及，人們很容易將人工智能視為‘靈丹妙藥’。雖然人工智能可以減輕操作員的大部分負(fù)擔(dān)，實(shí)現(xiàn)傳感器融合并自動執(zhí)行處理大量原始數(shù)據(jù)時必不可少的分析任務(wù)，而且即使我們從‘殺傷鏈’轉(zhuǎn)向更復(fù)雜的‘殺傷網(wǎng)’，人類仍然非常需要保持參與?！?/span>

Aitech 的 Mor 表示：“道德問題始終是人們關(guān)注的問題，尤其是在國防工業(yè)領(lǐng)域，因此美國國防部根據(jù)國防創(chuàng)新委員會向國防部長馬克·T·埃斯珀提供的建議，正式采用了一系列人工智能使用的道德原則。這些建議是經(jīng)過 15 個月的咨詢后得出的，咨詢對象包括商業(yè)、政府、學(xué)術(shù)界和美國公眾的頂 尖人工智能專家，美國頂 尖人工智能專家之間進(jìn)行了嚴(yán)格的反饋和分析，并通過多個渠道征求公眾意見和評論。人工智能道德原則的采用符合國防部人工智能戰(zhàn)略目標(biāo)，該目標(biāo)要求美國軍方在人工智能道德和人工智能系統(tǒng)的合法使用方面發(fā)揮帶頭作用。

Mor 繼續(xù)說道：“人工智能在國防市場中是一個相對較新的領(lǐng)域，我們期待人工智能逐步融入現(xiàn)有或新的系統(tǒng)：

部分由人工智能實(shí)現(xiàn)的人機(jī)控制系統(tǒng)；

具有部分人機(jī)交互的人工智能控制系統(tǒng)；

具有冗余人類決策控制的人工智能控制系統(tǒng)；

以及人工智能自主系統(tǒng)。

要實(shí)現(xiàn)這些系統(tǒng)的可信賴還需要一些時間；與此同時，我們將看到更加標(biāo)準(zhǔn)化的人工智能實(shí)施和道德原則定義。歐盟委員會也在制定“可信賴的人工智能”定義。