智能化戰爭的倫理與法律探討

　　摘要：智能化戰爭是目前世界上各國謀求發展的新戰爭方式，各國希望以機器人代替人類進行戰斗或用智能化系統裝備提高戰爭效率的方式取得勝利。常規戰爭方面已經有《國際人道法》《日內瓦公約》等倫理、法律依據，但是在新興的智能化戰爭中缺乏同樣的法律依據。因此，論文從智能化戰爭的內容、倫理道德、倫理沖突三個方面論述智能化戰爭倫理的意義和未來智能化戰場倫理應當涵蓋的內容。

　　本文源自新晉商【2020年第06期】《新晉商》雜志，山西出版傳媒集團主管，山西出版傳媒集團;山西省人民政府參事室(文史館)主辦。于2005年經國家新聞出版總署批準正式創刊，CN:14-1350/F，本刊在國內外有廣泛的覆蓋面，題材新穎，信息量大、時效性強的特點，其中主要欄目有：對話晉商精英、關注財富生活為主線等。

　　1 引言

　　目前，隨著人工智能在我國的飛速發展，智能化技術在計算機、機器人、視覺內容自動識別等其它技術領域不斷進步。在軍事領域，利用人工智能研發新軍事武器、進行人才選拔、指揮決策等方面的技術逐漸走向成熟。智能武器的定義是指具有人工智能的武器，通常由信息采集與處理系統、知識庫系統、輔助決策系統和任務執行系統等組成。能自行完成偵查、搜索、瞄準、攻擊目標和收集、整理、分析、綜合情報等軍事任務[1]。在智能化武器裝備不斷發展的過程中，我們應當反思這些年的人工智能的發展是否符合倫理道德的準則，智能化武器的應用是否合法，并應當對未來智能化戰爭的發展設立倫理規范和進一步在衛勤保障中完善人工智能技術使用的法律條目。

　　2 智能化戰爭的含義

　　智能化戰爭是以人工智能技術手段為主要支撐的戰爭，是信息化戰場發展的必然變革[2]。海灣戰爭中，美軍用高精尖的武器和先進的軍事理論造成了自稱“第四軍事強國”的伊拉克10萬人的傷亡，自己卻只付出了606人的代價。戰后我們才認清了如今國外作戰樣式發生了根本性的變化，從此我國被迫投入了大量軍費學習美國的作戰模式和標準，實行軍隊改革使軍隊盡快從實現機械化到信息化部隊的進步。目前，伊拉克針對ISIS的作戰中，大規模的應用的國產的彩虹-4無人機執行偵察和打擊任務，體現了現代戰場上智能化系統的成熟應用和廣泛前景。美國國防創新委員會主席埃里克·施密特也請求國防部在人工智能領域開展更多布局，其特別強調“某些對手”最新的人工智能國家戰略將“威脅”到美國在此領域的領先地位。有一種說法是科技革命引發戰爭，而在未來要想獲取戰場的制高點、話語權，就必須擁有先進的作戰理論和武器裝備。如今，5G傳輸、量子通信等技術得到了充分的發展，基于這些技術人工智能對大數據的分析和學習能力也得到了提升。隨之而來的是新的作戰樣式的變化如軍隊編成、作戰方式、軍事理論、日常訓練的更新換代。另如深度學習武器裝備、智能作戰機器人、“蜂群”無人機作戰的出現也給了我們對戰爭新的啟示。

　　3 智能化戰爭涉及的倫理法律問題

　　3.1 智能化戰爭需要倫理與法律約束

　　戰爭倫理是指社會集團及其武裝成員在政治交往中，針對組織化暴力對抗所遵循的暴力使用的行為規范體系。學術界將戰爭倫理大體分為兩個方面：一是“指向戰爭的倫理”或“戰爭權利的倫理”，即有關戰爭的權利、戰爭的性質、戰爭的責任的問題;二是“戰爭的行為倫理”，即有關戰爭中使用的各種手段的規則問題。歷史上隨著工業革命的發展，戰爭的樣式也逐步發生著改變，戰爭也同樣促進著科學技術的進步。目前，關于智能化戰爭的倫理道德規定還很欠缺，戰爭需要倫理道德的存在才能被世人所接受。各國需要統一倫理準則，才能判定戰爭行為是否合理。人工智能的倫理終究是工程師、程序師的哲學修養所決定的。其深層含義是世界各國政府利用人工智能的技術完成具體什么樣的任務。當人工智能應用于軍事領域就涉及軍事技術的倫理價值，它是軍事技術的客體本身所具有的能滿足軍事技術主體倫理道德和倫理精神需求的屬性，它反映了軍事技術主體在進行軍事技術的設計、發明、生產和使用等有關活動時所持有的價值理念，倫理取向以及道德規范。軍事技術的倫理價值始于過去，將會不斷的完善更新適應現代化戰爭，滿足國際社會的需要。

　　3.2 軍用機器人引發的心理情感問題

　　目前，美軍的無人裝備數量最多，類型最齊全。據統計，美軍已有各類無人機1.13萬架以上，各種地面機器人1.5萬以上。預計到2040年美軍將會擁有達到一半以上的機器人成員。在控制方式上，其現役無人裝備仍主要采用遙控或預編程自動控制方式，不過隨著其算法戰、蜂群、忠誠僚機等項目的持續深入，預計無人裝備的自主性、以集群或編組方式完成任務、有人-無人協同等能力都將取得較大突破。軍用機器人的大量使用，將給現代的戰爭道德帶來巨大沖擊。比如，在戰場上具有自主攻擊能力的智能化武器對主動放下武器或被剝奪武器的敵方人員，如何辨識對方的真正意圖并做出正確決定，這是智能化系統難以準確抉擇的。因此，我們在使用人工智能武器進行戰爭的過程中需要保持謹慎的態度，不能完全放任人工智能的自主學習、自主判斷的能力，以防止出現嚴重的倫理道德后果，未來在研究智能化武器裝備的同時要建立有完整的倫理道德委員的監督和審核。香港的漢森機器人技術公司(Hanson Robotics)開發的類人機器人索菲亞，是歷史上首個獲得公民身份的一臺機器人，人類賦予了她“人”的意義，并或多或少地產生了一定的感情。這是智能化機器進入社會的極特殊一步，未來當人工智能發展到了一定程度，那就必須對它進行倫理約束。這種心理認知的現象同樣適用于軍用機器人擁有人類面孔的情景。機器人未來可能和人類一起戰斗或者參與后方工作等需要與人類相處交流的機會越來越多，人們可能會對機器人出現角色歸屬不清的心理情感問題。這種認同感可能是社會職責的認同，也可能是對機器人社會角色的認同。但其中包含著對傳統倫理道德沖擊以及現代社會文化的影響。

　　3.3 智能化武器裝備設計的倫理與法律問題

　　隨著智能化裝備進入部隊的方方面面，這些武器裝備也將會被賦予更多的角色。智能化戰爭將會重新建立人與武器裝備的關系，隨著深度學習技術的提升，人工智能在不斷的執行人類的命令的同時不斷地綜合各項工作的深層次規律，從而產生主動的執行人的意識，超越人類的決策能力。我們必須清楚地認識到，智能化裝備僅僅只是工具，是為戰爭服務的，在戰場上我們可以參考智能系統的決策和判斷。但機器就是機器，它不存在人類的道德思維能力，我們需要將人類的倫理道德思維運行到人工智能的程序里，以減少出現的倫理問題。智能化武器裝備的設計必須嚴格按照交戰規則和戰爭法則設定程序。2019年6月17日，國家新一代人工智能治理專業委員會發布《新一代人工智能治理原則——發展負責任的人工智能》，提出了人工智能的八項原則：和諧友好、公平公正、包容共享、尊重隱私、安全可控、共擔責任、開放合作、敏捷治理。基于委員會提出的人工智能治理的框架和行動指南，我軍未來可以依據或修改這些原則，作為未來研發人工智能的準則，之后不斷完善更新，逐漸形成適應我國倫理道德的規則。只有使智能化裝備基于如此的約束我們才能保證未來大規模應用智能化武器出現意料之外的問題。再者，應用智能化武器裝備要吸取全面的經驗，動員多元化的力量，將科研人員、倫理學家和廣大人民的意見結合起來，共同建設人工智能的倫理。

　　4 智能化戰爭的倫理準則

　　人工智能是科技的產物，應當嚴格遵守科技倫理。科技倫理規范是觀念和道德的規范，就是從觀念和道德層面上規范人們從事科技活動的行為準則，其核心問題是使之不損害人類的生命健康和生存條件(環境)，保障人類的切身利益，促進人類社會的可持續發展[3]。

　　4.1 尊重生命原則

　　生命是人最重要的基礎，沒有生命就沒有人的自然屬性、社會屬性、精神屬性。作為文明高度發達的國家，我們更應當關注人的生命的重要性，我們沒有權利剝奪人的生命，但在無法控制的事件中，我們更應當考慮的是倫理的準則的遵守。其中，最關鍵的問題就是生與死的問題。軍事技術的生命倫理價值就源于人類維持生命、保護生命的天然需求。而在軍隊使用智能化武器裝備的初衷一部分就是為了減少己方在戰場上的犧牲，謀求完全替代人類去實現作戰的目的。為了降低戰爭中死亡數量從千方百計追求增加殺傷力到考慮武器“慈化”，即設法研制非致命武器。如反恐作戰中使用的閃光彈、維穩安保使用的電擊槍等。因此，在未來的智能化戰場上，應尊重人道主義原則，即盡可能少的人員傷亡下獲得正義戰爭的勝利，一方面取決于設計者的初衷，但另一方面主要取決于指揮官的素質和駕馭能力。所以在和平時代我們要加強倫理法則的制定以及積極廣泛地向全軍指戰員宣傳教育倫理道德的含義和內容，以確保軍隊保證打贏的同時不會成為“絞肉機”。

　　4.2 保護生態原則

　　隨著人們的生活理念的發展和對生態保護理念的增強，國際社會對環境保護的意識越來越強。人工智能被大量應用于環境監測、突發環境事故處置等種種生態保護的領域當中。人們在集中精力研發人工智能的同時忽略的研發過程二氧化碳的排放對自然的影響，運算模型的大小與排放的成本成正比，因此對環境造成了不可估量的影響。但根據馬薩諸塞大學阿默斯特分校的研究人員對幾種常見的大型AI模型進行了生命周期的評估。他們發現這個過程可以排放超過626，000斤的二氧化碳當量。這其中人工智能對環境的影響對生態影響深遠，其倫理道德值得深究。隨著大規模殺傷性武器的發展，戰爭對環境破壞的程度也是隨之加深。生態環境的破壞不只是對森林、草原、湖泊的影響，我們還應該關注動物、土地的保護。在《自然》雜志發表的一篇論文Warface and wildlife declines in Africa's protected areas 為戰爭對野生動植物造成的影響進行了定量分析。莫桑比克內戰期間，超過70%的非洲保護區受到戰爭的影響。研究說明武裝沖突是非洲珍稀野生動物數量持續下降的主要因素之一。智能化戰爭交戰過程中，不免會造成對動植物的損害，相比二戰熱兵器時代依賴于大范圍火力覆蓋的戰爭方式會更偏向于精確打擊以減少不必要的損害。實施精準打擊既是為了提高效率也可以能對環境的損害。未來我們應該更多的研發對生態小損害或完全無破壞的武器，減少有害氣體釋放和對結構復雜的生態環境的影響。針對以傳統武器對自然環境造成的損害，環保武器的概念應運而生。環保武器是指借用“綠色保護”的概念，對自然環境不產生或者少產生污染，有利于環保和不破壞生態平衡的武器。而在智能化武器的戰爭中，將環保武器彈藥裝備在智能化武器上，可充分減少對環境的破壞。同時，智能化武器對生態環境的影響也必須納入倫理評判的準則之中。

　　4.3 優化生存原則

　　生存是所有生命的基本訴求，沒有生存就沒有文明的存在，也就沒有了倫理的意義。現代社會人們對生存環境的要求越來越高，如網絡、美食、居住條件、人文環境等。敘利亞戰爭中，不少千年的名勝古跡被戰爭摧毀，過去繁華的阿勒頗街道如今滿目瘡痍。阿拉伯人中流傳著這樣一個諺語“人間若有天堂，大馬士革必在其中;天堂若在天空，大馬士革必與之齊名。”如今的大馬士革城區損毀殆盡，百姓流離失所。如此情況下，未來不管任何一方取得勝利，敘利亞人民如何在這樣一片破碎的土地上求生存、謀發展，都將是政府和聯合國棘手的問題。在這其中帶給我們的啟發就是如何確保在戰爭過后，能讓當地居住生活的百姓得以維持基本生存條件，以防止釜底抽薪的事情發生。而在智能化戰爭中我們可以在付出非人員傷亡的代價下確保當地生活條件，更可以做到對歷史文明、基礎設施、賴以生存的土地和收入來源的保障。維持和營造國家在國際社會中的良好形象就應當充分利用智能化的武器裝備、后勤保障和大數據分析確保交戰區的百姓生存環境的完整以及將來發展的需要。

　　今天，軍事智能化的程度已經成為未來戰爭勝負的關鍵要素，智能化武器裝備層出不窮。隨著智能化武器裝備的研發，帶來的是倫理道德的進步滯后于新技術，聯合國曾于2013年討論軍用機器人的使用問題，要求凍結這些智能化武器的研發，并成立討論委員會。而智能化武器在戰場上的倫理道德，我們應當從社會道德評價以及道德自我評價的方面充分考量軍事行為是否正義。具體而談，一次正義的軍事行為，要符合戰場倫理的約束。評價的維度可以從起因、動機、過程、結局和反思與自我評價決定，最終智能化戰爭的結局要經受國際的認同以及全世界的倫理道德評定。智能化戰場倫理的確立需要經過武器裝備功能的實驗和不斷的與社會磨合。就現在的發展情況而言，還需要大量的時間以及國際社會的通力合作。德國屠戮猶太人以確保雅利安人的血統，他們的子孫一直在為先輩的行為所反思和補償。我們沒有權利讓我們的后代承受世界的批判，中華民族一直以來都渴望和平的相處以及不戰而屈人之兵的理念，合理地運用智能化武器將會為后代設立一個完善又先進的研發和使用規則。所帶來的福祉將會是功千秋，利萬代。