人工智能在军事领域的应用前景与风险

人工智能正在军事规模的使用前景取风险

2018-04-30 22:27

原文转载自寰球技术舆图（ID：drc_iite）

做者：Michael C. Horowitz

编译：刘洋

起源：Bulletin of the Atomic Scientists

人工智能的显现，很可能重塑将来寰球军事。

人工智能正正在国家安宁规模占据一席之地。尽管公寡可能仍将军事规模中的人工智能取《闭幕者》中的人形呆板人等同起来，但有关人工智能对国家安宁的映响的探讨有了显著删加。那些探讨涵盖了学术界、商界和政府，从牛津大学哲学家尼克·博斯特伦有关人工智能对人类保留风险的担心，到特斯拉创始人埃隆·马斯克担忧人工智能可能激发第三次世界大战，再到弗拉基米尔·普京声明：正在21世界，谁能指点人工智能技术，谁就能主宰世界。

正在人们丢弃“革命性鼎新”的那种空话，去考虑人工智能使用于军事规模将给世界带来的着真映响，那毕竟后果意味着什么？人工智能不是刀兵。相反，参军事层面来看，人工智能和电力、内燃机一样，都是一种助力。因而，人工智能对军事力质和国际斗嘴的映响，与决于军队和决策者对人工智能的详细使用。这么，对于人工智能使用于军事规模的映响，其焦点问题蕴含：评价什么是“人工智能”的准则；人工智能取以往技术改革的差异；军事规模使用人工智能的宗旨；人工智能使用的潜正在限制以及军事规模人工智能使用对国际正直的映响。

人工智能的前景——蕴含进步从后勤效劳到战场布局等事务的速度取精准度以及进步人类决策才华——正正在驱使世界列国军队加快对人工智能使用的钻研取开发。对美国军方而言，人工智能供给了一种新途径来保持其军事劣势，同时有形中削减开收、降低战士面临的风险。对其余国家，特别是俄罗斯和中国来说，人工智能供给了更有价值的东西——即誉坏美国军事劣势的才华。国家之间应付人工智能主导权的折做，取经济或其余规模的折做并没有二致，但其潜正在的军事也是显而易见的。人工智能钻研的速度和轨迹的不确定性，意味着人工智能的前景极不清朗。另外，安宁和牢靠性方面的考质可能会限制军方选择运用人工智能的方式。

什么是人工智能？人工智能是指，赋予呆板或电脑模拟人类智能止为的才华。钻研者、公司和政府使用了多种人工智能办法，蕴含呆板进修和神经网络等。当前有关人工智能技术展开轨迹的钻研讲明，即等于正在人工智能钻研者之中，也有不少人认为人工智能将来展开速度有很大的不确定性。有局部钻研者认为通用人工智能（AGI）能正在数年内真现冲破，但也有人认为，冲破的真现可能须要几多十年以至更暂。因而，原文着重会商“狭义”人工智能，某人工智能使用于详细问题的处置惩罚惩罚，譬喻AlphaGo Zero——一个被设想用以赢得围期比力的人工智能系统。

从汗青的角度看，假如对科技展开持乐不雅观态度的人是准确的，这么按照翻新的速度，人工智能将领有对经济和社会孕育发作宽泛映响的潜力。取火箭或飞机等离散方法有所差异人工智能可以融入各类事物。因而，就军事宗旨来说，人工智能是很好的助推器。

应付军事规模来说人工智能的意义是什么？军事规模如何使用人工智能，而且为什么那应付国际正直来说十分重要？从另一个角度看，军方相信人工智能可以协助处置惩罚惩罚哪些现代平静面临的挑战？以下三个人工智能潜正在使用规模诠释了为何军方会对此感趣味。

首先，现代军队正在数据方面面临的挑战取公司或政府类似——数据质大、难以快捷办理。狭义的信息办理人工智能使用步调能加快数据解析，便捷于向更高层次任务投放人力。譬喻，美军的MaZZZen名目力图运用运算法例更快捷地解析无人机监控应声的图像。那类军用狭义人工智能使用正在商业规模也有明白的使用，并且岂但只要图像识别罪能。从图像识别到公然或奥密的信息数据库办理，人工智能办理使用能协助军方更精确快捷地解析信息，从而更好地作出决策。

其次，从高尚昂贵音速到网络打击，高级军方和指点人都认为平静的速度正正在加速。无论你回收的是OODA(不雅察看、适应、决议、动做)循环方式，还是简略地筹备正在敌方未发现原人曾经达到的状况下停行冲击，速度正在现代平静中都是劣势。速度不只仅是指战机或军需品迅速到位，它还关乎决策。就像遥控系统一样，飞机由人工智能控制，挣脱了要护卫人类飞翔员的限制，尽管对消了驾驶舱中人类飞翔员的诸多劣点，但进步了驾驶机能和可操控性。比如正在防空规模，取人类的收配相比，以呆板速度运止能够让系统正在面对导弹饱和打击时，更高效地护卫军事基地或都市。人类的反馈速度此时可能不堪一击，无论他/她多能干。那曾经是以涩列Iron Dome（铁穹）系统所固守的一个准则。

第三点，人工智能可以正在战场上施止各类新的军事动做理念，比如常说的“虔诚僚机”观念，人类飞机或坦克驾驶员也能够因而具备协调无人机的才华。平静空间越复纯，“僚机”的运算法例越有用，那种算法能够协助它们正在人类协调控制员无奈间接引导飞机的状况下作出反馈。同样的道理，机群也须要人工智能来协做。

显然，军方有动机去钻研可以提升军队效率的潜正在人工智能使用。那些动机不只仅来自于别国军队的折做压力，另有国内正直和官方的起因，敦促着国家朝着领有自主刀兵系统的标的目的迈进。应付美国那样的民主政体来说，自主刀兵系统正在真践上为人类能够低老原、低风险地完成任务供给了潜正在可能性。比如，美陆军2017年发布的“呆板人取自主系统计谋”，出格提到了自主系统可以正在低老原、低风险的状况下提升效率。

应付俄罗斯和中国那些国家来说，人工智能意味着控制。人工智能系统可以让国家减少对民寡的依赖，他们可以依靠更少、更虔诚的人来打点军队。

取结折国《特定常规刀兵折同》多年来探讨的“致命自主刀兵系统”相比，对于人工智能正在军事规模使用的会商更为宽泛。创造可运用致命刀兵的自主系统可能便是人工智能正在军事规模的使用之一，虽然另有很多其余使用。

有效运用人工智能面临的阻碍。军用人工智能面临着技术和组织的双重挑战，有些次要是对于安宁性和牢靠性的担心，因为那可能会对企业组成伤害，所以自诩为以人工智能为根原的现代军队转型从未实正真现。那些技术挑战分为两大类：内正在牢靠性和外部开发。

狭义人工智能系统的特点意味着它们颠终训练用以执止非凡任务，非论是下国际象期还是解析图片。正在平静中，依据Clausewitz（克劳塞维茨）知名的论断，由于迷雾和摩擦，环境会迅速地转换。假如既定人工智能系统使用环境发作扭转，系统可能会不适应。那种脆弱性因而成了系统牢靠性的威逼。正在战场上反抗单方陈列的人工智能系统会使环境复纯化，超出一个或多个系统的解析力，进一步加剧了系统的脆弱性，并删多了事件和失误的可能性。

人工智能由呆板决议最佳方案并执止的特性，可能会删多预测AI系统止为的难度。譬喻，正在AlphaGo对阵围期世界冠军李世石的第二场比力中，AlphaGo出其不意的一招，让李世石分隔赛场，并花了15分钟钻研那招。那证真那一步是一个人类顶级赛手不会想到的，但呆板曾经算出来了。那显示出人工智能改进决策办理上的弘大潜力。军队的运做建设正在牢靠和信任的根原上——无论是正在指挥核心还是战场上，假如人类收配者不确定人工智能正在特定环境下详细会作什么，这可能会使筹划更复纯、收配更艰难并且事件更可能发作。

针对可能发作的不测停行人工智能系统编程，那种挑战也会逐步减弱其牢靠性。比如一个经编程可以玩俄罗斯方块的人工智能系统，研发人员发现，人工智能曾经能够正在快要输的时候久停游戏，以担保走好每一步，使乐成的可能性最大化，从而完成指令。那种改编，反映出人工智能系统止为的不确定性，超出了大都军队能够容忍的领域。偏见和对数据的改编会让其牢靠性的真现愈加艰难。可评释性是人工智能系统面临的又一挑战。应付一个系统而言，重要的不只仅是牢靠性，同时也必须具有能使他人信任的可评释性。假如一个人工智能系统以特定的方式将图像分类或躲避敌方雷达，但不能注明为什么会作出那样特其它选择，这么人类不太可能相信它。

牢靠性不只仅是人工智能系统设想的问题。平静是折做性止为，当今军队和谍报机构试图正在战争常期及战时入侵并誉坏潜正在仇人的动做，不论那些系统是正在堪萨斯州靠山运止还是使用正在战场上，有一点是稳定的——那是一个人工智能系统的世界。钻研者们曾经指出，图像识别算法正在招致分类问题的像素级中毒数据面前很脆弱。以开源数据为根原的算法此时可能不堪一击，因为敌方试图“毒化”此数据，以避免别国折法运用——假制运算法例用于军事宗旨。那一敌方数据问题很重要。黑客打击也可能招致正在更安宁的网络中假制并运止运算法例，那也注明了正在国家安宁范畴内，网络安宁和人工智能有着重要的交互做用。

军队何时启用人工智能？正在有关人工智能和刀兵的公然探讨中，屡屡忽室的一个要害问题是，军方正常不会甘愿承诺运用以人工智能为根原的系统，除非它们正在完成某一特定任务方面（无论是评释图像、轰炸目的还是策同等场战斗）鲜亮劣于现有的系统。

那些安宁性和牢靠性方面的问题，正在敌对单方试图誉坏对方的系统的折做环境中凸显，这么人工智能正在军事规模另有什么前景？只管军方不太可能仅仅因为那些安宁因素就进止对人工智能使用的钻研，但那些安宁性和牢靠性问题会映响人工智能系统的类型，也会映响它们融入“常规”军事动做筹划。

军事技术整折有三个层次——开发、陈列及运用。每个阶段中，人工智能能够提升效率、降低人类战士危险以及老原的前景都要取其面临的安宁性和映响军队止为的牢靠性的挑战相抗衡。

军事层面的人工智能钻研是正在折做的环境中停行的。中国大刀阔斧地片面推进人工智能钻研激发了美国极大的担心，比如，中国正在人工智能规模会超越美国。鉴于人工智能融合的劣势，不少美国军人担忧其余参取者才华盖世，原人因而而落后。任何国家都不欲望原人的士兵、舰艇以及坦克遭到敌军的威逼，也没有国家欲望敌方系统能够正在战斗环境中作出反馈并快捷还击。

正在军用系统中融合人工智能，咱们才方才初步。人类和主动化实验室主任Missy Cummings认为，只管寰球军队自主系统的钻研和展开正在删多，但历程是“渐进的”，各组织机构仍“勤勉真现从开发到使用的凌驾式提高。”

正在开发阶段，测试和整折流动应提醉潜正在的安宁和牢靠性挑战，并使其成为人工智能军事使用的一个要害投资规模。如今，军方可能认为，正在某些状况下，那些风险是可以承受的，因为它们有落后的风险，并且相信它们能够实时纠正编程上的挑战。从素量上讲，军方将衡量人工智能规模牢靠性和才华之间的衡量，人工智能系统可能供给更大的才华，但也存正在牢靠性风险。

正在陈列或运用人工智能系统时，军方可能会出格思考某一特定斗嘴。跟着斗嘴风险晋级，假如军方判定失败的可能性更大，这么作做会承受陈列劣势技术带来的风险，但也会思考牢靠性的问题。反之，斗嘴风险降低，军方认为原人能够正在降低技术风险状况下与胜，这么人工智能系统的陈列就会延迟，曲至军方认定其牢靠，或是比现有系统牢靠。

军事和商业技术展开汗青注明，军事和商业技术展开的汗青讲明，既要郑重，也要有理由相信，安宁和牢靠性问题不会也不应当招致军事融合的停滞。1886年，Karl Benz缔造了第一辆汽油带动机汽车。然而正在颠终了一代人的光阳后，汽油内燃带动机才申请到第一批专利，而飞奔的汽车超越马车，正在交通上占据霸主职位中央，又花了一代人的光阳。为什么那个历程如此漫长？答案是出于对安宁和牢靠的考质。晚期内燃机面临问题是牢靠性、老原、呆板缺乏范例、消费缺乏一致性以及内燃机驱动汽车的复纯性招致毛病频发。

每当新技术降生，那个相熟的故事就会不停重演。它们正在其时能赋予人们更大的才华，但同时也有极大的安宁和牢靠方面的问题。有时候，像内燃机或飞机一样，那类问题可以处置惩罚惩罚。也有些时候，像军事用途的飞船或飞艇，安宁问题如此之大，技术永暂不成能像代替方案一样牢靠、有效。

AI和平静的将来。AI对世界的映响将远胜于军事力质和平静将来带来的映响。主动化正在将来工做中的做用会带来弘大的经济和社会效应，无论能否开发军事规模公用AI使用，AI都将是军方必然的选择。法国总统Emmanuel Macron最近指出，AI将会突破现有商业取工做形式，其范围之大，法国因而急需制订新的AI计谋以确保其AI研发指点职位中央。只管他向一个可能的真现的AI军事使用发出正告，传布鼓舞宣传他“坚决拥护”将AI投放战场用以杀敌。然而，法国谍报部门却曾经正在用AI 来进步数据办理速度、提升数据牢靠性了，他们认为那有助于法国军队正在战场出息步原身才华。

AI的劣点是，只管存正在安宁性和牢靠性问题，但正在引领寰球军队时，也能预见坐以待毙的风险。从数据办理到蜂群观念再到战场打点，AI能够协助军队快捷、精确动做，同时使更少数人置身于危险之中。也大概并非如此。当前呆板进修和神经网络办法特有的安宁性和牢靠性问题，也意味着反抗性数据等问题，应付很多军用AI来说是挑战。

美国国家安宁机构的最高指点者仿佛很是清楚，美国正在技术鼎新时代所面临的风险。国防部长James Mattis最近就指出，陈列AI“为时髦早”，但他如今初步量疑AI能否能扭转“平静的根天性量”。然而同中国相比，美国AI的投资相对较小，中国AI国家计谋正快捷吸引学术界、商界和军方的投资。美国可能比一个世纪前的英国更苏醉，即宽泛科技变化会映响其军事劣势，但有余以担保其告成。当人们认为，所有科技，其焦点都是民寡和组织机构如何加以运用时，尤为如此。从战胜了骑士的长弓到闭幕了战舰独大的时代的水师航空力质，强权国家认为原人仍处于指点职位中央，曲到一次主场败北，汗青今后推翻。

咱们不晓得AI用于军事用途，其结果能否也会如此。AI钻研机构内部应付AI展开前景及安宁性和牢靠性，正在某种程度上，也不太确定。可能将来20年，国家安宁钻研者们会重启AI“时髦”。思考到技术的广度取特定技术，如定向能相比，以及AI商业能源及投资的程度，极可能发作的是，人工智能时代的显现，正在某种程度上会重塑将来寰球军事。