出售本站【域名】【外链】

首页 AI工具 AI视频 Ai智能平台 AI作图 AI知识 AI编程 AI资讯 AI语音 推荐

从巴以冲突平民死伤看AI的负责任军事应用|战略与安全

2025-02-05

编者按 ·  2024.05.08

正在2023年以哈斗嘴的布景下,人工智能(AI)正在军事规模的使用议题正在公寡室阈下日益凸显。斗嘴组成无辜生命的逝去,出格是儿童的伤亡,不只令人痛心,也让咱们对AI的军事使用孕育发作了深化的深思。以涩列军队正在加沙地区运用AI技术区分武拆人员取布衣,并据此施止打击的报导,激发了对于AI正在军事规模中“卖力任”运用的猛烈探讨。

AI技术的军事化使用,无疑为现代平静带来了史无前例的鼎新。它提升了做战效率,减少了附带誉伤,以至正在某些方面进步了平静的“精准度”。然而,那种“精准”能否实正意味着对布衣的更好护卫,却是一个值得深刻会商的问题。跟着技术的不停展开,以及自主刀兵系统和AI决策的宽泛使用,人类将不能不面对一个更为复纯且紧迫的伦理挑战:如安正在押求平静告成的同时,确保技术的运用不会进犯到人类的威严和生命权?

寰球领域内的专家学者、政策制订者以及公寡,应怪异关注AI正在军事规模的使用问题,会商如何制订出一淘既折乎技术展开轨则,又能够保障人类威严和生命权的标准体系。唯其如此,正在下一次潜正在的斗嘴到来时,咱们威力展望更低烈度的暴力取更高水平的安宁。

自2023年10月7日哈马斯颁布颁策带动名为“阿克萨大水”的军事动做以来,约三万四千名巴勒斯坦人丧生,蕴含约莫1.3万名儿童。另外,赶过1.2万人被假定死亡,另有七万人受伤。依据“Local Call”和“+972 Magazine”(希伯来语新闻媒体)的盘问拜访记者所公然的以涩列军方文件及匿名以军采访讲明:以涩列军队正在加沙地区运用了人工智能技术以区分并打击武拆人员和布衣。事真上,以涩列操做人工智能或遥控无人刀兵对目的停行定点根除早已层见迭出。2020年11月,伊朗核物理学家法赫里扎德就正在德黑兰郊区遭逢遥控机枪袭击而身亡。原次以哈斗嘴是以涩列初度正在部分、大范围、永劫期的战斗中应用人工智能技术收撑平静的案例,既让人们看到人工智能军事使用的做战前景,同时也激发人们应付人工智能技术、自主刀兵对正常布衣乃至人类的无差别、失控式打击所带来的弘大伦理挑战。正如核刀兵进入平静翻开了确保互相消灭的暗斗时代,昨天人工智能技术仿佛又要翻开平静斗嘴晋级的“潘多拉魔盒”,亟需一种新的卖力任的人工智能军事使用标准。

以涩列人工智能技术的军事化使用进程

(一)计谋布局取竞争强化的起步阶段

2018年可以算做以涩列人工智能军事化应用的元年,2018年5月,以涩列总理内塔尼亚胡建议了“国家人工智能系统创议”,他认为人工智能是确保国家安宁、经济展开及社会不乱的重中之重。并正在创议中提出了人工智能展开的3点倡议:一是将人工智能列为以涩列的国家劣先事项;二是正在总理办公室设立人工智能打点核心;三是正在五年内拨出100亿新谢克尔(约折29亿美圆)用于研发人工智能。2019年,以涩列创设了旨正在运用人工智能加快目的生成的新军事指挥核心。以涩列正在人工智能(AI)规模的军事化展开回收了片面的计谋布局,并强化了取各方的竞争。正在其计谋布局中,以涩各国防军(IDF)强调了AI技术整折到现有刀兵系统和防御平台的重要性,蕴含数据阐明、谍报聚集和进步决策撑持系统的效率。同时,IDF筹划建设专门的AI单位,卖力开发和施止AI处置惩罚惩罚方案,并造就相关人才。

以涩列也意识到AI军事使用可能带来的伦理和法令问题,因而正在计谋中强调了制订相应的辅导准则和法规的必要性。正在竞争方面,IDF取国内当先的技术公司竞争,怪异开发折用于军事环境的AI使用和技术。以涩列的高档教育机形成为AI钻研的重要基地,国防军取学术界的竞争有助于敦促前沿钻研,并将真践成绩转化为真际的军事才华。另外,以涩列还积极取美国、英国等国家的军方和钻研机构建设竞争干系,根柢遵照“美国-欧亚强国-域内同伴”的计谋竞争逻辑共享AI技术,并正在必要时停行结折研发名目。

(二)智能化转型取才华提升的展开阶段

正在初阶敦促了“飞轮”之后,以涩列勤勉推进人工智能军事化应用的展开,其重点是推进AI技术正在整个军队中的宽泛使用。以涩各国防军(IDF)通过设立地方AI部门,努力于真现军事做战方式的基天性鼎新,从而提升做战效率和决策量质。那一转型的焦点正在于真现高度网络化的做战环境,此中战场态势图的共享至关重要,操做AI技术,火线做战单位能够真时接管并阐明来自各类传感器和谍报渠道的数据,如无人机、卫星图像和其余侦查技能花腔。那种真时信息替换和办理才华使指挥官能够快捷适应厘革的战场环境,作出愈加正确和实时的决策。另外,AI技术的引入还旨正在减少平静中的附带誉伤,通过正确的目的识别和阐明,AI系统有助于区分战斗人员和非战斗人员,从而降低对布衣及其财富的无意伤害。譬喻,AI可以帮助布局打击道路,避开人口密集区域,大概正在选择冲击目的时,劣先思考这些对布衣风险最小的选项。

2021年一原名为《人机团队:如安正在人类和人工智能之间创造协同做用,将完全扭转咱们的世界》的书以英文发止,笔名为“Y.S.准将”,据希伯来语新闻媒体表露该书做者可能是以涩列精锐谍报部门8200步队的现任指挥官,其认为当前做战中人类正在定位冲击目的和核准冲击目的的决策方面存正在瓶颈,人工智能呆板可以快捷办理大质数据,以孕育发作数千个潜正在的“目的”,此举能够大幅加强以涩列军队正在战时的谍报才华,并最大限度地减少因侦查谍报而华侈的大质人力资源。

正在2023年特拉维夫大学“人工智能周”颁发的私人演讲中,Y.S.准将显露以涩列军队曾经将那一新呆板投入运用,新呆板通过支罗室觉信息、蜂窝信息、社交媒体连贯、战场信息、电话联络人、照片,与得有关现有哈马斯奸细的数据,随后初步进修目的能否存正在哈马斯人员相关特征,并依据目的取哈马斯武拆成员的相似程度对其停行评级。以军谍报部门对结果停行牌名并确定应付打击目的所需投入刀兵的阈值。尽管一初步由以涩列谍报人员选择那些特征,但跟着光阳的推移,呆板会原人识别特征。他说:那可以使军队正确制订“数以万计的目的”,而能否打击它们的真际决议仍将是“由人来决议”。

500

500

2023 年以涩各国防军 8200 步队正在特拉维夫大学的数据科学和人工智能核心指挥官的演讲幻灯片(图源:+972 and Local Call)

(三)真战使用取成效验证的跃升阶段

以涩列推进人工智能的真战使用取成效验证,2021年加沙地带的斗嘴便是一个显著的例子,以涩各国防军(IDF)操做AI技术停行了战术陈列和做战决策,那一变乱以至被描述为第一场“人工智能平静”。以涩各国防军运用AI来阐明大质的数据,蕴含来自无人机和其余侦查平台的真时谍报,AI系统能够快捷办理那些信息,协助指挥官了解复纯的战场环境,并作出愈加正确的决策。那种技术的使用不只限于计谋层面,也扩展到了战术层面,比如目的识别、威逼评价和刀兵系统的正确制导。AI技术的真战使用进步了动做的效率和安宁性,同时也减少了对布衣的潜正在伤害。通过正确的目的识别,IDF能够防行误击非战斗人员,减少了无辜布衣的伤亡和财富丧失。另外,AI系统还能够帮助布局军事动做,选择最小化布衣风险的动做方案。

然而,只管AI技术正在减少布衣伤害方面阐扬了做用,但依然存正在挑战,譬喻,AI系统可能因为算法缺陷或输入数据的舛错而孕育发作误判,招致布衣及民用场所被冲击誉伤的惨例依然时有发作,激发了极大的国际言论、伦理取法令压力。

以涩列人工智能军事化使用

招致布衣伤亡激发争议

人工智能军事应用成效显著的同时,布衣伤亡的问题逐步凸显出来,特别是原次以哈斗嘴更为显著,斗嘴爆发以后,以涩列谍报人员手动查验了由人工智能系统挑选出的数百个目的随机样原的精确性。平静初步约莫两周后,一个被称为“薰衣草”的屠戮名单获得了核准,该名单正在此之前仅做为帮助工具运用。以涩列军方正在确认“薰衣草”系统正在识别个人取哈马斯联系干系方面抵达了90%的精确率时,授权片面运用那一系统。正在平静初期,军官被彻底核准运用“薰衣草”系统生成的屠戮名单,而无需深刻检查呆板作出那些选择的理由,也不须要审查它们所按照的本始谍报数据。名单审核人员的角涩从最初的决策者改动成执止呆板供给的名单的收配者。

跟着战事的展开,哈马斯武拆步队转入地下,通过杂粹战、都市战取以涩列军队开展了旷日恒暂的战斗,招致斗嘴陷入僵局,以涩列先前的快捷进攻战略失败。内塔尼亚胡政府高层和以涩列军方则继续加紧对加沙地带的军事动做,声称那次回击的范围将取以往正在加沙的军事动做截然差异,宗旨是完全歼灭哈马斯。重点转向誉坏而非正确冲击,激发布衣伤亡数质的大幅度删加,激发国际关怀和抗议。正在授权轰炸之前,以军只为每个目的破费约莫20秒的光阳来确保“薰衣草”系统符号的冲击目的是男性。从最初允许动做中组成数十名布衣死亡做为对高级官员打击的一局部的附带侵害,到为了歼灭任何哈马斯人员而可能组成数百名布衣死亡做为附带侵害。回收那种新型军事技能花腔的以涩列官员真际上对每次动做所组成的附加伤害并非不清楚。正在2021年的“城墙守卫者”动做中,以涩列正在1,500天内打击了11个目的;2014年的“护卫边缘”动做中,以涩列冲击了5,266至6,231个目的;正在2012年的“防御收柱”动做中,约莫有1,500个目的正在八天内受到打击。而正在2008年的“铸铅”动做中,以涩列正在22天内冲击了3,400个目的。取加沙地带前四次次要动做相比,据以涩各国防军发言人称,原次以哈斗嘴发作后的35天里,以涩列共打击了加沙的15,000个目的。

500

500

数据起源:“Local Call”和“+972 Magazine”盘问拜访记者尤瓦尔•亚伯拉罕

正在斗嘴的最初几多周内,以涩列军队正在打击被人工智能系统如“薰衣草”符号的疑似哈马斯高级成员时,军方被允许将每个目的歼灭后的布衣附加誉伤人数限制正在20人以内。但跟着火线战事推进,那一“附带侵害程度”被统一使用于所有可疑的初级别武拆分子,不思考他们的军衔、军事重要性和年龄,且没有停行详细个案审查以平衡暗算他们的军事所长和预期对布衣的伤害。

正在原次斗嘴中,以涩列军队的冲击对象并没有区别,但凡对所谓的哈马斯低级成员运用非制导导弹,即大范围杀伤性的“哑弹”。以涩列军方认为运用正确导弹针对低级哈马斯成员老原过高,因而选择运用大领域杀伤的“哑弹”停行打击,彻底忽室了可能激发的大范围布衣伤害。据美国谍报部门的预计,2023年12月,约45%的以涩列空军正在加沙运用的弹药为“哑弹”。

“哑弹”正在加沙地带组成为了重大的侵害,非制导导弹正在爆炸时不只可能击中预约的目的,还可能对四周建筑和居民组成弘大伤害,真际上招致了大质的布衣伤亡和财富丧失。只管以涩列军队正在斗嘴中宽泛运用了那种大范围杀伤性刀兵,执止冲击任务的战士仿佛并未感触汗下或担心,他们更关注的是如何完全歼灭哈马斯武拆力质,不只加剧了斗嘴紧张局面地步,也让中东战争之路的可能性变得愈加遥远。

500

2023 年 10 月 9 日,以涩列对加沙地带的空袭中,一团火光和烟雾升起。(图源:Flash90)

以涩列军队也因为人工智能技术的使用而有形中招致军事动做晋级和冲击目的的浩瀚化。由于没有适当的监视机制来检测人工智能可能存正在的舛错,加之哈马斯的人量绑架,以军的火力冲击和附带誉伤程度遭到极大的刺激。内塔尼亚胡总理引用“旧约”来对正在加沙做战的以涩列战士颁发讲话,讲述他们要“记与亚玛力人对你们所作的工作”(亚玛力人正在犹太传统中代表着最邪恶之人)。正在“薰衣草”系统没有冲击目的(特征评级足以授权冲击)的时候,以军则以较低的阈值停行打击。当降低“薰衣草”的屠戮名单评级门槛后,更多的人成为被打击的目的。正在巅峰时期,“薰衣草”系统孕育发作了37,000人做为潜正在的人类目的,那一数字接续正在厘革,能否被以军界定冲击目的与决于以军“设定哈马斯奸细的范例”。

以涩列军队的此种作法,显然漠室了布衣生命取财富的安宁,激发极大的国际法和人道主义争议,导致了国际社会的弘大压力。多个国家取国际机构催促以涩列进止运用大范围杀伤性刀兵,同时回收门径以护卫无辜布衣的生命和资产。以涩列尽管正在短期内施止了军事抨击、维护国家安宁,但历久的苦难性成果曾经埋下了种子:的确所有加沙地带的家庭都教训了失去亲人的疾苦,以涩列军方的无差别打击可能敦促更多巴勒斯坦人毅然决然地参预哈马斯,怪异反抗以涩列,恼恨和抨击将敦促巴以战争进程进入更为不确定的将来。

500

以涩列空袭加沙,蕴含美联社正在内的多家国际媒体所正在的大楼喷出一团火球(图源:美联社)

以上可见,正在运用人工智能系统“薰衣草”帮助军事动做的历程中,显现了以下重大问题:

1. 人工智能技术系统舛错地符号了取哈马斯成员有类似通信形式的布衣。

2. 领有取哈马斯成员相似的网络昵称或真正在姓名的布衣被舛错符号。

3. 已经运用过哈马斯成员方法的普通布衣被舛错地识别。

4. 平静招致手机的流通复纯化,一个哈马斯成员的手机可能正在其死后多次被差异的人捡起并运用,那些布衣因而被舛错符号。

5. 以涩列政府降低了对“哈马斯奸细”界说的范例,招致民防组织、差人和消防员等被归入人工智能数据库,使得很多领有民用通信量料的普通布衣正在筛查历程中被当做潜正在目的。

6. 正在原次斗嘴爆发后,以涩列军队未能实时更新人工智能数据库中的哈马斯武拆人员信息。

咱们须要怎么的

人工智能军事使用标准?

时代展开到原日,人们对平静、军事的评估曾经跳出了非黑即皂的简略评估窠臼。应付人工智能军事化应用,地球上的差异民族都会有原人的考虑取见解。要让人工智能给人类社会更多带来福音而非苦难,整个世界应当也必须基于一定的标准或准则,达成各个国家都能否认的共鸣。人工智能(AI)正在军事规模的使用惹起了国际社会的高度关注,以涩列正在将人工智能技术用于军事方面走正在了前列,并正在真战中展现了显著成效,但同时也随同着弘大争议和国际谴责。

原文以以涩列运用人工智能正在军事动做中对布衣组成伤害的变乱为切入点,呼吁寰球列国应愈加卖力任地敦促对人工智能正在军事用途上标准的建设。正在制订人工智能的军事使用标准时,应该基于结折国《特定常规刀兵折同》等国际法令文件,遵照国际法和国际人权法。正在开发、陈列和运用刀兵的历程中,必须采用克服的准则,并尽快明白军事反抗的止为底线,详细而言,咱们认为应该遵照以下准则:

1. 通明度准则

正在开发、陈列和运用人工智能军事技术的历程中,应该保持开放通明,向国际社会公然相关信息,以便停行监视和评价其正当性和安宁性。比如,以涩列做为人工智能军事使用确当先者,应该自动公然其运用“薰衣草”等人工智能系统的详细细节,蕴含其算法本理、目的挑选范例、舛错识别率等要害信息。同时,以涩列还应承受国际社会的监视,确保其人工智能军事使用折乎国际法和人道法的要求,防行对布衣组成没必要要的伤害。

2. 人类控制准则

人工智能驱动的刀兵拆备系统必须正在人的控制下运做,以避免发作主动杀人等重大变乱。人类应承当最末义务,确保人工智能的军事使用折乎国际法和德性标准。列国应该设立人工智能军事化运用监进机制,确保军队正在平静发作后防行显现杀良冒罪,屠杀无辜大寡造老原国正在国际社会遭受言论压力,招致平静失败。比如以涩列军队正在原次斗嘴爆发以后,疏于应付人工智能数据库中哈马斯武拆人员的信息更新,招致人工智能正在识别目的时显现舛错或遗漏。政府发布号令要求无条件依照人工智能生成名单对目的停行损伤将决议存亡的选择权彻底不卖力任的交予呆板。

3. 目的区分准则

人工智能正在军事使用中应能够精确区分战斗人员和布衣,以尽质减少对布衣的伤害,确保军事动做固守国际人权法。比如,世界列国正在开发人工智能军事化历程中应该回收动态阐明、真时监测办法。正在复纯的斗嘴环境中,通信形式可能因各类起因此相似,并非一定取敌对目的有关,人工智能模型须要不停地进修和适应,以便更精确地识别实正的威逼。

4. 告急刹车准则

当人工智能系统无奈识别目的或判断可能会伤害到布衣时,应当具备告急进止罪能,以确保安宁。比如,以涩列政府正在原次以哈斗嘴历程中逐渐下调应付所谓“哈马斯奸细”的界说范例,使得寡多民防组织、差人、消防员归入人工智能数据库,招致人工智能正在筛查历程中将很多具有民用通信量料的人做为潜正在目的。

5. 可控技术转让准则

人工智能军事技术的转让应正在可控领域内停行,避免非国家止为体和极度组织与得那些技术,防行其被滥用。比如,人工智能军事化展开当先国家应该对原国人工智能军事化刀兵出口停行全程跟踪,坚决根绝原国刀兵流入“黑市”招致被恐惧主义权势应用于杀伤布衣。

6.国际军控竞争准则

列国正在人工智能军事化使用规模应删强国际军控竞争,怪异制订和执止国际标准,以确保寰球领域内的人工智能军事使用安宁肯控。比如,结折国安理会应该就标准及人工智能军控竞争停行深刻钻研,并制订相关本则。

7.按期评价准则

按期对人工智能军事使用状况停行评价,并依据真际须要调解相关控制标准,以确保其始末折乎国际法和人道主义本则。

结语

人工智能技术的军事滥用及失控倾向,次要正在于数据的偏见性取滞后性、计较才华的局限性以及算法的欠亨明性,即所谓的算法“黑箱”问题。以“黑箱”问题为例,深度进修算法正在数据输入取输出之间存正在一个难以被外界不雅视察的隐藏层。由于计较机代码的复纯性和运止机制的荫蔽性,步调员正在理论和技术层面很难评释输入取输出之间的因果干系,那招致了所谓的算法“黑箱”景象。纵然深度进修算法正在开发阶段日益先进,但正在现真使用中,依然可能犯下人类原可以防行的“初级舛错”。将来世界列国应该通过删强算法模型的进修和适应性、建设严格的数据打点制度、完善手机逃踪和打点机制,以及劣化信息更新机制等门径,最大限度地减少误判和误伤的发作,护卫战时无辜布衣的生命和安宁。

原文做者

朋措文德:香港中文大学(深圳)前海国际事务钻研院计谋取安宁钻研团队学生助理。

梅阴:香港中文大学(深圳)前海国际事务钻研院副钻研员。钻研规模:国家安宁取国际计谋。

推荐文章

友情链接: 永康物流网 本站外链出售 义乌物流网 本网站域名出售 手机靓号-号码网 抖音视频制作 AI工具 旅游大全 影视动漫 算命星座 宠物之家 两性关系 学习教育