王 军 张雄涛 赵兴利 钟正仪 朱晓敏
从鸡鸣狗吠到汽笛轰鸣,从人喊马嘶到隆隆炮声,科技在社会生产发展和军事形态变迁中扮演着至关重要的角色.进入信息时代以来,新兴技术已经迈上爆炸式增长之路,军事变革又一次走上历史舞台.作为继机械化、信息化之后的又一个峰谷,智能化已成为未来战争的主要趋势.面向新的战争起点和斗争形态,美针对中俄日益发展的“反介入/区域拒止”能力[1],提出分布式作战[2]概念,通过“马赛克”[3]编成作战力量,以分布式杀伤网替代原有的集中式杀伤链[4],力争取得决策优势[5],打乱我方作战节奏,维持其世界霸权.目前,分布式作战已经成为美军主流作战概念,对我军未来作战行动具有重大威胁,亟需开展针对性的研究.
现有技术条件下,一旦对方将兵力全部进行分布式部署,兵力集中的一方将无法一击制敌,并遭到来自各个方向的打击.此时,必须将兵力进行合理部署,以分布式对分布式,让对方同样无法集中火力从各个方面袭来,才能形成新型战线,层层防御.因此,战场局势将进一步呈现出分布式态势,分布式作战条件也必将成为各域战场所必须解决的问题.
陆地是人类的传统居住环境,也是人类战争最终需要控制的目标区域.在联合全域作战视角下,陆战场既是决胜之所,也是制胜之地,发挥着至关重要的作用.智能化战争背景下,智能信息系统是陆战场的神经,是联结分布式陆战场节点和作战体系中心的重要载体,也是作战力量获取智能能力的主要途径,对于应对智能化背景下的分布式作战具有重要意义.然而,分布式作战条件和陆战场自身特点使得陆战场智能信息系统构建存在诸多难点,具体如下：
1）兵力分布广,干扰因素多,体系支撑难.现代战争视野下,陆战场范围不断扩大,兵力分布更加广泛,难以为所有节点提供远程体系支撑.加上地形、气象、水文、天候等多维要素影响,已经和体系联结的诸多节点随时可能与上级断开而成为孤立节点,实时提供体系支撑愈发困难.
2）任务多样化,人文高复杂,智能适应难.兵种专业分化,武器装备操作难度不断增加,陆战场节点面临越来越多样的各类任务,预先训练的单一智能模型存在失效风险.作为人类的直接居住场所,陆战场复杂的人文环境对智能认知模型的准确率和时效性提出了巨大挑战,更加剧了预训练智能模型失效的风险.
3）计算需求大,资源高受限,统筹协调难.智能信息系统的核心是不断演化的智能能力,现有人工智能手段对算力的需求十分巨大,而陆战场资源补给相对困难,节点机动能力较弱,资源高度受限,此时,如何兼顾陆战场节点智能性需求和计算、电量等资源效率,统筹协调全局,极具挑战.
为了更好地支撑分布式作战条件下陆战场的诸多作战力量,解决分布式陆战场中信息系统面临的诸多问题,提供高效可靠智能的陆战场信息系统支撑,本文基于“云网端”融合理念,设计了一种多层自适应的智能信息系统体系结构,通过信息流动集成分布作战力量,形成对上联通体系、向下获得支撑、对敌自成体系的高效作战体系；
在此基础上瞄准分布式陆战场节点任务多样,预训练模型易失效的挑战,结合分层自适应联邦学习方法,进行分布式陆战场智能模型训练,盘活作战训练过程中产生的新数据,实现持续学习不断演化的战场学习能力；
对于智能模型计算需求和分布式陆战场节点资源受限的问题,考虑从模型的智能训练和智能推理两部分入手,结合联邦学习的模型替换机制,当计算资源充足时,参与作战模型的持续训练,当计算资源不足时,直接利用获得的智能模型进行推理,实现资源可容忍情况下的分布式陆战场节点智能作战.
所谓分布式作战,实质是一种兵力分散部署、火力集中使用的作战理念,是“集中式”作战原则在当前技术水平下的新发展形态.以美军分布式杀伤[4]概念为例,其通过将兵力分散布置在战场各处,以“If it floats,it fights”的方式作战,放大其作战效能,如图1所示.
图1 美军分布式杀伤概念示意图Fig.1 The US army distributed lethality concept
总体而言,尽管美海军[6]、空军[7]、国防部[8]等都从不同角度给出了分布式作战的概念,但这些概念都围绕避免航母等“编队式”集中力量的出现,旨在通过大量配属中远程武器的分布式作战节点,从多个方向同时发动攻击,以使对手C4ISR 力量饱和,进而达成作战目标的方式.这是在我军北斗、中远程导弹等杀手锏武器逐渐成熟的背景下,美军已无法承担兵力集中式作战所产生的损失,因而通过分布式部署兵力实现力量保存.尽管兵力分散了,但其仍然强调火力和作战目标的集中性.
近几年来,分布式作战已经成为美军各军兵种的共识,包括分布式杀伤链[4]、分布式作战[2]、马赛克战[8]、决策中心战[9]、多域作战[10]、联合全域作战[11]等美军新兴作战概念,都以分布式作战作为其发挥作战效能的主要途径.这对我军体系破击和全域精确作战造成了严重威胁.在这一趋势下,可以断言,分布式作战将成为我军未来作战需要面临的主要形式.见之于未萌,识之于未发.站在科技进步的新浪潮,立足百年未有之大变局,必须深刻研究其中的体系、方法和技术,剖析现实,面向未来,才能更好地应对未来,战胜未来.
从美军作战概念发展过程来看,分布式作战是美军确保军事优势,解决现实挑战的变革性举措.图2 展示了美军与分布作战相关的作战概念发展时间线.在分布式作战概念提出以前,网络中心战[12]一直是美军的指导思想.该概念旨在通过信息网络连接战场传感器、决策节点、打击节点等,将彼此分离的作战节点连接为具备快速反应杀伤链,转化信息优势为物理、社会和认知优势.因此,网络中心战的核心是功能完备、彼此互联的战场信息网络.随着中俄“反介入/区域拒止”能力的迅速发展,美海军发现其在西太平洋的作战优势不复明显,航母编队受到日益严重的挑战.此时,基于兵棋推演结果,美海军发现将航母编队化整为零,分散部署,从各个方向发起进攻可以实现更好的作战效果,针对海上作战的分布式杀伤[4]概念应运而生.在此基础上,适用于多军兵种的分布式作战[6]概念开始趋于成熟.此后,美国国防高级研究计划局（Defence Advanced Research Projects Agency,DARPA）从作战体系视角进一步扩展分布式作战概念,通过灵活组织、动态响应、自主协调有人/无人系统等各类分布式作战节点形成杀伤网,提出了马赛克战概念[8]；
CSBA 基于分布式作战概念,瞄准美军水面舰艇部队建设转型需求,提出了决策中心战概念[9],旨在基于分布式作战概念,以类似于象棋中将军抽车、将死困毙等形式,对对手造成决策困境,迫使对方不能战、不敢战而屈从于己方意志.此外,美军在多域战[10]、跨域机动排[13]、全球公域介入与机动联合[14]、远征前进基地作战[15]、联合全域作战[16]等概念中均将分布式作战作为其所考虑的一项作战手段.需要注意的是,分布式作战只是一种兵力分散,其火力与作战目标仍然是集中的,这高度依赖于发达完备的战场信息网络.因此,没有成熟的网络中心战,是难以完成高效的分布式作战的.
图2 美军分布式作战相关概念发展时间线Fig.2 Timeline for the development of the relevant concepts related to distributed operations in the US military
由于美军历来重视战技术融合,其分布式作战概念深受分布式计算等信息科学领域发展成果启发.在分布式计算领域,聚焦于低成本大规模计算资源的提供,云计算[17]技术首先被提出并广泛应用,该类技术旨在通过将原来集中的超算和数据中心去中心化为大量低成本服务器,与自组织网络[18]、集群协同控制[19]、平行系统[20]等指挥控制技术具有良好的适配性.不过,云计算的分布式是一种逻辑分布、地理集中的并行计算方法.随着移动通信、物联网等技术的发展,来自用户侧的计算需求和实时响应需求不断增加,学术界和产业界开始打破云计算的地理集中式架构,从私有云[21]、混合云[22]逐步变化为边缘云[23].边缘计算[24]开始成为新的研究热点,随之而来的雾计算[25]、移动边缘计算[26]、移动云计算[27]等概念如雨后春笋一般不断涌现.然而,边缘计算等方法将注意力聚焦于边缘服务器和核心网络的计算前移,忽略了云与其他各类节点之间的协同计算能力和融合优势.为了能够融合用户端、边缘网络、核心网络和云中心的各类资源,融合式计算开始成为一种新一代计算范式,“云端融合”[28]“云网融合”[29-30]等概念被相继提出,本文将云中心、核心网络服务器、边缘网络服务器、智能手机等设备按照“云”“网”“端”3 部分进行划分,基于“云网端融合”模式设计分布式陆战场的智能信息系统架构.目前,依托“云”思路,针对作战问题的信息系统建设仍然处于起步阶段,包括美军“JEDI”等项目仍然以云服务思路进行基础设施建设,尚未有融合“云网端”计算资源的信息系统架构方案.
在智能性方面,信息系统是信息存在和变化的主要领域,也是智能演化的基本依托.作为智能信息系统的核心,学术界有大量智能模型训练和推理方面工作可供借鉴.在分布式信息系统的智能模型训练方面,Google 公司的KONECNY 等针对智能手机中大量非独立同分布数据的模型训练问题,提出了联邦学习方法[31]；
在联邦学习被提出3 年后,其实现途径和训练效果得到了国内外学者的关注,并将其广泛应用于金融分析[32]、输入法联想[33]、商品推荐等[34]诸多领域.由于传统联邦学习存在通信瓶颈等问题,部分工作也从分层部署[35]和通信压缩[36]等方面开展研究.另外,瞄准完全地理分布式的gossip 学习[37]等方法也得到了部分学者的关注研究.除此之外,还有模型压缩、分层部署等大量适用于云端和终端的智能性提升方法.然而,陆战场的特殊性对这些方法提出了特殊要求,即规模性、稳定性和可拓展性.具体而言,规模性是由于陆战场兵力多、分布广、任务复杂,要求智能方法能够适应大规模部署和训练；
稳定性是由于陆战场环境多样,干扰众多,且资源高度异构,需要依托稳定的智能结构确保其智能水平；
可拓展性是由于陆战场存在人文复杂、专业化日趋分割等现实需求,对于陆战场的智能模型必须能够持续演化、不断拓展以适应新的需求.值得注意的是,以联邦学习为代表的技术体系能够一定程度上契合上述需求,通过让数以千万计的不同终端节点参与训练,具有很好的规模性；
与此同时,联邦学习对于终端节点传输中断、不参与训练等情况具有较好的容忍性,可以在仅有20%终端参与训练[31]的情况下维持模型效果,具有很好的稳定性；
而且,联邦学习可以不断利用来自战场边缘的众多数据,不断进行自身模型训练,从而拓展模型性能,并可以接受新节点的加入与推出,具有较好的可扩展性.因此,本文将在“云网端”体系基础上,通过分层自适应的联邦学习方法,设计对应的智能方法.不同于仅关注于模型训练方面的传统工作,本文所提出的方法结合分布式陆战场智能推理、智能训练和资源约束等特点,以分层自适应的联邦学习方法,结合资源现状在模型训练和推理间动态切换,可以有效满足分布式陆战场信息系统的资源需求.
针对分布式作战条件下陆战场兵力分布广、干扰因素多、任务多样化、人文高复杂、计算需求大、资源高受限等问题,本文基于分布式计算领域在融合式计算架构方面的技术趋势和最新成果,设计了如图3所示“云网端”融合的陆战场智能信息系统体系结构.
图3 “云网端”融合的陆战场智能信息系统体系结构Fig.3 Intelligent information system architecture of the land battlefield with"cloud-network-end"fusion
该体系主要由“云”“网”“端”3 级构成,其中,“网”又由边缘网络和核心网络2 部分构成,为了便于理解和区分边缘网络与核心网络,在图3 中将其分为两层表述.在所设计体系中,“云”层以作战“云脑”的形式存在,为信息资源的虚拟化描述,根据作战需求实现按需伸缩动态供给,其所提供的作战服务主要包括指挥控制加速、能力赋予和智能演化3部分,分别对应由“云脑”演化而来的“指挥控制云”“能力云”和“智能云”3 朵云.“核心网”部分由战略、战役级指挥中心和信息基础设施等构成,包含雷达、卫星、不同部门等网络核心部分,由于“核心网”包含了作战相关的各类部门,因此,其对于协调各类战争资源和军地多部门具有重要意义,可以有效应对混合战争等分布式作战条件下的复杂场景.“边缘网”由战术级指挥部、通信车、无人机、基站、边缘服务器等网络边缘的信息和计算资源构成,旨在为下属部队和作战节点提供快速动态的资源支持和敏捷指挥控制.“端”层则由直接负责作战任务的单兵、单车、单机、班组、有人/无人编队等构成,是作战体系的末梢触觉和作战意志的直接实施力量,当后方支撑无法获得时,“端”层作战力量可以自成体系,协同按照全局态势进行任务执行和作战协同.对于体系全局,当上层体系无法获得支撑时,本层力量将作为临时体系的上层节点对下提供支撑,形成稳定高效鲁棒的动态层级结构.在此结构下,不同层级物理上相互分层,任务上分工,逻辑上相互融合,形成“云”即是“端”,“端”即是“云”的体系支撑.
从智能演化过程来看,所设计体系结构中智能能力提升和作用发挥过程如图3 右侧所示.在开始作战行动以前,作战“云脑”依据作战条例形成作战流程,智能云提供依据历次作战和训练过程中积累数据预训练所得到的智能模型,智能模型和作战流程结合后,形成作战行动所需要的智能能力.智能能力部署在“边缘网”和“端”层的作战节点中,提供智能作战服务.随着作战的不断进行,分布式作战节点开始积累大量战场数据,并利用自身计算资源进行智能模型的本地训练,训练后的智能模型根据体系状况进行多级融合,最后同步到“智能云”中.当作战节点计算资源不足时,不再参与智能模型训练,而是直接接受来自其他节点/上层节点的智能能力模型,并直接进行模型推理,从而实现整体高效、动态灵活、持续演化的分布式智能作战.
从结构属性来看,智能性是智能信息系统的核心,是智能信息系统自我演化、适应未来的源动力.从技术实现途径来看,计算、数据和模型是实现人工智能的3 个不动点,也是智能信息系统运转的3 个关键.其中,数据是信息系统智能的来源,模型是信息系统智能的结果,而计算则是由数据向智能转变的基本途径.在计算、数据和模型三者中,智能模型处于中心地位,是智能性的结晶和智能决策的主要依据.在实际使用和演化过程中,智能模型又由智能训练和智能推理两部分组成.其中,智能训练是由数据到模型的动态过程,是智能模型基于自身判断结果和真实世界反馈之间的矛盾而自我演化的运动状态；
智能推理是基于智能模型的结论展示,是其训练结果的展示应用,是一个静态过程.为了能够适应所设计的“云网端”融合的陆战场智能信息系统体系结构,可以通过3 方面在有限资源下进行其智能性的提升,即：训练任务自适应分配、战场数据有限共享和智能模型协同训练.因此,建立陆战场智能信息系统模型,对各类资源进行形式化描述,根据资源现状实现作战节点智能模型训练与推理之间的动态切换,并依托联邦学习方法,在本地数据有限共享的情况下,合理运用原始数据,保留智能的结果性模型,为所设计的体系结构提供智能性演化技术支撑.
智能性是分布式陆战场智能信息系统的核心,也是所设计体系结构的关键,为了更好地提升所设计信息系统的智能演化能力和服务提供效果,本文考虑根据分布式陆战场节点信息资源状况,面向大规模地理分布节点智能训练和推理需求,设计与之相适应的方法.具体而言,当各个节点都资源充足时,系统可以利用作战数据动态更新模型,以达到最新作战要求；
当资源不够时,各个作战节点的模型仅进行推理任务,满足智能需求.基于上述讨论,现从智能系统信息资源模型和联邦学习模型两方面数学模型入手进行本文所提方法介绍.
3.1 智能系统信息资源模型
信息资源模型主要对“云”“网”“端”的信息资源进行描述,旨在有效管理“云网端”融合系统中的信息资源.关于信息资源模型,产业界和学术界普遍采用资源虚拟化的方式进行.近年来,虚拟化技术不断成熟,现已发展成云计算最关键的技术,在云计算的众多研究中,通过对虚拟资源的合理调度来降低数据中心的能耗一直是一个研究热点[38].在资源虚拟化的基础上,本文将“云网端”融合的信息资源划分为计算、存储、网络3 个资源池,这3 个资源池中的资源状况通过资源监控器进行监控,并按照资源调度器的命令分配给智能演化、功能集合和组织协同模块进行多个智能节点间的协同、演化和功能赋予.
考虑到应用所需资源的波动性,系统中必须预留一定的资源,因此,系统实际可分配信息资源,系统信息资源总量和系统各个计算节点的信息资源有如下关系：
针对情况2）,在消耗终端节点资源的同时,网络聚合阶段还会消耗网络节点的资源,所占资源为：
针对情况3）,除了消耗上述资源外,云端聚合还会增加云端的资源开销,此时系统占用资源为：
3.2 联邦学习模型
联邦学习可分为传统的联邦学习和多层架构下的分层联邦学习,本文提出的面向“云网端”融合的联邦学习模型也是分层联邦学习的一种.
3.2.1 传统联邦学习
传统的联邦学习通常是两层的,一层为中央服务器,一层为数量为N 的客户端.在联邦学习中,每个客户端在传输模型参数到服务器进行聚合前,都要经过若干次训练,此过程反复迭代多次,直到模型达到一个较好的准确率或资源耗尽.
经过T 次训练后,各个客户端将本地模型参数上传到中央服务器进行聚合.本文采用MCMAHAN等提出的FAVG 算法[39]对模型参数进行聚合,具体公式如下：
其中,e=1,2,…,E,E 为全局联邦聚合的次数.
3.2.2 “云网端”融合联邦学习模型
在“云网端”融合联邦学习背景下,本文构建了“云指挥控制中心-网络作战部节点-终端作战节点”的分层联邦学习模型,以实现在分布式作战条件下多个作战节点之间协同训练模型.该模型中,联邦聚合可以分成云指挥控制中心的联邦聚合和网络作战部节点的联邦聚合.即将模型部署在终端作战节点上,在作战节点本地训练迭代T1次后,将训练结果传输到对应的网络节点聚合,网络节点迭代T2次后,传输到云端聚合,最终得到一个融合了所有终端节点数据特征的整合模型,实现了多个作战节点的协同训练.该模型的训练阶段可以分为终端训练、网络节点聚合和云端聚合3 个阶段,终端训练的表达与传统联邦学习模型没有区别,此处不再赘述.
基于上述模型,本文提出了一个能够根据“云网端”融合系统各节点资源占用情况自适应选择模型训练或模型推理的智能算法,当节点资源充足时,利用面向“云网端”融合的分层联邦学习框架对模型进行更新；
当节点资源占用较大时,则进行简单的推理工作.其中,自适应训练智能算法如算法1 所示,面向“云网端”融合的分层联邦学习算法如算法2 所示.
在算法1 中,在各个终端作战节点将根据自身数据规模和模型规模预判本地训练需要的网络资源、计算资源以及通信资源,将其与本地未占用的资源作比较,若资源充足则进行本地训练；
训练到一定阶段后,各个终端对应的网络作战部将根据评估进行网络聚合所需资源,若,则进行网络节点聚合,否则训练终止,等待资源分配满足训练条件时再进一步训练,云端聚合同理.当时,就能实现分布式作战条件下陆战场智能信息模型随战争实践而持续迭代演化.
算法2 主要描述了模型的训练架构,本文采用分层联邦学习的方法,通过仅上传模型参数、对各个节点的模型参数进行聚合的方式,在减小“云网端”数据传输压力的同时,也极大地整合了各个终端作战节点的数据特征,保证了系统模型的高度泛化能力.在该架构下,各个终端节点在本地迭代T1次后,将本地训练的模型参数传输到各自对应的网络进行聚合,如此迭代T2次后,各网络作战部再将聚合后的模型参数传输到云端进行聚合,最后回传至各个终端节点,完成一次训练.
本章将基于分布式作战条件下的陆战场场景,部署形成分布式智能计算系统,分别在卷积神经网络（convolutional neural network,CNN）、多层感知机（multi-layer perceptron,MLP）、循环神经网络（recurrent neural network,RNN）的神经网络模型上,验证算法1 和算法2 提出的“云网端”融合智能计算框架的有效性,对比计算框架有：预训练框架、传统联邦学习方法以及不采取联邦技术的本地学习框架.同时,本文将采用在深度学习中常见的图像分类任务进行实验验证,考虑到在图像分类任务中,mnist 是常见的验证数据集,因此,本文利用mnist 数据集分类的准确性来衡量该算法的有效性.
5.1 实验参数设置
在分布式节点设置上,本文利用PyTorch,构建了一个由50 个终端节点、5 个网络节点和1 个云端组成的“云网端”融合框架,其中,每个网络节点下对应有10 个终端节点.每个网络节点相当于1 个特定方向的战区,终端节点对应战区下的各个作战节点.同时,本文中各个分布式智能计算模型的设置如下：
1）CNN 采用常用的LeNet 模型,该模型由3 个的卷积层和两个全连接层构成,每个卷积层后面接一个的最大池化层和一个Relu 激活函数,最后的全连接层输出为10 维.
2）MLP 模型由一个含784 个神经元的输入层、1 个含512 个神经元的隐藏层和10 个神经元的输出层构成,其中,输入层和隐藏层后接Relu 激活函数,输出层后接softmax 函数.
3）在RNN 模型中,有一个拥有100 个神经元的长短时效记忆层（long short-term memory,LSTM）和一个拥有10 个神经元的全连接层.
以上3 种模型均以交叉熵作为损失函数,采用随机梯度下降（stochastic gradient descent,SGD）的方法对模型进行优化,在不同的计算框架下采用的学习率不尽相同,其中,预训练框架、传统联邦学习框架和本地训练框架下的学习率为0.05,本文提出的云网协同计算框架的学习率为0.01.
在数据集的处理上,由于mnist 手写数字辨识数据集有60 000 个训练样本和10 000 个测试样本,本文将其中10 000 个样本用于预训练模型,剩下的50 000 个样本分别采用非独立非同分布（non-iid）和独立同分布（iid）两种方式平均分配到各个终端作战节点用于训练.
5.2 卷积神经网络模型效果对比
将卷积神经网络模型预训练完毕后,分别应用到本地学习、传统联邦学习和“云网端”融合学习3种框架下进行验证,可以得到图4 和图5 所示的结果.在各个终端节点数据独立同分布的情况下,由于LeNet 模型本身在图像识别领域具有较好的效果,因此,用10 000 个样本训练（即预训练）得到的模型和后续进行本地学习得到的模型准确率几乎相同,二者仅略低于使用传统联邦学习和“云网端”融合学习得到模型的测试准确率；
在终端节点数据非独立同分布的情况下,可以看到,虽然传统联邦学习和“云网端”融合学习使模型最终达到的效果一样,但是明显在“云网端”学习框架下,模型收敛得更快.这是由于在该框架下,云端聚合是在各个网络节点聚合迭代了多次的基础上进行的,这意味着每一次进行云端聚合收到的网络节点数据,都充分整合了各自终端节点的数据特征,因此,聚合的效率更高,使得模型收敛所需的迭代次数更少.
图4 iid 情形下CNN 模型效果对比Fig.4 Comparision of effects of CNN model in iid distribution condition
图5 non-iid 情形下CNN 模型效果对比Fig.5 Comparision of effects of CNN model in non-iid condition
因此,在真实的分布式陆战场作战场景下,尤其是当终端节点数据非独立同分布时,“云网端”融合学习框架能够使整个智能信息系统得到更快地更新.
5.3 多层感知机模型效果对比
多层感知机作为一种常见的神经网络训练模型,在不同的计算框架下的效果如图6 和图7 所示.
图6 iid 情形下MLP 模型效果对比Fig.6 Comparision of effects of MLP model in iid distribution condition
图7 non-iid 情形下MLP 模型效果对比Fig.7 Comparision of effects of MLP model in non-iid distribution condition
从图6 可以看出,当数据分布为iid 时,基于预训练模型,各个终端利用作战节点新产生的数据更新模型,使得模型很快达到了收敛,且传统联邦学习和“云网端”融合学习二者达到的效果几乎一致,但是,传统联邦学习由于是直接的云端与终端的互联,由于云端与终端空间距离的限制,在通信资源的消耗上,传统联邦学习明显多于“云网端”融合学习.此外,“云网端”融合学习由于充分利用了各个终端节点的数据进行训练,效果明显优于本地学习.
从图7 可以看出,当数据分布为non-iid 时,与CNN 相似,传统联邦学习情形下的收敛速度明显低于云网端融合学习.此外,值得注意的是,此时若仅仅进行本地学习,数据的倾斜性会导致模型表现越来越差.此时若通过仔细对比可以发现,无论是在iid情形还是在non-iid 情形下,经过本地学习后,模型的表现都会有一定下降,不过在non-iid 情况下尤为明显,这是因为在分布式环境下,每个终端节点的数据量有限,例如在本实验中,每个终端节点的数据量为1 000,有限数据训练的模型显然不具有较强的泛化能力.
5.4 循环神经网络模型效果对比
在循环神经网络下,图8 和图9 总体规律仍然与CNN 和MLP 情形下相似.即无论数据的分布情况,“云-端”互联的传统联邦学习与“云网端”融合学习框架的最终模型收敛效果几乎相同,都能使得模型达到较高的准确率,且该准确率优于本地学习得到的结果,在预训练的基础上有明显提升；
但是当数据分布为non-iid 时,“云网端”融合学习结果明显优于传统联邦学习和本地学习,此时,传统联邦学习收敛速度减慢,本地学习甚至出现了模型表现逐渐下降的趋势.
图9 non-iid 情形下RNN 模型效果对比Fig.9 Comparision of effects of RNN model in non-iid distribution condition
此外,通过横向对比可以发现,在传统联邦学习框架和“云网端”融合学习框架下,虽然CNN、MLP以及RNN 模型最终都能得到非常高的模型准确率,但在non-iid 情形下,传统联邦学习和“云网端”融合学习模型收敛速度的差异程度却不尽相同.从图中可以看到,数据分布为non-iid 时,MLP 模型的收敛差异程度最大,“云网端”融合学习框架在5 个epoch后即达到收敛,但是传统联邦学习需要15 个epoch,CNN 模型的收敛差异程度次之,RNN 最小.因此,可以见得,模型的复杂度也会对传统联邦学习和“云网端”融合学习框架的收敛速度差异程度产生影响.
综合以上分析可以发现,“云网端”融合框架无论模型是CNN、MLP 还是RNN,数据分布是iid 还是non-iid,都可以取得较高的准确率,且在non-iid 情形下,该框架的优势更加明显.
随着“矛”和“盾”的迅速发展,作战手段更趋多元,战争线性被打碎,战场局势开始混沌,战争双方呈现出你中有我、我中有你的新态势.然而,战争意志的集中统一性没有变,战争作为国家利益和政治目的的延续这一事实没有变,战争的无限暴力属性没有变.此时,为了在新兴技术创造的混沌状态中形成新秩序,必须寻求一种分布式的战争手段.而分布式作战可以有效重构力量运用,以模块化结构达成作战目的,形成有效的作战效能闭环.因此,作为未来战争体系的基本内容,分布式作战环境将是信息化3.0 时代的主要条件.作为多域战场的重要组成部分,陆战场在未来战争中同样发挥着举足轻重的作用,而智能信息系统则是陆战场力量适应未来,战胜未来,把握未来的重要途径.
为了有效适应分布式作战条件和陆战场制约,本文基于“云网端”融合理念设计了一种“云网端”融合的陆战场智能信息系统体系结构,该结构可以有效调度“云”“核心网”“边缘网”“端”各层级计算资源,为分布式陆战场节点提供动态高效,持久演化的智能服务支撑.在此基础上,针对所设计智能信息系统的智能模型训练和模型推理需求,结合资源紧张程度,本文还设计了一种面向云网端融合的分层联邦学习算法,该算法可以依据节点和网络资源状况自适应地在联邦训练和本地推理之间转换,从而有效保障智能模型推理和智能性能提升的需求.经过与预加载智能模型的装备交付式、本地集中训练的局部智能式和传统联邦学习的全局训练式方法对比,本文所提出的方法在CNN、RNN、MLP 等3 类常用神经网络,iid、non-iid 两类数据分布情况下,均表现出了更好的性能,更能适应分布式作战条件下陆战场智能性需求.
猜你喜欢 联邦战场分布式 战场上的神来之笔小哥白尼(军事科学)(2022年1期)2022-04-26C-130：战场多面手小哥白尼(军事科学)(2021年10期)2021-02-12一“炮”而红 音联邦SVSound 2000 Pro品鉴会完满举行家庭影院技术(2020年10期)2020-12-14贴秋膘还有三秒到达战场意林(2020年20期)2020-11-06303A深圳市音联邦电气有限公司家庭影院技术(2019年7期)2019-08-27分布式光伏热钱汹涌能源(2017年10期)2017-12-20分布式光伏:爆发还是徘徊能源(2017年5期)2017-07-06基于DDS的分布式三维协同仿真研究雷达与对抗(2015年3期)2015-12-09西门子 分布式I／O Simatic ET 200AL自动化博览(2014年12期)2014-02-2820年后捷克与斯洛伐克各界对联邦解体的反思俄罗斯问题研究(2013年1期)2013-03-11