针对不同模态间对应特征极易融合错位、识别模型专家主观经验式调参且计算成本高等问题,提出自优化双模态(“对比增强T1加权”与“高分辨率增强T2加权”)多通路非深度前庭神经鞘瘤识别模型。首先,通过构建前庭神经鞘瘤识别模型进一步挖掘前庭神经鞘瘤病症多模态影像特征及模态间复杂的非线性互补信息;其次,设计基于博弈论全局并行麻雀搜索算法的模型优化策略,实现模型关键超参数的自适应寻优,使模型具有较优的识别效果。实验结果表明,相较于基于深度学习的模型,所提模型在识别准确率提升4.19个百分点的情况下参数量降低了27.9%,验证了它的有效性和自适应性。
抑郁症的诊断主要依赖于医师的咨询和量表评估等主观方法,可能导致误诊。脑电图(EEG)具有高时间分辨率、低成本、易于设置和无创等优点,因此可以用作精神障碍(如抑郁症)的定量测量工具。深度学习算法目前在EEG信号上有多种应用,其中就包括抑郁症的诊断和分类。EGG信号在通过自注意力机制处理时有大量的冗余部分,因此,提出一种基于概率稀疏自注意力机制的卷积神经网络(PSANet)。首先,根据采样因数在自注意力机制中选取少量最关键的注意力点,在运用自注意力机制的同时克服它计算成本高的缺点,使它可以在脑电长序列数据上应用;同时将脑电图与患者的生理量表进行嵌合,从而进行多维度诊断。在一个包含抑郁症患者和健康对照组的数据集上进行实验评估,实验结果表明,PSANet表现出较高的分类准确性,参数量也低于EEGNet等对比方法。
为了获得更准确的分子毒性预测结果,提出基于元图同构网络的分子毒性预测模型Meta-MTP。首先,使用图同构神经网络将原子作为节点、键作为边、分子作为图结构,以获取分子表征;使用预训练模型对图同构网络(GIN)初始化,使它获得更好的参数;引入基于分层注意力和局部增强的前馈Transformer;使用原子类型预测和键预测作为辅助任务提取更多的分子内部信息;通过元学习双层优化策略对模型进行训练;最后使用Tox21和SIDER数据集对模型进行训练。实验结果表明,在Tox21和SIDER数据集上,Meta-MTP具有良好的分子毒性预测能力,当样本数为10时,相较于FSGNNTR(Few-Shot Graph Neural Network-TRansformer)模型,Meta-MTP的曲线下面积(AUC)分别提高了1.4%和5.4%,相较于图同构网络(GIN)、图卷积网络(GCN)和GraphSAGE(Graph Sample and AGgrEgate)3种传统的图神经网络模型,Meta-MTP的AUC提高了18.3%~23.7%和7.3%~22.2%。
深度强化学习在自动变道决策问题中由于它的试错学习的特性,易在训练过程中导致不安全的行为。为此,提出一种基于轨迹预测的安全强化学习自动变道决策方法。首先,通过最大似然估计的概率建模并预测车辆的未来行驶轨迹;其次,利用得到的预测轨迹和安全距离指标进行驾驶风险评估,并且根据驾驶风险评估结果进行安全动作约束,将动作空间裁剪为安全动作空间,指导智能车辆避免危险动作。在仿真平台的高速公路场景中,将所提方法与深度Q网络(DQN)及其改进方法进行测试比较。实验结果表明,在智能车辆训练过程中,所提方法在保证快速收敛的同时,使碰撞发生的次数相较于对比方法降低了47%~57%,有效提高了训练过程中的安全性。
由于港口交通流量具有随机不确定性、时间不平稳特征,因此港口交通流量的精准预测是一项具有挑战性的任务。为了提高港口交通流量预测精度,考虑气象条件和港口相邻高速公路开闭状态等外部干扰因素,提出了一种基于知识图谱和时空扩散图卷积网络的港口交通流量预测算法KG-DGCN-GRU。知识图谱表示港口交通网络相关因素,知识表示方法从港口知识图谱中学习各外部因素的语义信息,扩散图卷积网络(DGCN)和门控循环单元(GRU)能有效挖掘港口交通流量的时空依赖特征。基于天津港交通数据集的实验结果表明,KG-DGCN-GRU能通过知识图谱和扩散图卷积有效提高预测精度,在单步预测(15 min)中与时间图卷积网络(T-GCN)和扩散卷积递归神经网络(DCRNN)相比,均方根误差(RMSE)分别降低了4.85%和7.04%,平均绝对误差(MAE)分别降低了5.80%和8.17%。
城市公路交通流的预测受到历史交通流量和相邻车道交通流量的影响,蕴含了复杂的时空特征。针对传统交通流预测模型卷积长短时记忆(ConvLSTM)网络进行交通流预测时,未将时空特征分开提取而造成的特征提取不充分、特征信息混淆和特征信息缺失等问题,对ConvLSTM模型作出改进。首先,提取每个采样时刻的交通流数据的短期时间特征和空间特征,并在特定的维度下将交通流的短期时空特征融合;其次,进行残差映射;最后,将映射后的短期时空特征交由Transformer模型捕捉交通流数据长期的时空特征,并根据所捕捉的长期特征对未来时刻每个采样点交通流进行预测。使用加州城市快速路数据对模型进行验证,以平均绝对误差(MAE)作为模型评价指标时,所提模型相较于Conv-Transformer模型,预测精度提高了18%,验证了所提模型的有效性。
针对多无人机(UAV)编队飞行过程中的避障和故障问题,提出一种编队动态变换与重构方法。编队内UAV将障碍物和其余UAV作为动态威胁,根据当前飞行环境自适应地改变航迹评价函数的得分权重,提高编队在动态环境下的避障能力;当编队中某一UAV故障时,对剩余UAV进行编队队形重构,改变动态窗口法(DWA)目标函数中僚机相对于长机的位置,实时调整得到新的编队,从而实现容错编队飞行。仿真实验结果表明,所提编队避障和重构方法能够实现动态避障以及单机故障或动力不足情况下的容错编队飞行;与传统DWA相比,所得到的编队无人机间距离误差更小。
近年来,壁画图像的色彩还原研究已成为壁画文物保护和展示领域的一个热点问题。针对壁画色彩还原面临的整体特征信息难以有效提取和保持,局部色彩还原易出现假色以及色彩溢出等问题,提出基于门控位置编码的壁画图像多级色彩还原方法。首先,构建基于全局特征约束的编码器网络,并通过改进的多核多值池化算法提取图像的全局特征梯度作为下采样取值标准以建立壁画图像特征金字塔,从而减少壁画图像在特征编码过程中的整体特征损失;其次,为准确还原壁画图像的局部色彩信息,设计基于门控位置编码的色彩迁移模块,该模块通过约束空间域中内容特征与色彩特征之间相似性核的学习,构建色彩特征在待还原壁画图像中的准确映射,从而减少还原图像中的假色现象与色彩溢出。实验结果表明,该方法所生成的壁画还原图像相较于AdaIN(Adaptive Instance Normalization)、AST(Arbitrary Style Transfer)等对比方法所生成的壁画还原图像,NIQE(Natural Image Quality Evaluator)和PIQE(Perception based Image Quality Evaluator)都取得了最优的结果。可见,所提方法能有效还原壁画色彩信息并保持待还原壁画图像的整体结构纹理特征。
情感计算可以为智慧教育提供更好的教学效果和学习体验。目前针对课堂领域的情感计算研究仍存在有限的适应性与对复杂场景的感知能力较弱的问题。针对这一挑战,提出一种混合架构SC-ACNet,旨在对学生课堂进行准确的情感计算。该架构包含一个能适应小目标的多尺度学生面部检测模块;一个能适应不同面部姿态的、具有自适应空间结构的情感计算模块,对学生的5种课堂情感(平静、困惑、愉悦、困倦和惊讶)进行准确识别;以及一个自注意力模块,以可视化模型中对结果产生主要贡献的区域。此外,为缓解课堂环境下学生面部情绪图像数据集匮乏的问题,构建了一个学生课堂数据集SC-ACD。在SC-ACD数据集上的实验结果表明,与基线方法YOLOv7相比,SC-ACNet的平均精度均值(mAP)提升了4.2个百分点,情感计算准确率提升了9.1个百分点;此外,SC-ACNet在KDEF和RaFD数据集上的准确率分别达到了0.972和0.994,验证了SC-ACNet可作为提高智慧课堂教学质量的有前途的解决方案。
3D/2D配准是手术导航的关键技术,现有基于深度学习的配准方法通过网络提取图像特征,继而回归出相应的姿态变换参数。此类方法依赖于真实的样本以及对应的3D标签用于训练,然而这部分专家标注的医疗数据十分稀缺。替代的方案用数字重建放射影像(DRR)图像训练网络,由于图像特征跨域的差异,在X射线图像上难以保持原有的配准精度。针对上述问题,设计基于自注意力的无监督跨域迁移网络(UCDTN),无须依赖X射线图像与其对应的3D空间标签作为训练样本,将源域所捕获的图像特征与空间变换间的对应关系迁移到目标域,借助公共特征减小域间特征的差距、降低跨域所带来的负面影响。实验结果表明,UCDTN预测结果的平均配准误差(mTRE)为2.66 mm;与未经跨域迁移训练的模型相比,mTRE指标降低了70.61%,验证了UCDTN在跨域配准任务上的有效性。
针对如何联合短视频的帧不确定度和时序关联性,以增强事件检测能力的问题,提出一种基于不确定度感知的帧关联短视频事件检测方法。首先,利用2D卷积神经网络(CNN)提取短视频每一帧的特征,再将该特征多次前向传播并通过贝叶斯变分层获得特征均值和与特征对应的不确定度信息;其次,利用模型构建的不确定度感知模块将特征均值和不确定度信息进行融合,再将融合后所得的各帧特征通过时序关联模块加强时域上的联系;最后,用时域关联后的特征通过分类网络实现短视频事件检测。在从Flickr平台上爬取到的短视频事件检测数据集上开展实验对比,实验结果表明,支持向量机(SVM)等子空间学习方法的分类性能较差,对高级语义表示的探索不充分;而深度学习方法对于事件检测的准确率明显更优。相较于SViTT(Sparse Video-Text Transformer)方法,所提方法的准确率、平均召回率和平均精度分别提高了3.37%、2.55%和2.09%,验证了所提方法在短视频事件检测任务上的有效性。
针对视觉Transformer(ViT)缺乏归纳偏置,导致在相对小规模的行人重识别数据上难以学习有意义的视觉表征的问题,提出一种基于自蒸馏视觉Transformer的无监督行人重识别方法。首先,利用ViT的模块化架构,即每个中间块生成的特征维度相同的特性,随机选择一个中间Transformer块并将它送入分类器以得到预测结果;其次,通过最小化随机选择的中间分类器输出与最终分类器输出分布之间的Kullback-Leibler散度,约束中间块的分类预测结果与最终分类器的结果保持一致,据此构建自蒸馏损失函数;最后,通过对聚类级对比损失、实例级对比损失和自蒸馏损失进行联合最小化,对模型进行优化。此外,通过从最终分类器向中间块提供软监督,有效地给ViT模型引入归纳偏置,进而有助于模型学习更鲁棒和通用的视觉表征。与基于TransReID的自监督学习(TransReID-SSL)相比,在Market-1501数据集上,所提方法的平均精度均值(mAP)和Rank-1分别提升1.2和0.8个百分点;在MSMT17数据集上,所提方法的mAP和Rank-1分别提升3.4和3.1个百分点。实验结果表明,所提方法能够有效提高无监督行人重识别的精度。
针对复杂场景下人群计数问题中的尺度变化、背景干扰和部分遮挡等问题,在空洞卷积操作的基础上,提出一种基于双重注意力机制的空洞上下文卷积神经网络(DA-DCCNN)。首先,将VGG16中的卷积层作为特征提取器,获取人群图像抽象、深层的特征图;其次,利用空洞卷积构造空洞上下文模块(DCM)对不同层获取的特征进行连接,并引入空间注意力模块(SAM)和通道注意力模块(CAM)获取上下文信息;最后,组合欧氏距离和交叉熵构造损失函数,对网络预测注意力图和真实注意力图之间的差异进行度量。在ShanghaiTech、UCF_CC_50和UCF-QNRF 3个公开数据集上的实验结果表明,DA-DCCNN在有效获取图像的多尺度特征的同时,增强了对图像中重要区域和通道的感知能力,平均绝对误差(MAE)取得了相对最优的结果。基于双重注意力机制的特征融合网络能有效感知图像中的空间结构和局部特征,从而使得生成的密度图能更准确地对人群区域进行预测和计数。
可见光与热红外跟踪(又称RGBT(RGB-Thermal)跟踪)的核心是有效地利用不同模态的信息,针对决策级融合中单分支产生低质结果影响算法判定目标的问题,提出一个用于RGBT跟踪的孪生混合信息融合算法SiamMIF。首先,使用孪生主干网络(SBN)进行多模态特征提取;其次,从信噪比的角度分析低质图像对双分支并行决策产生的影响,进而设计了一个信噪比驱动的信息交互模块(IIM)对低信噪比特征进行信息互补;再次,利用双流无锚跟踪头(ADH)对补偿后的特征进行分类回归;最后,采用自适应轻量决策模块(ALDM)对跟踪结果进行融合,并快速判定目标位置。在4个RGBT基准数据集GTOT、RGBT234、VOT-RGBT2019和LasHeR上的实验结果表明,所提算法在LasHeR数据集上的成功率和精确度分别为0.396和0.518,相较于APFNet(Attribute-based Progressive Fusion Network)提升9.4%和3.6%,在其他3个数据集上也能取得较好结果,且在GPU上的帧率能达到40 frame/s。
由于自身特征较小以及网络的深度造成特征丢失等客观原因,小目标的检测一直是目标检测领域的难点问题。针对以上问题,提出基于网络结构进行多次特征增强以优化小目标检测的模型。首先,替换主干网络中的空间金字塔池化(SPP)以优化梯度计算;其次,对网络颈部实行区分特征级别的多级双向融合,并对输出头添加自适应特征融合(AFF)模块,以实现多级的特征增强。实验结果表明,在COCO2017-val数据集上,当交并比(IoU)为0.5时,所提模型的平均精度均值达到61.4%,与目前较流行的YOLOv7模型相比提高了4.7个百分点,同时在单GPU上模型的检测帧率为78.2 frame/s,满足工业检测速度要求。
针对数量庞大的变异体导致高昂变异测试代价的问题,提出一种基于程序依赖关系的变异体生成(PDMG)策略,选择满足一定约束条件的变异实施对象用于变异体生成。首先,基于数据依赖和控制依赖生成程序依赖图;其次,基于变异对象选择策略和程序依赖图选择被依赖语句作为变异对象;最后,对选择的变异对象注入变异算子生成变异体。将所提策略用于8个基准测试程序的变异测试。实验结果表明,与随机选择(RS)和变异算子选择(MOS)策略相比,PDMG策略在不降低变异测试有效性的前提下,平均减少了52.20%的变异体,提高了变异测试的执行效率。
为有效控制终端直通(D2D)通信系统中的同频干扰并降低它的实现复杂度,提出一种基于图卷积网络(GCN)的分布式功率控制算法,旨在最大化所有D2D链路的加权和速率。首先将系统拓扑结构建模为图模型并定义节点和边的特征以及消息传递方式,随后借助无监督学习模型训练GCN中的模型参数。离线训练后,每条D2D链路可根据局部信道状态信息以及与相邻节点的交互过程来分布式地得到最佳功率控制策略。实验结果表明,相较于基于优化理论的算法,所提算法缩短了97.41%的运算时间且仅损失了3.409%的加权和速率;相较于基于深度强化学习理论的算法,所提算法具有良好的泛化能力,在不同参数设置下表现更加稳定。
LoRa(Long Range radio)系统在当前不断发展的低功率广域网(LPWAN)中处于相对领先地位。它的MAC层采用的是基于ALOHA的接入协议。该接入机制虽然简单易实现,但同时也容易加剧冲突和碰撞的发生,降低整个系统的通信性能。因此,需要研究多个终端同时占用信道资源时的相互干扰情况,而LoRa信号的扩频因子(SF)将决定信号的通信覆盖范围。因此,分析了干扰信号的SF与发送信号的SF相同以及不同时,干扰信号对发送信号解调性能的影响。实验结果表明,相同SF信号间的干扰影响相对较大,而干扰信号使用的SF与发送信号不同时,干扰的影响相对较小。通过理论分析,获得了接收端正确解调时所要求的信干比(SIR)。可见,不同SF的LoRa信号可看作伪正交。
阻尼最小二乘法(DLS)与遗传算法(GA)均适用于光学系统自动设计,前者搜索效率高但极易陷入局部极值陷阱,后者光学结构参数空间全局搜索能力强但局部搜索能力弱。针对上述问题,提出一种可校正强化搜索GA(CRSGA)。该算法在GA基础上进行了两方面的改进:首先,在GA交叉算子后,引入DLS增强局部搜索能力;其次,引入校正策略,即在下轮迭代前按比例回滚进化后评价函数值变差的个体以校正进化结果。选取双高斯(DG)、反远摄(RT)和有限共轭距成像(FCDI)这3种典型光学系统设计实验以验证CRSGA的有效性,CRSGA优化效果优于DLS、GA,且依次优于商业光学设计软件Zemax阻尼最小二乘法约8.92%、12.19%和9.39%,特别是优化结果分别达到Zemax HAMMER算法的99.98%、94.33%和88.45%。实验结果表明,所提算法对光学系统优化效果良好,可用于光学系统自动设计工作。
为了降低花朵授粉算法(FPA)重复探索的情况,并提高算法的种群多样性和空间搜索能力,提出一种基于神经网络优化的花朵授粉算法(NNFPA)。设定自适应控制因子,从而动态地切换全局与局部搜索;利用多方信息的全局搜索策略提高算法收敛速度并维持花粉种群的多样性,同时减少在算法迭代后期种群对社会属性的依赖;基于神经网络的局部搜索策略让算法具有记忆功能,这样算法就能具有稳定搜索策略,从而降低算法的不确定性,使它能更充分地探索解空间。选取9个常规测试函数与CEC2014测试集中的部分函数进行仿真实验,得到的结果表明:与标准FPA以及变种算法HSFPA(FPA based on Hybrid Strategy)相比,NNFPA在所选测试函数上具有较高的搜索精度和收敛速度。可见NNFPA具有更好的寻优能力。
爬行动物搜索算法(RSA)具有较强的全局探索能力,但开发能力相对薄弱,在迭代后期无法较好地收敛。针对上述问题,综合教与学优化(TLBO)算法、二次插值的天牛须搜索(BAS)算法和透镜成像反向学习策略,提出一种融合多狩猎协调策略的爬行动物搜索算法(MHCS-RSA)。MHCS-RSA保留了RSA包围阶段(全局探索)和狩猎阶段(局部开发)中狩猎合作的位置更新公式,在狩猎阶段,将狩猎协调融合TLBO算法的学习阶段和二次插值的BAS进行位置更新,以增强算法的开发能力和收敛能力;此外,引入透镜成像反向学习策略以增强算法跳出局部最优的能力。在CEC 2020测试函数上的实验结果表明,MHCS-RSA具有良好的寻优能力、收敛能力以及鲁棒性。最后通过对拉力/压力弹簧设计问题和减速器设计问题的求解,进一步验证了MHCS-RSA求解实际问题的有效性。
KLEIN自提出之后经历了截断差分分析、积分分析等攻击,加密结构具有实际安全性,但是由于密钥扩展算法的脆弱性导致了全轮密钥恢复攻击。首先,修改密钥扩展算法,提出一种改进后的算法N-KLEIN;其次,采用in-place方法对S盒进行高效量子电路实现,减小了电路的宽度和深度,提高了量子电路的实现效率;再次,使用LUP分解技术实现混淆操作的量子化;继次,对N-KLEIN进行量子电路设计,提出全轮N-KLEIN的高效量子电路。最后,评估N-KLEIN算法量子实现的资源占用,并与PRESENT、HIGHT等现有的轻量级分组密码的量子实现占用资源进行对比;同时,基于Grover算法对密钥搜索攻击所需要的代价进行深入研究,给出Clifford+T模型下N-KLEIN-{64,80,96}使用Grover算法搜索密钥需要的代价,并评估了N-KLEIN的量子安全性。对比结果表明,N-KLEIN算法量子实现的成本明显较低。
针对计算密集型神经网络在使用张量虚拟机(TVM)算符融合过程中对计算图进行逐层查找导致访问次数过多、内存资源利用率低等问题,提出一种基于图形重写和融合探索的TVM算符融合优化方法。首先,对运算符的映射类型进行分析;其次,基于运算定律对计算图进行重写,简化计算图结构以减少中间结果生成,降低内存资源消耗并提升融合效率;再次,采用融合探索算法寻找融合代价较小的算符优先进行融合,避免数据冗余和寄存器溢出;最后,在CPU上实现神经网络算符融合,并测试融合加速性能。实验结果表明,所提方法可有效减少计算图层数和算符个数,降低访存频率和数据传输量。与TVM算符融合方法相比,所提方法在融合过程中的计算图层数平均减少18%,推理速度平均提升23%,验证了该方法在优化计算图融合过程中的有效性。
目前国内外对于SQLite的加密的研究粒度级别都是文件级别,且采取的都是单一密钥,加密粒度粗、破解难度低。针对SQLite的安全性不足的问题,设计了一个多密钥页级别加密系统。首先,为每一个物理页设置一个独立的页密钥,每个页面独立加解密,并引入密钥文件存放所有页密钥;其次,在内存中引入一个页密钥缓存器KeyCache生成和缓存物理页的页密钥,减少页密钥频繁I/O读写的性能损失;再次,设计了加解密模块Crypto实现物理页的加密和解密功能,Crypto通过KeyCache快速获取页密钥从而提升整个系统的处理性能。将所提系统和典型的SQLCipher等进行对比实验:在读取测试和修改测试中,相较于SQLCipher,所提系统的执行时间平均缩短了1.5%和3.0%,能在安全级别更高的情况下达到更好的性能;而在新增测试和删除测试中,所提系统相较于SQLCipher的性能损失很小,在大幅提升安全级别的情况下性能损失接近。实验结果验证了所提系统的有效性。
大状态的密码S盒能够为对称密码算法提供更好的混淆性,但对大状态S盒的性质评估开销巨大。为高效评估大状态密码S盒的差分性质,提出基于GPU并行计算的大状态密码S盒差分性质评估方法。该方法基于现有的差分均匀度计算方法,针对16比特S盒的差分均匀度和32比特S盒的差分性质,分别设计GPU并行方案,通过优化GPU并行粒度和负载均衡提高了核函数和GPU的执行效率,并缩短了计算时间。测试结果表明,相较于CPU方法和GPU并行方法,所提方法大幅降低了大状态S盒差分性质评估的计算时间,提高了对大状态S盒差分性质的评估效率:对16比特S盒差分均匀度的计算时间为0.3 min;对32比特S盒的单个输入差分的最大输出差分概率计算时间约5 min,对它的差分性质计算时间约2.6 h。
针对联邦空间数据的数据孤岛问题、空间数据索引问题以及发布联邦空间数据存在的隐私问题,提出基于动态四分树的联邦空间数据发布(FSP)方法。首先,在FSP方法的每轮迭代中,服务端把四分树副本共享给该轮中每个客户端,每个客户端利用四分树副本编码自身位置数据,利用Polya分布产生离散噪声在本地扰动编码结果;其次,结合容错学习(LWE)生成本地掩码对噪声结果进行加密;再次,安全聚集端结合该轮迭代中每个客户端的报告值,执行安全聚集与消除掩码操作,然后把聚集结果发送给服务端;最后,服务端结合收集的编码向量与噪声方差自底向上地动态修剪四分树结构。在Beijing、Checkin、NYC和Landmark 4个空间数据集上的实验结果表明,FSP方法在保证客户端隐私的同时,与已有的较好的联邦空间数据发布方法AHH(Adaptive Hierarchical Histograms)相比,在隐私预算为1.8时,FSP的均方误差(MSE)分别降低了3.80%、2.96%、7.51%和14.13%。可见使用FSP方法进行联邦空间数据发布的精度优于同类方法。
针对现有联邦学习模型中存在的本地设备模型梯度泄露、中心化服务器设备可随意退出、全局模型无法抵御恶意用户攻击等问题,提出面向联邦学习的随机验证区块链构建及隐私保护方法。首先,引入可验证哈希函数以随机选举区块链的领导节点,确保节点出块的公平性;其次,设计了验证节点的交叉检测机制防御恶意节点的攻击;最后,基于差分隐私技术训练区块链节点,根据节点对模型的贡献程度构建激励规则进行节点激励,提高联邦学习模型的训练准确率。实验结果表明,所提方法在20%恶意节点的情况下,对于恶意节点的投毒攻击能够达到80%的准确率,相较于Google FL提升了61个百分点,而所提方法在噪声方差为10-3时梯度匹配损失比Google FL提升了14个百分点。可见,相较于Google FL等联邦学习方法,所提方法在提升模型的安全性前提下能够保证良好的精确度,具有更好的安全性和鲁棒性。
现有机器学习方法在面对零日攻击检测时,存在对样本数据过度依赖以及对异常数据不敏感的问题,从而导致入侵检测系统(IDS)难以有效防御零日攻击。因此,提出一种基于Transformer和自适应模糊神经网络推理系统(ANFIS)的混合车联网入侵检测系统。首先,设计了一种数据增强算法,通过先去除噪声再生成的方法解决了数据样本不平衡的问题;其次,将非线性特征交互引入复杂的特征组合,设计了一个特征工程模块;最后,将Transformer的自注意力机制和ANFIS的自适应学习方法相结合,以提高特征表征能力,减少对样本数据的依赖。在CICIDS-2017和UNSW-NB15入侵数据集上将所提系统与Dual-IDS等先进(SOTA)算法进行比较。实验结果表明,对于零日攻击,所提系统在CICIDS-2017入侵数据集上实现了98.64%的检测精确率和98.31%的F1值,在UNSW-NB15入侵数据集上实现了93.07%的检测精确率和92.43%的F1值,验证了所提算法在零日攻击检测方面的高准确性和强泛化能力。
为尽可能防御现有的各种针对人工智能算法(特别是人工神经网络)的攻击方法,同时降低由此带来的额外开销,提出基于样本预处理的藤牌算法。通过切割图像非重要信息部分、邻近像素值统一化和图像放缩3种方法对样本进行预处理,破坏对抗扰动,生成对模型威胁更小的新样本,以确保模型识别的高准确率。实验结果表明,藤牌算法可以在比同类算法开销更小的情况下,防御针对MNIST、CIFAR10数据集和squeezenet1_1、mnasnet1_3、mobilenet_v3_large神经网络模型的对抗攻击,防御后的样本准确率最低可达88.50%;同时在处理干净样本时也不会过多降低样本准确率,防御效果和防御成本都优于FGSM(Fast Gradient Sign Method)和MIM(Momentum Iterative Method)等对比算法。
大型制造企业售后配件的需求分布稀疏、波动性大,需求频率和需求数量不确定性较高,序列呈现出典型的间歇性特点。在实际运维中,配件需求在频率和数量方面存在较大波动,从而产生变化多样的需求模式,而现有间歇性需求预测主要采用单一或静态组合的固定预测模型,难以充分挖掘不同需求模式下需求序列的演化规律,预测精度和稳定性均难以保证。为解决上述问题,提出一种基于需求模式自适应匹配的间歇性需求预测方法,通过动态识别和匹配需求模式提升间歇性序列预测效果。该方法包括两个阶段:在模型训练阶段,首先,根据配件历史需求数据的间歇性特征,将它划分为需求量序列和间隔量序列,并对两类序列分别进行聚类,以捕获每类序列对应的不同需求和间隔模式;其次,建立包含统计学分析模型、浅层机器学习模型及深度学习模型的预测模型库,测试各模型对每种需求模式的预测效果,识别并标记每类需求模式的最优预测模型。在预测阶段,将待预测序列划分为需求量序列和间隔量序列,确定需求模式并匹配最佳预测模型,进而将需求量和间隔量的预测值合并,形成最终预测结果。在美国汽车公司和英国空军的间歇性配件需求数据集上的实验结果表明,所提方法可适用于不同需求模式的配件历史数据,通过自适应匹配需求模式和最优预测模型,有效提升了预测精度。