神经架构搜索(NAS)通过自动化设计神经网络结构,突破传统手动设计的试错局限,显著降低了深度学习模型开发对专业经验的依赖,且大幅提升了模型表现。在众多方法中,可微神经架构搜索(DNAS)借助one-shot框架与梯度下降优化大幅缩短了搜索时间,已成为当前研究的主流方向。然而,现有研究仍缺乏对可微方法及其发展脉络的系统化梳理。为了填补相关空白并为相关研究提供参考,对近年来出现的DNAS方法进行归纳分析。首先,介绍DNAS算法的基本理论和基准数据集,并梳理DNAS的现存挑战;其次,对现有的DNAS算法进行层次化分析;最后,展望DNAS未来的发展方向。
随着信息量的迅速增长,推荐系统在改善用户体验和解决信息过载方面发挥了重要作用。然而,传统推荐方法在数据稀疏性、冷启动问题和模型可解释性方面仍存在局限。为了解决这些问题,提出一种基于全局图数据增强的图对比学习卷积神经网络推荐系统GACL-Rec(Global Augmented Contrastive Learning for Recommendation)。首先,在节点、边和特征层面进行全局增强,以提升模型在稀疏数据下的鲁棒性;其次,设计多粒度图对比学习框架,通过节点级、子图级和全图级的对比学习任务,增强嵌入表示的一致性与判别性。在MovieLens-1M、Amazon-Books等多个公开数据集上的实验结果表明,所提推荐系统在推荐精度、鲁棒性和冷启动场景中的表现优于矩阵分解(MF)与LightGCN等传统模型,在稀疏数据集上的表现尤为突出。此外,通过参数敏感性分析和消融实验结果验证了全局增强和多粒度对比学习机制的有效性。可见,所提模型在解决推荐系统中的典型问题(如数据稀疏和冷启动问题)时具有显著优势。
情感识别是一种让计算机识别和理解人类情感的技术,在众多领域都起着重要的作用,也是人工智能领域重要的发展方向。因此,梳理与归纳基于语音和文本的双模态情感识别的研究现状:首先,分类阐述情感表示空间;其次,按照情感数据库的情感表示空间对这些数据库进行分类,并总结常见的多模态情感数据库;再次,介绍基于语音和文本的双模态情感识别方法,包括特征提取、模态融合和决策分类,重点介绍模态融合方法并将这些方法分为特征级融合、决策级融合、模型级融合和多层次融合这4类;此外,比较和分析一系列语音和文本双模态情感识别方法的结果;最后,介绍情感识别的应用场景、面临的挑战与未来的发展方向。以上旨在对多模态情感识别,尤其是对基于语音和文本的双模态情感识别的相关工作进行分析与总结,并为情感识别提供有价值的参考。
为了解决由于型钢表面缺陷形态多样、微小缺陷众多所带来的检测效率低与检测精度差的问题,提出一种基于可变形卷积与多尺度-密集特征金字塔的型钢表面缺陷检测算法——Steel-YOLOv3。首先,使用可变形卷积代替Darknet53网络部分残差单元的卷积层,从而强化特征提取网络对型钢表面多类型缺陷的特征学习能力;其次,设计了多尺度-密集特征金字塔模块:在原有YOLOv3算法的3层预测尺度上增加1层更浅层的预测尺度,再对多尺度特征图进行跨层密集连接,从而增强对密集微小缺陷的表征能力;最后,针对型钢缺陷尺寸分布特点,使用K-means维度聚类方法优化先验框尺寸并将先验框平均分配到4个对应预测尺度上。实验结果表明:Steel-YOLOv3算法具有89.24%的检测平均精度均值(mAP),与Faster R-CNN(Faster Region-based Convolutional Neural Network)、SSD(Single Shot MultiBox Detector)、YOLOv3和YOLOv5算法相比分别提高了3.51%、26.46%、12.63%和5.71%,且所提算法显著提升了微小剥落缺陷的检出率。另外,所提算法的每秒检测图像数量达到25.62张,满足实时检测的要求,可实际应用于型钢表面缺陷的在线检测。
大语言模型(LLM)是由具有大量参数(通常数十亿个权重或更多)的人工神经网络组成的一类语言模型,使用自监督学习或半监督学习对大量未标记文本进行训练,是当前生成式人工智能(AI)技术的核心。与传统语言模型相比,LLM通过大量的算力、参数和数据支持,展现出更强的语言理解与生成能力,广泛应用于机器翻译、问答系统、对话生成等众多任务中并表现卓越。现有的综述大多侧重于LLM的理论架构与训练方法,对LLM的产业级应用实践及技术生态演进的系统性探讨仍显不足。因此,在介绍LLM的基础架构、训练技术及发展历程的基础上,分析当前通用的LLM关键技术和以LLM为底座的先进融合技术。通过归纳总结现有研究,进一步阐述LLM在实际应用中面临的挑战,包括数据偏差、模型幻觉和计算资源消耗等问题,并对LLM的持续发展趋势进行展望。
针对正则表达式解析招投标网页效率低下的问题,提出了一种基于招投标领域本体的网页自动化解析新方法。首先,分析了招投标网页文本的结构特征;其次,构建了招投标本体的轻量级领域知识模型;最后,给出一种招投标网页元素语义匹配与抽取算法,实现招投标网页的自动化解析。实验结果表明,新方法通过自适应的解析,准确率、召回率分别可达到95.33%、88.29%,与正则表达式方法相比,分别提高了3.98个百分点和3.81个百分点。所提方法可实现自适应地对招投标网页中语义信息的结构化解析抽取,能够较好地满足实用性能要求。
针对纺织品疵点边缘特征弱以及极端长宽比导致检测困难的问题,提出基于YOLOv7的上下文信息多尺度特征融合织物疵点检测算法(CMFFD-YOLO)。首先,采用k均值聚类算法得到适应目标尺寸的更好锚框,并通过迁移学习引入主干权重;然后,重新设计主干网络,添加全局上下文信息(GC)模块,从而充分利用局部和全局上下文的信息增强小目标特征的提取能力;最后,设计一种基于多尺度特征融合网络的通道空间注意力渐近特征金字塔网络(CAFPN),采用渐近融合的方式使不同层次的语义信息联系更紧密,且在融合过程中能提取更多有用信息。在天池和ZJU-Leaper这2个纺织面料瑕疵数据集上的实验结果表明,所提算法的平均精度均值(mAP)分别达到了64.6%和61.7%,相较于原始YOLOv7分别提高了12.5和7.8个百分点,并且模型参数量比原始YOLOv7降低了5.013×106,具有更高的检测速度。可见,所提算法能满足企业织物疵点检测对检测精度和速度的需求。
基于检索增强生成(RAG)的军事领域知识问答系统已经逐渐成为现代情报人员收集和分析情报的重要工具。针对目前RAG方法的应用策略中的混合检索存在可移植性不强以及非必要使用查询改写容易诱发语义漂移的问题,提出一种多策略检索增强生成(MSRAG)方法。首先,根据用户输入的查询特点自适应地匹配检索模型来召回相关文本;其次,利用文本过滤器提取出能够回答问题的关键文本片段;再次,使用文本过滤器进行内容有效性判断以启动基于同义词拓展的查询改写,并将初始查询与改写后的信息合并输入检索控制器以进行更有针对性的再次检索;最后,合并能够回答问题的关键文本片段和问题,并使用提示工程输入生成答案模型来生成响应返回给用户。实验结果表明,MSRAG方法在军事领域数据集(Military)和Medical数据集的ROUGE-L(Recall-Oriented Understudy for Gisting Evaluation Longest common subsequence)指标上相较于凸线性组合RAG方法分别提高了14.35和5.83个百分点。可见,MSRAG方法具备较强的通用性和可移植性,能够缓解非必要查询改写导致的语义漂移现象,有效帮助大模型生成更准确的答案。
睡眠呼吸暂停严重影响生活质量和健康。多导睡眠图(PSG)是诊断睡眠呼吸暂停的“金标准”,然而它的成本高且不便长期监测。基于此,提出一种基于通用运动手环的新方法以便捷地检测睡眠呼吸暂停。该方法通过分析手环采集的心率、血氧饱和度和睡眠状态数据,采用自适应生理数据重构方法和数据插值方法滤除噪声;在特征工程中,融合连续生理变量和类别变量,以深度提取睡眠状态特征;而分类模块采用轻量级门控循环单元(GRU)模型,从而简化训练过程,并降低过拟合风险。实验结果表明,所提方法在23人数据集上获得了93.68%的准确率和93.97%的召回率。相关性分析表明,血氧饱和度、身体质量指数和年龄是判断睡眠呼吸暂停的关键特征。与PSG相比,所提方法更适用于家庭环境下的长期监测。
为了挖掘多模态信息潜在的同构语义关系,并学习更好的项目表示,提出一种语义图增强多模态推荐(SGEMR)算法。首先,利用辅助的多模态信息补充历史的用户-项目交互,捕捉用户在不同模态下的偏好;然后,基于度量学习将松散的项目序列重新构建为紧密的项目-项目语义图,并设计一个语义层级注意力机制,融合项目的多模态信息;同时,提出一个图重构损失函数,使项目表示保留更多的语义关系,从而提高推荐性能。实验结果表明,在3个真实的数据集上与最优基线算法FREEDOM(FREEzes the item-item graph and DenOises the user-item interaction graph simultaneously for Multimodal recommendation)相比,所提算法的Recall@10分别提升了6.70%、11.30%、5.09%,NDCG@10分别提升了9.09%、12.73%、7.62%,并通过多个消融实验,验证了所提算法的有效性。
工业缺陷检测在保障产品质量、提高企业竞争力方面具有极其重要的作用。传统的缺陷检测方法依赖人工检查,成本高且效率低下,难以满足大规模的质量检验需求。近年来,基于视觉的工业缺陷检测技术取得了显著进步,已成为产品外观质量检验的一种高效解决方案。但在许多实际工业场景中,获取大量带有标签的数据非常困难,且对产品检测的人工成本和实时性均有所要求,因此,无监督学习逐渐成为研究的热点。针对该领域任务构建、现行技术、评估标准以及不同方法之间的共性和差异,对相关工作进行综述。首先,明确工业缺陷问题的定义,并从数据难点和任务挑战等多个角度分析该问题的难点;其次,重点介绍基于无监督深度学习的工业缺陷检测主流方法,并对它们进行详细的归纳与分析;再次,介绍常用的公开数据集与评价指标;最后,对工业缺陷检测领域将来的工作进行展望。
为了解决施工场景下安全帽佩戴检测时,由于人员密集、遮挡和复杂背景等原因造成的小目标漏检和错检的问题,提出一种基于YOLOv8n的双重注意力机制的跨层多尺度安全帽佩戴检测算法。首先,设计微小目标检测头,以提高模型对小目标的检测能力;其次,在特征提取网络中嵌入双重注意力机制,从而更加关注复杂场景下目标信息的特征捕获;然后,将特征融合网络替换成重参数化泛化特征金字塔网络(RepGFPN)改进后的跨层多尺度特征融合结构S-GFPN (Selective layer Generalized Feature Pyramid Network),以实现小目标特征层信息和其他特征层的多尺度融合,并建立长期的依赖关系,从而抑制背景信息的干扰;最后,采用MPDIOU(Intersection Over Union with Minimum Point Distance)损失函数来解决尺度变化不敏感的问题。在公开数据集GDUT-HWD上的实验结果表明,改进后的模型比YOLOv8n的mAP@0.5提升了3.4个百分点,对蓝色、黄色、白色和红色安全帽的检测精度分别提升了2.0、1.1、4.6和9.1个百分点,在密集、遮挡、小目标、反光和黑暗这5类复杂场景下的可视化检测效果也优于YOLOv8n,为实际施工场景中安全帽佩戴检测提供了一种有效方法。
针对现有故障根因分析方法因果关系丢失、在复杂环境中分析效率低下以及缺乏对于非机器指标故障类型分析能力的问题,提出一种基于因果干预的微服务系统故障根因分析(CIMF-RCA)方法。首先,利用马尔可夫假设和调用模式对调用链和微服务进行筛选,从而缩减干预识别的搜索空间并提高故障根因分析方法在复杂环境中的效率;其次,通过解析并融合非结构化的日志数据,实现机器指标数据和日志数据的联合分析;最后,引入因果贝叶斯网络(CBN)和干预数据,提出一种改进的干预识别算法及分治的故障根因分析方式。在大规模微服务基准平台Train-Ticket上进行实验的结果表明,对比表现最优的根本原因发现(RCD)方法,所提CIMF-RCA方法的Top-5平均准确率提高了26.33个百分点,所需时间减少了41.61%;而在RCD无法识别的非机器指标故障类型中,所提方法的Top-5准确率达到了77.00%。可见,所提方法能有效地分析微服务系统中的故障根因。
零样本知识图谱关系预测任务旨在根据知识图谱已有的事实三元组推理预测包含未见关系的事实三元组。已有方法大多仅考虑关系的文本信息和图结构信息,而未充分利用实体的描述信息;针对关系的文本信息仅依赖于数据集本身的文本描述,难以捕捉关系的详细语义与知识图谱三元组整体的语义信息。为解决上述问题,本文提出一种基于双通道嵌入融合的零样本知识图谱关系预测方法。首先,使用结构编码器和语义编码器分别生成三元组实体部分的结构特征与语义特征;其次,通过双通道实体多模态信息融合模块融合得到的特征,同时利用大语言模型(LLM)的文本生成能力生成关系文本语义增强后的描述信息;再次,经过训练,语义增强后的语义特征与实体的多模态特征在向量空间中满足语义一致性;最后,针对零样本关系,根据语义增强后的文本描述信息完成零样本知识图谱关系预测。在两个真实数据集上的实验结果表明,相较于最优基线模型,在NELL_ZS数据集上,所提方法的平均倒数排名(MRR)、Hit@1、Hit@5和Hit@10分别提高了8.7、7.2、9.5和11.2个百分点;在WN18RR_ZSL数据集上,所提方法的MRR、Hit@1、Hit@5和Hit@10分别提高了6.6、9.2、3.9和0.8个百分点,验证了所提方法的有效性。