【目的】遥感图像分类技术在森林资源调查、生态工程规划以及森林病虫害防控等林业监测业务中,扮演着至关重要的角色。通过引入自注意力模块增强卷积网络对遥感图像的特征刻画能力,以期提高遥感图像的分类效果。【方法】该文提出了一种融合自注意力机制和残差卷积网络的遥感图像分类方法,首先利用卷积神经网络提取丰富的深度纹理语义特征,然后在卷积网络的最后3个瓶颈层嵌入多头自注意力模块,挖掘遥感图像复杂的全局结构信息。嵌入自注意力模块的卷积分类网络,能够有效提升遥感图像的分类精确度。该研究使用RSSCN7、EuroSAT与PatternNet 3个公开的遥感图像数据集,基于Pytorch深度学习库训练与测试该方法,并增加与已有分类框架算法精度和性能的对比试验。同时,使用不同批次、不同数量大小的数据训练改进研究提出的方法,并测试分类效果。【结果】试验得出,该研究提出的方法在3个遥感分类数据集上的平均识别率分别达到了91.30%、97.88%和97.37%,其中在前两个数据集上较现有的基于深度卷积网络的算法分别提升了2.26%和3.73%。同时,该算法的总参数量为2.08×10~7,较现有参数量最低的方法减少了5.2×10~6。【结论】相比已有的遥感图像分类框架,该研究提出的方法能够在图形处理器(GPU)加速的环境中,取得更为准确的分类效果。同时有效减少了模型的参数量,提高了算法执行的效率,便于后续的实际应用部署。

针对真实复杂背景下小样本水稻害虫识别模型泛化能力弱,易受复杂背景干扰以及重要特征表达能力不强等问题,提出了一种基于卷积块注意力胶囊网络的小样本水稻害虫识别方法。采用数据增强的方法扩充数据,以提高模型的泛化能力同时预防过拟合;利用GrabCut算法去除图像中的复杂背景,减小复杂背景对水稻害虫识别的干扰;将空间注意机制和通道注意机制相结合的卷积块注意模块(Convolutional block attention module,CBAM)引入到胶囊网络中,提高模型对水稻害虫特征的表达能力,使模型关注重要特征,抑制不必要的特征。其中胶囊网络主要用来更加敏锐地发现小样本图像中水稻害虫的相对位置和角度等信息。结果表明:在对复杂背景下小样本水稻害虫的识别时,本研究方法准确识别率达99.19%,优于支持向量机(Support vector machine,SVM)、k近邻(k-nearest neighbors,kNN)等浅层网络方法,也优于VGG16、GoogLeNet以及Mobilenet等深度网络方法,可实现复杂背景下的小样本水稻害虫的准确识别。

【目的】近年来,越来越多高时间分辨率、高空间分辨率卫星相继出现,为我们的生产生活提供了很大的便利,如何利用好这些数据庞大、信息丰富的遥感影像一直以来都是国内外研究的热点问题。其中遥感影像的分类是将大量的遥感影像应用于各个领域的基础,针对传统方法对于高分辨率影像分类精度提高难的问题,提出一种面向对象结合卷积神经网络的遥感分类方法。【方法】首先利用构建moran’s I指数与地理探测器q统计量的二维空间的方法,确定最佳分割尺度,以最大面积法确定均质因子权重,对预处理后的GF-1影像进行分割,利用分割后的对象的特征作为分类模型的输入变量,建立一维卷积神经网络(1D-CNN)的分类模型,构建了基于像元的支持向量机,面向对象的支持向量机分类模型,对研究区进行了分类。【结果】利用面向对象的一维卷积神经网络方法进行分类,分类结果总体精度为93.10%,Kappa系数为0.916 7,同基于像元支持向量机方法相比,总体精度提高了24.35%,Kappa系数提高了0.292 3;同面向对象的支持向量机方法相比,总体精度提高了6.2%,Kappa系数提高了0.074 6。【结论】利用构建的moran’s I指数与地理探测器q统计量的二维空间和最大面积法确定最佳分割参数,建立一维卷积神经网络结合面向对象的方法对遥感影像进行分类,与传统模型相比得到的分类结果精度较高,是一种快速有效的分类方法。

为对农用地（耕地）遥感影像中道路和农田信息进行精确高效的提取，采用卷积神经网络（CNN）的方法，以河北省献县某乡冬小麦种植田为研究区，建立“道路-背景”和“农田-背景”2个高精度遥感影像数据集，构建基于MobileNet v1的U-Net、SegNet、PSPNet、DeepLab v3+和基于MobileNet v2的DeepLab v3+共5种CNN语义分割模型，进行道路和农田提取试验；在模型训练前后加入迁移学习、图像拼接和模型融合3种策略。结果表明：1）在2个数据集上，基于MobileNet v1的U-Net和基于MobileNet v1的SegNet 2种模型的识别率和稳定性最佳；2）在提取道路和农田时，融合后模型的平均交并比值分别为0.853 3和0.956 8;3）对预测图进行后处理，可以为路径规划和作物秸秆产量计算等研究提供道路拓扑图和农田预测图。

针对基于卷积神经网络的图像识别采用随机初始化网络权值的方法易收敛到局部最优值的问题,该文提出了一种结合无监督和有监督学习的网络权值预训练算法。融合零成分分析白化与深度信念网络预学习得到的特征,对卷积神经网络权值进行初始化;通过卷积、池化等操作,对训练样本进行特征提取并使用全连接网络对特征进行分类;计算分类损失函数并优化网络参数。在公开图像数据库中进行了大量实验,与公开最佳算法比较,该算法在MNIST中的识别错误率降低了0.1%,在Caltech101中的分类准确率提升了0.56%,验证了该算法优于现有算法。

大数据时代,深度学习算法的不断完善丰富了量化投资领域的分析方法,在众多量化投资策略中,多因子选股策略因其稳定的收益而备受投资者青睐。本文借助Tushare Pro金融大数据平台和聚宽量化交易平台,选取2009年10月至2019年3月沪深300各成分股日度数据作为研究对象,全面选取行情类、财务类、技术类和投资者情绪类四个类别共117个因子构建初始因子池,利用集成思想综合计算Pearson相关系数、距离相关系数、基于AIC准则的Elastic Net、基于BIC准则的Elastic Net、随机森林和GBDT共六个模型对于各个因子的重要性进行评分,筛选出68个因子;运用自注意力神经网络模型,通过过去60个交易日的因子数据,预测各成分股未来一个月的价格变动趋势,按上涨概率大小选取出前50只股票按等权重的资金分配方式构建投资组合,以月为周期进行投资组合的更新。实证结果表明,该投资策略相比于沪深300指数具有更高的收益和较低的风险。

文本序列中各单词的重要程度及其之间的依赖关系对于识别文本类别有重要影响。胶囊网络不能选择性关注文本中重要单词,并且由于不能编码远距离依赖关系,在识别具有语义转折的文本时有很大局限性。为解决上述问题,该文提出了一种基于多头注意力的胶囊网络模型,该模型能编码单词间的依赖关系、捕获文本中重要单词,并对文本语义编码,从而有效提高了文本分类任务的效果。结果表明:该文模型在文本分类任务中效果明显优于卷积神经网络和胶囊网络,在多标签文本分类任务上效果更优,能更好地从注意力中获益。

【目的】智能虫情测报灯诱捕到的农业害虫因种类繁多、虫体姿态多样、鳞片脱落等原因造成有些害虫图像存在种间相似和种内差异的现象。为了提高农业灯诱害虫识别率,针对YOLOv4检测模型检测到且容易混淆的19种灯诱害虫,本文提出了基于双线性注意力网络的农业灯诱害虫细粒度图像识别模型。【方法】首先,根据灯诱害虫外观图像的相似性和检测误检的情况,将19种害虫分为6类;将所有害虫图像通过补边操作使得长宽相等,并缩放至统一尺寸224×224像素。为了提高模型的鲁棒性和泛化能力,对害虫图像进行镜像翻转、旋转180度、高斯噪声和均值滤波的数据增强,训练集、验证集和测试集样本量按照8﹕1﹕1比例划分。然后,针对6类19种农业灯诱害虫细粒度图像,建立了基于双线性注意力网络的农业灯诱害虫识别模型(bilinear-attention pest net,BAPest-net),模型包括双线性特征提取、注意力机制和分类识别3个模块;通过修改特征提取模块的下采样方式提高特征提取能力;添加注意力机制模块让整个模型更关注于局部细节的特征,将双线性结构中的上下两个注意力机制的输出进行外积运算增加细粒度特征的权重,提高识别的准确性和学习效率;模型优化器使用随机梯度下降法SGD,分类模块中使用全局平均池化,旨在对整个网络从结构上做正则化防止过拟合。最后,在同一个训练集训练VGG19、Densenet、ResNet50、BCNN和BAPest-net 5个模型,对6类相似的19种农业灯诱害虫进行识别,以精准率、Precision-Recall(PR)曲线和平均识别率作为模型的评价指标。【结果】BAPest-net对6类相似的19种农业灯诱害虫平均识别率最高,达到94.9%;BCNN次之,为90.2%;VGG19模型最低,为82.1%。BAPest-net识别的6类害虫中4类鳞翅目害虫的平均识别率均大于95%,表明该模型能较好地识别出鳞翅目害虫。测试结果中仍存在少数相似度较高的害虫误判,特别当害虫腹部朝上或侧身,种类特征不够明显的时候容易引起相似害虫的误判。对于区分度较低的相似害虫需要更多的训练样本以获取更多的特征,提高模型的识别率和泛化能力。【结论】基于双线性注意力网络的农业灯诱害虫细粒度图像识别模型可以自动识别6类相似的19种农业灯诱害虫,提高了农业灯诱害虫自动识别的准确率。

[目的/意义]当前社交媒体中的虚假、劣质信息层出不穷，极大地干扰了正常的网络公共秩序。对发布异常信息、呈现异常行为的异常用户进行预测治理，能够有效实现网络公共空间的正本清源。[方法/过程]在既有研究的基础上，本文融合用户个体特征、行为、关系、文本主题和情感特征，构建社交媒体异常用户特征体系，并利用图注意力网络构建异常用户分类预测模型。[结果/结论]本文所构建的社交媒体异常用户特征体系具备完整性和普适性，且异常用户预测模型的分类准确率达到92.8%。相比其他分类模型，本文所构建的图注意力预测模型能够有效识别社交媒体中的异常用户。此外，关系特征、主题特征以及用户注册时间对预测异常用户的贡献度较高，在体征体系中具有较高的重要性。

既要了解受众注意的内容和方式，更要对传播的内容和接受方式进行价值倾向的引导。充分发挥群体的影响力和感召力，发现和整合受众的政治态度和政治倾向。有意识、有目的地干预受众心理倾向，在其注意力形成的源头把好关。

在对标准BP神经网络试验分析的基础上,通过输入矢量归一化处理、主成分分析、增加验证集、改进训练学习算法、扩大隐层和输出层规模等措施,对BP神经网络自动分类系统进行改进;利用改进后的BP系统对吉林省汪清林业局的典型针阔混交林TM遥感图像进行辩识、分类试验研究。结果表明:改进后的BP网络分类系统自动分类精度提高了19·14%,比传统无监督自动分类精度提高8·55%,达到了区分森林类型的分类要求。研究还显示了该改进系统应用于针阔混交林TM遥感图像自动分类识别的精度随网络规模增大而提高。

应用人工神经网络模型对陆地卫星TM多光谱图像进行了森林植被分类的研究 ,共选取了 8种主要植被类型 ,重点是研究在不同背景条件下存在同谱异物现象的云杉、油松和落叶松等针叶林树种的分类方法 .所采用的网络模型为 3层误差后向传播神经网络模型 ,鉴于贺兰山自然植被垂直带谱明显 ,利用误差后向传播网络模型的并行分布式结构 ,研究中引入高程数据作为一个独立波段与 3个多光谱波段一起直接进行分类 ,取得了很好效果 .该方法与常规的最大似然法相比 ,存在同谱异物现象的云杉、油松和落叶松的分类精度平均提高了 2 7 5个百分点 .对存在同物异谱现象的阔叶林的分类精度也有一定程度的提高 .

本文基于卷积神经网络构建了微博舆情情感分类模型,通过爬虫方式获取微博话题数据,利用word2vec训练词向量,采用NLPIR/ICTCLAS2016工具进行分词,进而通过Matlab编程实现模型训练和测试。结果表明,模型能够实现有效的微博舆情情感分类,相较传统机器学习具有一定的优越性。

人工智能技术的蓬勃发展,驱动着文献自动分类由基于规则的分类向基于机器学习的方向发展。文章在对深度学习概述的基础上,将卷积神经网络引入到了文献自动分类,构建了基于题名、关键词的多层次卷积神经网络模型,使之能够根据文献的题名和关键词自动给出中图分类号。通过在Tensor Flow平台上的深度学习模型,利用《全国报刊索引》约170万条记录进行模型训练,并对7000多篇待加工的文献做中图法分类预测,其在生产情况下一级分类准确率为75.39%,四级准确率为57.61%。当置信度为0.9时,一级正确率为43.98%,

在信息接收过程中,注意力"瓶颈"对获取的信息集施加选择约束和配置约束,信息集的注意力主观资源决定性使决策者预期偏差化,行动空间和状态空间模糊化,进而影响了经济行为。在信息-注意力-决策-新信息的决策链中,注意力已成为关键一环。在决策框架下,借助于集合论知识来分析注意力何以影响经济行为和怎样影响经济行为的。从规范和实证两个角度论述注意力与经济行为的关系,揭示信息接收"注意黑箱"。