由于背景噪声、混响以及人声干扰等因素,远场语音识别任务一直充满挑战性。该文针对远场语音识别任务,提出基于注意力机制和多任务学习框架的长短时记忆递归神经网络(long short-term memory,LSTM)声学模型。模型中嵌入的注意力机制使其自动学习调整对扩展上下文特征输入的关注度,显著提升了模型对远场语音的建模能力。为进一步提高模型的鲁棒性,引入多任务学习框架,使其联合预测声学状态和干净特征。AMI数据集上的实验结果表明:与基线模型相比,引入注意力机制和多任务学习框架的LSTM模型获得了1.5%的

商品在线评论中存在着大量的比较语句,其中蕴涵着用户对不同商品或服务的体验及评价。通过挖掘评论文本中的比较信息,能够帮助企业洞察产品的市场竞争力。本文关注中文评论中的比较句识别任务,摒弃了先前研究中经常采用的模式识别方法,提出基于深度学习方法的层次多注意力网络模型。该模型获得了较好的识别精度,优于传统的分类模型和常见的深度学习文本分类模型,F1分数达到81%。本文提出的层次多注意力网络模型是端到端的,缩减了大量人工干预,有效简化了比较评论识别的工作量。

得益于互联网的快速发展和数据收集技术的进步，社交网络文本为投资者文本情绪的度量提供了新渠道。目前，关于文本情绪分析的研究主要基于单个文本，而基于单位时间内多文本和多用户相融合的研究较少。文章将多文本信息、用户社交信息与情绪时间序列相结合，提出时间和用户双重注意力机制下长短期记忆网络（LSTM）模型，对投资者文本情绪度量指标进行分类和预测。采用该模型对来自东方财富网行业吧的真实数据进行实证分析，并同词汇分类字典法和时间注意力机制下的LSTM进行比较，证明了所提模型的有效性。

【目的】针对物候期识别传统方法特征提取不充分、未对关键特征进行区分,导致方法泛化能力较差、迁移应用识别精度低的问题,本研究将注意力机制引入残差神经网络,结合基于数字照相的物候观测方式,提出具有较强细粒度特征识别能力且实用性较强的林木物候期识别方法,从而为林木的长期实时物候监测提供技术支撑。【方法】以PhenoCam中的栎林及槭林像片为研究材料,选取2017—2018年的数据作为训练集,以2019年的数据评价模型的泛化能力。研究结合实地观测数据对研究区的林木物候期进行划分,设计数据裁剪公式,在增强数据的同时均衡各个物候期数据的数量。研究基于ResNet50残差神经网络设计了深度学习模型,针对林木物候期差异较小的特性引入了注意力机制,注意力模块在通道及空间维度对神经网络提取的特征进行再处理,提升了模型对细粒度图像差异的识别能力。【结果】注意力机制的引入有效提升了模型的泛化能力,增强了模型对易混淆物候期的识别能力,在未参与训练的19年数据集的栎林物候期识别取得了90.58%的准确率,槭林物候期识别准确率为89.27%,较引入前模型准确率在两个研究区分别提升21.86%与13.15%,优于传统AlexNet和HOG-SVM方法。【结论】基于残差注意力网络的林木物候期识别方法较好解决了原有方法泛化能力较差的问题,该方法具有准确度高、迁移应用能力强等优势,能对易混淆的林木物候期进行精准区分,适用于林木物候的长期观测。

[目的/意义]许多现有研究依赖于专利数据来识别颠覆性技术，但这些方法在专利文本的主题聚类分析方面仍有进一步优化的潜力。[方法/过程]通过构建基于新闻影响力增强的图注意力网络，以及自适应分配注意力权重，有效捕捉和充分利用技术主题词共现网络节点关系，在生成有代表性的节点向量后再进行专利文本主题聚类分析，可以进一步辅助识别潜在的颠覆性技术。[结果/结论 ]为进一步验证方法的有效性，选择智慧城市和工业互联网两个新兴技术领域进行实证检验。理论和实证分析显示，这种融合新闻影响力的图注意力网络聚类方法可以进一步丰富当前有关颠覆性技术识别的方法体系。

刀具磨损是影响数控机床加工质量和加工效率的重要因素之一。针对现有铣刀磨损预测中信号单一和预测精度不足的问题，提出了一种基于注意力机制的堆叠LSTM (long short-term memory，长短期记忆网络)的多传感器信息融合刀具磨损预测方法。对多传感器信号进行预处理，然后提取多域特征，利用核主成分分析法对其进行特征级信息融合，得到后续网络的输入。采用基于注意力机制的堆叠LSTM网络模型，使得网络能够自适应地学习数据的重要信息，在PHM2010的数据集上预测精度达到99.9%。通过与其他算法的对比试验和加入人工噪声的方法，验证了本文所提出的模型的高精度和鲁棒性。

在信息接收过程中,注意力"瓶颈"对获取的信息集施加选择约束和配置约束,信息集的注意力主观资源决定性使决策者预期偏差化,行动空间和状态空间模糊化,进而影响了经济行为。在信息-注意力-决策-新信息的决策链中,注意力已成为关键一环。在决策框架下,借助于集合论知识来分析注意力何以影响经济行为和怎样影响经济行为的。从规范和实证两个角度论述注意力与经济行为的关系,揭示信息接收"注意黑箱"。

在线学习的效果一直是学界关注的热点问题，学生的注意力是教学内容得以传达的基本保证之一。在职学生的学情与一般学生存在明显差异，有必要专门探讨。基于针对教师、学生的访谈和课堂录像，运用扎根理论对在职学生在直播、录播、慕课、微课中的注意力现象开展实证研究，提出在职学生在线学习的注意力驱动机制模型。学习动机是在线学习注意力的主要内驱力，任务机制下的师生互动和“自组织”同伴学习等策略是提高学生注意力的核心手段，课程安排、技术平台、教学团队对在线教学有支撑作用。在线学习注意力提升的关键在于对学习动机的激发、对“距离感”的消解、对课程情境的建构。建议参照这些注意力驱动机制，多策并举提升在职学生在线学习的效果。

【目的】田间水稻害虫识别是精确防治水稻害虫的重要前提。由于水稻害虫种类多，同种害虫形状大小、颜色、分布变化多样，且田间环境背景复杂，使得传统方法与基于卷积神经网络的方法识别准确率较低。【方法】针对现有方法对位置、姿势多变的水稻害虫识别准确率低等问题，在胶囊网络（Capsule Network， CapsNet）的基础上，提出一种基于多尺度双路注意力胶囊网络（Multi-scale Dual-path Attention Capsule Network ， MDACapsNet）的水稻害虫识别方法。MDACapsNet由编码模块、重构模块与分类模块组成。在MDACapsNet编码模块中，多尺度双路注意力模块与局部共享动态路由算法用于提高网络的特征提取能力并降低网络计算量；在MDACapsNet的损失函数中增加重构图像损失项，加速网络训练。【结果】在复杂背景下的水稻害虫图像数据集进行实验，识别准确率为95.31%。与VGG16、CapsNet、ResNet相比较，MDACapsNet的识别准确率分别提高5.47%、19.83%、2.83%。【结论】MDACapsNet能较好地识别大小不同、背景复杂、姿势多样的水稻害虫，可应用于田间水稻害虫自动检测系统中。

【目的】智能虫情测报灯诱捕到的农业害虫因种类繁多、虫体姿态多样、鳞片脱落等原因造成有些害虫图像存在种间相似和种内差异的现象。为了提高农业灯诱害虫识别率,针对YOLOv4检测模型检测到且容易混淆的19种灯诱害虫,本文提出了基于双线性注意力网络的农业灯诱害虫细粒度图像识别模型。【方法】首先,根据灯诱害虫外观图像的相似性和检测误检的情况,将19种害虫分为6类;将所有害虫图像通过补边操作使得长宽相等,并缩放至统一尺寸224×224像素。为了提高模型的鲁棒性和泛化能力,对害虫图像进行镜像翻转、旋转180度、高斯噪声和均值滤波的数据增强,训练集、验证集和测试集样本量按照8﹕1﹕1比例划分。然后,针对6类19种农业灯诱害虫细粒度图像,建立了基于双线性注意力网络的农业灯诱害虫识别模型(bilinear-attention pest net,BAPest-net),模型包括双线性特征提取、注意力机制和分类识别3个模块;通过修改特征提取模块的下采样方式提高特征提取能力;添加注意力机制模块让整个模型更关注于局部细节的特征,将双线性结构中的上下两个注意力机制的输出进行外积运算增加细粒度特征的权重,提高识别的准确性和学习效率;模型优化器使用随机梯度下降法SGD,分类模块中使用全局平均池化,旨在对整个网络从结构上做正则化防止过拟合。最后,在同一个训练集训练VGG19、Densenet、ResNet50、BCNN和BAPest-net 5个模型,对6类相似的19种农业灯诱害虫进行识别,以精准率、Precision-Recall(PR)曲线和平均识别率作为模型的评价指标。【结果】BAPest-net对6类相似的19种农业灯诱害虫平均识别率最高,达到94.9%;BCNN次之,为90.2%;VGG19模型最低,为82.1%。BAPest-net识别的6类害虫中4类鳞翅目害虫的平均识别率均大于95%,表明该模型能较好地识别出鳞翅目害虫。测试结果中仍存在少数相似度较高的害虫误判,特别当害虫腹部朝上或侧身,种类特征不够明显的时候容易引起相似害虫的误判。对于区分度较低的相似害虫需要更多的训练样本以获取更多的特征,提高模型的识别率和泛化能力。【结论】基于双线性注意力网络的农业灯诱害虫细粒度图像识别模型可以自动识别6类相似的19种农业灯诱害虫,提高了农业灯诱害虫自动识别的准确率。

[目的]针对育肥猪采食行为识别误差大、检测速度慢等问题，提出一种具有轻量化结构的育肥猪采食行为检测模型，实现对育肥猪采食行为的快速检测与采食时长统计。[方法]以YOLO v5L目标检测算法为基础，构建侧视视角下的猪只采食行为检测模型。对比更换不同轻量化主干网络后对模型检测效果的影响，选取性能最优的模型；改进ShuffleNet V2网络结构基本单元，采用Mish激活函数提高模型泛化能力与推理速度，引入SE注意力机制给予目标特征更高的权重以提高目标识别精度；对比模型增加非营养性访问行为检测前、后的采食行为识别准确率。[结果]优化后的育肥猪采食行为检测模型大小为38.2 MB，计算量为37.8 GFLOPs，视频检测平均帧耗时7.6 ms。与非营养性访问行为进行区分识别后，猪只采食行为检测识别准确率为96.4%，召回率为92.5%。模型检测采食时长与人工统计采食时长相对误差为6.1%。[结论] 改进的YOLO v5L-ShuffleNet网络模型检测速度和模型大小均能满足实际生产需求，可在复杂养殖环境中全天候识别育肥猪采食行为。

针对真实复杂背景下小样本水稻害虫识别模型泛化能力弱,易受复杂背景干扰以及重要特征表达能力不强等问题,提出了一种基于卷积块注意力胶囊网络的小样本水稻害虫识别方法。采用数据增强的方法扩充数据,以提高模型的泛化能力同时预防过拟合;利用GrabCut算法去除图像中的复杂背景,减小复杂背景对水稻害虫识别的干扰;将空间注意机制和通道注意机制相结合的卷积块注意模块(Convolutional block attention module,CBAM)引入到胶囊网络中,提高模型对水稻害虫特征的表达能力,使模型关注重要特征,抑制不必要的特征。其中胶囊网络主要用来更加敏锐地发现小样本图像中水稻害虫的相对位置和角度等信息。结果表明:在对复杂背景下小样本水稻害虫的识别时,本研究方法准确识别率达99.19%,优于支持向量机(Support vector machine,SVM)、k近邻(k-nearest neighbors,kNN)等浅层网络方法,也优于VGG16、GoogLeNet以及Mobilenet等深度网络方法,可实现复杂背景下的小样本水稻害虫的准确识别。

该文从新经济的特点出发,明确指出新经济“新”就新在它已经不是依赖于传统的资源,而主要是利用了人们的注意力资源;提出了新经济与注意力资源四个方面的相互关系。

作为一种特殊商品 ,注意力具有其价值和使用价值。这种可以量化的概念价值 ,因乘数效应的作用 ,能得到高度膨胀 ,产生正向或负向的倍增效应。