为了优化网络化飞行训练下通用教练机(初级、中级、高级)机队配置以降低机队训练成本,将网络化训练下多训练基地、多执照阶段的航空驾驶员培训过程抽象为一个带权有向网络图,通过综合考虑航空驾驶学员总人数限制和流动平衡条件,教练机机队可用飞行时间限制,以及各类通用教练机在训练基地的最少投放飞机数限制等因素,构建以通用教练机机队训练成本最小化为目标函数的机队配置优化数学模型。针对"3个训练基地,一个训练周期培养1 000名航线驾驶员"的案例,仿真结果表明,与飞行航校现有普遍的训练模式相比,该模型能够在培训同等航空驾驶学员数量基础上将3个训练基地所配置的通用教练机机型数量分别降至2种、1种和2种,且将机队训练总成本降低2.7%。研究结果表明,网络化训练模式能够减少训练基地配置的教练机机型数量,并显著降低机队训练总成本。

为了优化网络化飞行训练下通用教练机(初级、中级、高级)机队配置以降低机队训练成本,将网络化训练下多训练基地、多执照阶段的航空驾驶员培训过程抽象为一个带权有向网络图,通过综合考虑航空驾驶学员总人数限制和流动平衡条件,教练机机队可用飞行时间限制,以及各类通用教练机在训练基地的最少投放飞机数限制等因素,构建以通用教练机机队训练成本最小化为目标函数的机队配置优化数学模型。针对"3个训练基地,一个训练周期培养1 000名航线驾驶员"的案例,仿真结果表明,与飞行航校现有普遍的训练模式相比,该模型能够在培训同等航空驾驶

文章将粒子群优化算法用于神经网络预测模型的学习训练,并且将这种方法用于股票预测中。实验结果表明,基于粒子群训练的神经网络学习算法更易于实现,且准确率较高。

[目的/意义]政府网络问政平台是政府部门知晓民意的重要途径之一,为提高问政留言分类的精度以及处理留言数据质量差、数量少等问题,对比多种基于BERT改进模型与文本增强技术结合的分类效果并探究其差异原因。[方法/过程]设计网络问政留言分类集成对比模型,文本增强方面采用EDA技术与SimBERT文本增强技术进行对比实验,文本分类模型方面则采用多种基于BERT改进的预训练语言模型(如ALBERT、RoBERTa)进行对比实验。[结果/结论]实验结果表明,基于RoBERTa与SimBERT文本增强的文本分类模型效果最佳,在测试集上的F1值高达92.05%,相比于未进行文本增强的BERT-base模型高出2.89%。同时,SimBERT文本增强后F1值相比未增强前平均提高0.61%。实验证明了基于RoBERTa与SimBERT文本增强模型能够有效提升多类别文本分类的效果,在解决同类问题时具有较强可借鉴性。

针对企业创新资源分配不合理以及资源利用率低的问题,构建基于企业技术创新过程的GERT网络模型;以此为基础,根据企业技术创新过程是否采取有针对性的管控措施、以及由技术创新目标设置差异所决定的创新资源分配情况,测算企业技术创新成功概率及技术创新综合收益。研究表明,在多目标决策情景下,创新资源可得到优化配置,企业技术创新成效更显著。

空间网络化发展模式已成为城市群空间发展的新趋势与新战略。本文建立了网络化空间模型,通过测定京津冀城市群的整体空间布局结构,揭示其整体状态及发展趋势,并深入剖析各城市间的网络关系以及各城市在城市群中的不同作用,从而为京津冀城市群打造成为世界级城市群提出了理论参考。

近年来,预训练模型(pre-trained models, PTMs)被广泛应用于说话人验证(speaker verification, SV)系统,通过在预训练模型下游接入说话人分类网络,并进行微调,可大幅提升系统性能。然而,目前基于预训练模型的SV研究大多在有标签的数据集上进行微调,需要大量目标域带标注数据。该文提出一种基于预训练模型的半监督说话人验证系统,首先,利用少量带标注数据训练一个种子模型;其次,利用该种子模型结合无监督聚类算法为无标注数据生成伪标签;再次,联合真实标注数据和伪标注数据进行模型重训练;最后,通过多轮迭代提升模型性能。在仅有100 h带标签说话人数据的条件下,该文提出的半监督系统在Vox Celeb1-O测试集的等错误率为1.02%,比基线系统降低了86.8%,表明该文所提出的半监督说话人验证系统的有效性。

【目的】针对林业文本利用率低、通用领域预训练语言模型对林业知识理解不足以及模型标注数据耗时费力等问题，研究利用大量林业文本，提出一种融合林业领域知识的预训练语言模型，并通过自动标注训练数据，高效实现林业抽取式问答，为林业决策管理提供智能化信息服务。【方法】首先，基于网络爬虫技术构建包含术语、法律法规和文献3个主题的林业语料库，使用该语料库对通用领域预训练语言模型BERT进行继续预训练，通过掩码语言模型和下一句预测这2个任务进行自监督学习，使BERT能够有效地学习林业语义信息，得到具有林业文本通用特征的预训练语言模型ForestBERT。随后，对预训练语言模型mT5进行微调，实现样本的自动标注，通过人工校正后，构建包含3个主题的共2 280个样本的林业抽取式问答数据集。基于该数据集对BERT、RoBERTa、MacBERT、PERT、ELECTRA、LERT种通用领域的中文预训练语言模型以及本文构建的ForestBERT进行训练和验证，以明确ForestBERT的优势。为了探究不同主题对模型性能的影响，分别基于林业术语、林业法律法规、林业文献3个主题的数据集对所有模型进行微调。此外，将ForestBERT与BERT在林业文献中的问答结果进行可视化比较，以更直观地展现ForestBERT的优势。【结果】ForestBERT在林业领域的抽取式问答任务中整体表现优于其他6个对比模型，与基础模型BERT相比，精确匹配（EM）分数和F1分数分别提升了1.6%和1.72%，在另外5个模型的平均性能上也均提升0.96%。在各个模型最优划分比例下，ForestBERT在EM上分别优于BERT和其他5个模型2.12%和1.2%，在F1上分别优于1.88%和1.26%。此外，ForestBERT在3个林业主题上也均表现优异，术语、法律法规、文献任务的评估分数分别比其他6个模型平均提升了3.06%、1.73%、2.76%。在所有模型中，术语任务表现最佳，F1的平均值达到87.63%，表现最差的法律法规也达到82.32%。在文献抽取问答任务中，ForestBERT相比BERT提供了更准确、全面的答案。【结论】采用继续预训练的方式来增强通用领域预训练语言模型的林业专业知识，可以有效提升模型在林业抽取式问答任务中的表现，为林业文本和其他领域的文本处理和应用提供了一种新思路。

随着深度学习的迅速发展和领域数据的快速积累，领域化的预训练模型在知识组织和挖掘中发挥了越来越重要的支撑作用。面向海量的中文政策文本，结合相应的预训练策略构建中文政策文本预训练模型，不仅有助于提升中文政策文本智能化处理的水平，而且为政策文本数据驱动下的精细化和多维度分析与探究奠定了坚实的基础。面向国家级、省级和市级平台上的政策文本，通过自动抓取和人工辅助相结合的方式，在去除非政策文本的基础上，确定了131390份政策文本，总字数为305648206。面向所构建的中文政策文本语料库，基于BERT-base-Chinese和Chinese-RoBERTa-wwm-ext，本研究利用MLM (masked language model)和WWM (whole word masking)任务构建了中文政策文本预训练模型（ChpoBERT），并在Github上对该模型进行了开源。在困惑度评价指标和政策文本自动分词、词性自动标注、命名实体识别下游任务上，ChpoBERT系列模型均表现出了较优的性能，可为政策文本的智能知识挖掘提供领域化的基础计算资源支撑。

理论术语的抽取是大规模文献内容分析和跨学科知识转移深度揭示的基础。作为一种特定类型的命名实体,理论术语涉及的学科多、文献规模大、特征复杂,也缺乏大规模的成熟语料,因而抽取难度较大。为提高理论术语的抽取性能并降低训练集的人工标注代价,本文构建了面向理论术语抽取的深度学习模型,并研究了该模型中理论术语的特征构造和标注方法,同时也提出了一种自训练算法以实现模型的弱监督学习。通过实验对比,分别验证了本文模型和自训练算法的有效性,不仅为理论术语抽取提供了更加有效的通用方法,也为其他类型命名实体的识别研究提供了方法参考。

基于现有研究理论对影响个人创新行为的因素进行分类,并基于分类提出了个人创新能力提升计划训练模型——BTB模型,制订了具体的训练计划及策略。BTB意味着人们要勇于改变、突破现有思维定势,并且主动培养个体的新思维、新习惯和新行为,制订计划,并为之付出切实的行动和努力。

[目的 /意义]对预训练语言模型在情报学与情报工作中的相关研究进行系统性的梳理与分析，为后续预训练模型与情报研究的融合提供借鉴。[方法 /过程]首先，简述预训练模型的基本原理与发展历程，汇总情报研究中应用较为广泛的预训练模型。其次，宏观上分析预训练模型在国内外情报研究中的热点方向，微观上从情报组织、情报检索、情报挖掘等方面调研预训练模型相关研究成果，并细致分析归纳预训练模型的应用方式、改进策略与性能表现。最后，从预训练模型的语料、训练、评价、应用等方面总结当前预训练模型在情报学科中面临的机遇与挑战，展望未来发展。[结果 /结论 ]当前BERT及其改型在情报处理中应用最广、表现最优。结合神经网络与微调的范式被用于各研究场景，尤其是领域信息抽取与文本分类任务。继续预训练、外部知识增强、架构优化等策略可进一步提升性能。如何平衡训练语料的规模与质量、提升模型易用性与安全性、高准度与多维度评价模型真实能力、加速学科知识挖掘工具落地应是未来考虑的关键问题。

本文在古典理论基础上,建立两个企业种群的基本竞争模型;考虑时间尺度、收益可变和反馈机制,建立以时滞和反馈机制作为约束条件、与基本模型形成网络化环境下的企业种群竞争模型。该模型能够解释网络化环境中企业种群行为的持续性及其原因,并能分析种群对环境冲击的反应,以期完善传统的企业种群竞争模型,用于企业战略决策。

互联网时代三元空间的出现改变了知识的本质,带来了全新的知识观:那些在互联网中由群体智慧汇聚的碎片化、展现各自观点、基于问题情境、具有学科交叉的内容成为知识。虽然目前联通主义知识观、回归论知识观已经对这类知识进行描述和阐释,但关于这类知识究竟是什么,又是如何汇聚和发展,并没有术语性的界定,也缺少规律上的认识。本文将这类知识界定为网络化知识,并系统阐述其内涵与特征,同时采用理论建模的方法构建网络化知识表征模型,以期为后续知识生产传播、知识发展演化等基础规律的探究提供有力的抓手。本研究首先基于联通主义知识观和回归论知识观梳理网络化知识的内涵与特征,认为网络化知识是指由群体智慧汇聚生成的信息、理解、技能、价值观和态度,具有动态、个性、群聚、生长以及存在于网络中等基本特征。在此基础上,研究结合网络化知识的新特征,从实体与属性的角度构建了知识表征理论模型,用以表征网络化知识。

[目的]针对水稻病虫害图像分类技术缺少对病症描述的问题，本文提出一种轻量化的水稻病虫害图像描述模型，对水稻病虫害图像进行更为具体的描述。[方法]以白叶枯病、细菌性条斑病、恶苗病、三化螟虫、稻瘟病、稻曲病、纹枯病、飞虱、稻蓟马、胡麻斑病这十类常见的水稻病虫害开展研究，构建了水稻病虫害图像中文描述数据集。首先采用多模态预训练模型CLIP生成图像向量，其中包含基本的图像信息以及丰富的语义信息，采用映射网络将图像向量映射到文本空间里生成文本提示向量，语言模型GPT-2根据文本提示向量生成图像描述。[结果]试验结果表明，在水稻病虫害图像描述数据集上，本文模型的指标总体明显优于其他模型，本文算法的BLEU-1、BLEU-2、BLEU-3、BLEU-4、ROUGE、METEOR指标较传统的CNN＿LSTM模型分别提升0.26、0.27、0.24、0.22、0.22、0.14。生成的图像描述具有准确、详细、语义丰富等优点。另外使用实际稻田图片对模型进行测试，实际田间的场景更为复杂多样，生成的图像描述指标与数据集指标对比总体仅有轻微下降，仍高于其他对比模型。本文模型对水稻病虫害的总体识别准确率达97.28%。[结论]基于多模态预训练模型的水稻病虫害图像描述方法能够准确识别水稻病虫害病症并形成相应的病症描述，为水稻病虫害检测提供一种新思路。