期刊文献+
共找到231篇文章
< 1 2 12 >
每页显示 20 50 100
基于BERT-sPTT的文本分类模型 认领 引用
1
作者 陈可嘉 王朕卿 周修考 《计算机工程与应用》 EI CSCD 北大核心 2026年第11期125-139,共15页
传统文本分类模型存在分类精度有限、文本信息损失值高的不足。基于此,借鉴PVT模型的设计理念,通过缩放因子对查询向量实施同步缩放,实现对其核心注意力模块的改进,并结合BERT模型,提出BERT-sPTT文本分类模型。在THUNews数据集、复旦中... 传统文本分类模型存在分类精度有限、文本信息损失值高的不足。基于此,借鉴PVT模型的设计理念,通过缩放因子对查询向量实施同步缩放,实现对其核心注意力模块的改进,并结合BERT模型,提出BERT-sPTT文本分类模型。在THUNews数据集、复旦中文数据集、AG新闻数据集进行验证,实验结果显示三个数据集上该模型ACC值与F1值优于其他对比模型。该模型主要优势在于结合BERT捕捉文本深层语义信息方面的能力和PVT金字塔结构在特征提取和下采样方面的高效性。 展开更多
关键词 文本分类 BERT 空间减缩注意力(SRA) PVT模型
暂未订购 下载PDF
基于BERT-BiLSTM-Attention的航空货运危险品预警模型 认领 引用
2
作者 冯文刚 马伟康 《安全与环境学报》 CAS CSCD 北大核心 2026年第4期1533-1544,共12页
随着航空货运行业快速发展,货运数据复杂度激增,传统预警方法难以对航空货运危险品进行高效检测。提出了一种融合文本语义与货运全链路时序数据的多模态建模方法,构建基于BERT-BiLSTM-Attention的智能化预警模型。首先,采用预训练双向... 随着航空货运行业快速发展,货运数据复杂度激增,传统预警方法难以对航空货运危险品进行高效检测。提出了一种融合文本语义与货运全链路时序数据的多模态建模方法,构建基于BERT-BiLSTM-Attention的智能化预警模型。首先,采用预训练双向变换器模型(Bidirectional Encoder Representations from Transformers, BERT)获取语言特征,以理解航空货运面单文本语义信息并生成向量表示;随后,建立双向长短期记忆(Bidirectional Long Short-Term Memory, BiLSTM)网络捕捉关键特征信息,对动态行为模式进行时序特征提取;最后经过注意力机制(Attention mechanism),对BiLSTM输出特征进行动态赋权,聚焦高风险语义片段,提高对危险品分类的精度。结果表明:基于BERT-BiLSTM-Attention的预警模型在航空危险品识别方面表现出色,准确率达98.50%,相较于词频-逆文档频率(Term Frequency-Inverse Document Frequency, TF-IDF)+支持向量机(Support Vector Machine, SVM)、随机森林(Random Forest, RF)和文本卷积神经网络(Text Convolutional Neural Network, TextCNN)等基准模型,在准确性、召回率和精确率等方面表现出显著优势,在实际应用部署中也显著提升对危险品检查的效率和准确性,减少25%的人工复核,较传统模型效率提升32%,为构建航空货运安全防控体系提供支撑。 展开更多
关键词 安全工程 航空货运 危险品预警 多模态融合 双向变换器模型 双向长短期记忆网络 注意力机制
暂未订购 下载PDF
Natural Language Processing for Chest X-Ray Reports in the Transformer Era:BERT-Like Encoders for Comprehension and GPT-Like Decoders for Generation 认领 引用 被引量:2
3
作者 Han Yuan 《iRADIOLOGY》 CSCD 2025年第4期295-301,共7页
1|Transformer for Chest X-Ray Report Analysis Natural language processing(NLP)has gained widespread use in computer-assisted chest X-ray(CXR)report analysis,particularly since the renaissance of deep learning(DL)in th... 1|Transformer for Chest X-Ray Report Analysis Natural language processing(NLP)has gained widespread use in computer-assisted chest X-ray(CXR)report analysis,particularly since the renaissance of deep learning(DL)in the 2012 ImageNet challenge.While early endeavors predominantly employed recurrent neural networks(RNN)and convolutional neural networks(CNN)[1]. 展开更多
关键词 bidirectional encoder representations from transformers chest X-ray report generative pre-trained transformer large language model natural language processing
暂未订购 下载PDF
KE-BERT-BiLSTM:知识增强的公安信访文本情感分析算法 认领 引用 被引量:1
4
作者 吴蕙怡 王威 《计算机工程与应用》 EI CSCD 北大核心 2026年第14期349-361,共13页
公安信访工作在化解社会矛盾、保障群众权益中发挥关键作用。当前信访全流程依赖人工操作,效率低下,且现有研究多聚焦理论层面,对效率提升探索不足,尤其在“诉求类别”甄别及文本特征项权重精准赋予方面存在空白。结合BERT强大的深层语... 公安信访工作在化解社会矛盾、保障群众权益中发挥关键作用。当前信访全流程依赖人工操作,效率低下,且现有研究多聚焦理论层面,对效率提升探索不足,尤其在“诉求类别”甄别及文本特征项权重精准赋予方面存在空白。结合BERT强大的深层语义理解能力、双向长短时记忆网络(BiLSTM)的双向序列建模优势及知识增强策略,创新性地提出knowledge-enhancedBERT-BiLSTM模型(KE-BERT-BiLSTM)。该模型设计了双重领域知识增强策略,通过领域知识注入策略,实现专业知识与语义理解的深度交互;通过语境敏感计算策略,引入情感波动指标量化强度变化曲线,设计领域强度系数实现动态权重调整,突破静态情感词典局限。实验结果表明,KE-BERT-BiLSTM模型在公安信访文本情感分析任务中准确率显著优于支持向量机、随机森林等单一模型,同时优于BERT及其组合模型等基线模型和近两年发表的模型。提出的层次化语义解耦、注意力自适应优化、时空情感特征融合等微调机制有效加成KE-BERT-BiLSTM架构在融合语义特征与序列特征方面的长处,还为其他行政文本分析提供了可迁移的领域自适应范式,推动了文本情感分析从通用模型向领域深化的理论转型。 展开更多
关键词 公安信访 情感分析 知识增强 BERT 双向长短期记忆网络(BiLSTM)
暂未订购 下载PDF
融合BERT BiLSTM CRF的城市内涝灾害风险要素识别方法研究 认领 引用 被引量:5
5
作者 张乐 张海龙 +1 位作者 李锋 吴敏 《安全与环境学报》 CAS CSCD 北大核心 2025年第8期3176-3188,共13页
为了实现在城市内涝舆情信息中快速、精准地识别相关风险要素,首先基于新浪微博平台,对用户评论信息及媒体发布信息进行采集、整理及标注,构建了城市内涝灾害事件语料数据集。进而针对城市内涝舆情信息格式不统一、语义复杂且风险要素... 为了实现在城市内涝舆情信息中快速、精准地识别相关风险要素,首先基于新浪微博平台,对用户评论信息及媒体发布信息进行采集、整理及标注,构建了城市内涝灾害事件语料数据集。进而针对城市内涝舆情信息格式不统一、语义复杂且风险要素识别的专业性、精准度要求较高等问题,结合自然灾害系统理论的风险要素框架,提出了一种基于双向编码器表征法-双向长短期记忆-条件随机场(Bidirectional Encoder Representations from Transformers-Bidirectional Long Short-Term Memory-Conditional Random Field,BERT-BiLSTM-CRF)的识别方法,并开展了一系列模型验证试验。对比试验结果表明,该模型在准确率、召回率、F1三项指标上均有较好表现,其中准确率为84.62%,召回率为86.19%,F1为85.35%,优于其他对比模型。消融试验结果表明,BERT预训练模型对于该模型性能有着更为显著的影响。综合上述试验结果,可以验证该模型能够有效识别城市内涝舆情信息中的各类风险要素,进而为城市内涝灾害风险管控的数智化转型提供研究依据。 展开更多
关键词 公共安全 城市内涝 双向编码器表征法 双向长短期记忆网络 条件随机场 舆情信息 风险要素识别
暂未订购 下载PDF
基于IWOA-BERT的磨煤机故障预警 认领 引用 被引量:3
6
作者 段明达 张胜 《振动与冲击》 EI CSCD 北大核心 2025年第11期288-294,共7页
实现磨煤机的故障预警技术可以降低事故发生率,针对其运行中随机扰动多,且故障早期阶段不易判断的特点,提出了一种基于改进鲸鱼算法优化BERT(bidirectional encoder representations from transformers)模型的故障预警方法。首先,通过... 实现磨煤机的故障预警技术可以降低事故发生率,针对其运行中随机扰动多,且故障早期阶段不易判断的特点,提出了一种基于改进鲸鱼算法优化BERT(bidirectional encoder representations from transformers)模型的故障预警方法。首先,通过改进传统鲸鱼算法的收敛因子和引入高斯变异算子来增强算法的寻优能力;其次,选取与磨煤机故障相关的特征参数作为建模变量,利用改进鲸鱼算法优化BERT模型的超参数,建立故障预警模型;然后,计算正常状态数据中每个滑动窗口的相似度均值,选取最小值乘以阈值系数确定预警阈值;最后,根据专家系统推理预警时刻的故障类型并给出检修指导。将所提方法应用于某350 MW机组磨煤机的运行中,结果表明模型的预测准确率高,且能提前24 s给出预警信息,为工程应用提供了参考。 展开更多
关键词 磨煤机 故障预警 BERT算法 改进鲸鱼优化算法(IWOA) 专家系统
暂未订购 下载PDF
基于BERT-BiLSTM-CRF的工业控制协议逆向工程 认领 引用
7
作者 连莲 李素敏 +1 位作者 宗学军 何戡 《沈阳工业大学学报》 CAS 北大核心 2025年第5期609-616,共8页
【目的】工业控制协议解析是工业互联网安全中的关键环节,但传统方法存在普适性差和准确率低的问题,导致协议解析效率低下,难以满足实际工业场景中对高精度和高适应性解析的需求。【方法】提出一种基于深度学习模型的工业控制协议逆向... 【目的】工业控制协议解析是工业互联网安全中的关键环节,但传统方法存在普适性差和准确率低的问题,导致协议解析效率低下,难以满足实际工业场景中对高精度和高适应性解析的需求。【方法】提出一种基于深度学习模型的工业控制协议逆向解析方法,通过结合BERT预训练模型、双向长短期记忆网络(BiLSTM)和条件随机场(CRF),提升协议解析的普适性和准确率,为工业控制系统的安全分析和漏洞挖掘提供技术支持。首先,利用BERT预训练模型对工业控制协议数据进行动态词向量编码,将协议数据转化为高维向量,以捕捉协议数据的语义信息。BERT预训练模型通过其强大的上下文理解能力,能够有效处理复杂且多样的协议数据。其次,采用双向长短期记忆网络对协议数据之间的关系以及协议数据与标签数据之间的关联性进行建模。双向长短期记忆网络能够捕获协议数据中的长距离依赖关系,从而更好地理解协议的结构和语义。最后,引入条件随机场作为约束条件,对工业控制协议的格式和语义进行最优预测。条件随机场通过引入标签之间的转移概率,进一步提高了预测的准确性和一致性。通过BERT预训练模型、双向长短期记忆网络和条件随机场的结合,实现了对工业控制协议的格式提取和语义分析。此外,本文方法还针对大规模协议数据进行了优化,确保其在处理复杂工业场景时的高效性和稳定性。【结果】针对三种典型工业控制协议展开实验,结果表明本文方法在格式提取和语义分析上的精度均超过96%,较传统方法有所提升,在不同协议上均表现出高适应性和准确性,能够有效识别字段边界与语义信息。【结论】本文方法显著提升了工业控制协议解析的普适性和准确率,为工业控制系统的安全分析提供了可靠的技术支持。未来将进一步优化模型,拓展应用场景,提升方法的实用性。 展开更多
关键词 工业控制协议 协议逆向工程 BERT预训练模型 双向长短期记忆网络 条件随机场 词向量 格式提取 语义分析
暂未订购 下载PDF
BERT与BiLSTM融合技术在客户诉求数据治理中的应用研究 认领 引用
8
作者 李艳艳 徐梦舟 +2 位作者 严佳梅 周晶 张展鹏 《智能物联技术》 2025年第3期62-67,共6页
聚焦国家电网客服中心客户诉求数据治理中存在的效率低、人工依赖性强等问题,提出基于Transformer的双向编码器表征(Bidirectional Encoder Representations from Transformer,BERT)和双向长短时记忆(Bi-directional Long Short-Term Me... 聚焦国家电网客服中心客户诉求数据治理中存在的效率低、人工依赖性强等问题,提出基于Transformer的双向编码器表征(Bidirectional Encoder Representations from Transformer,BERT)和双向长短时记忆(Bi-directional Long Short-Term Memory,BiLSTM)融合技术的多阶段联合数据治理框架。通过构建有效性判断、语义增强、诉求监测及业务场景分类等核心模块,形成覆盖数据预处理、语义分析、分类预测及诉求应用的全链路治理体系。结果验表明,提出的BERT与BiLSTM融合技术具有较好的性能指标。所提框架通过动态语义特征提取与上下文建模的协同机制,实现客户诉求的细粒度分类和风险点识别,验证基于BERT和BiLSTM的融合模型在电力企业文本类数据处理和应用中的适用性和有效性,为构建自动化数据治理体系提供了更丰富的解决方案。 展开更多
关键词 基于Transformer的双向编码器表征(BERT) 双向长短时记忆(BiLSTM) 数据治理 客户诉求分类 多模型融合
暂未订购 下载PDF
基于NSMFO-BERT算法的电力系统多目标优化经济调度研究 认领 引用 被引量:3
9
作者 曾浩政 殷林飞 《综合智慧能源》 2025年第4期98-106,共9页
随着大量可再生能源并网,传统电力系统模型已难以满足现代电力系统的复杂需求。为适应多种能源类型协同发电的趋势,构建了一种以火力发电为主、可再生能源为辅的新型电力系统模型。由于新型电力系统的发电成本和碳排放量目标面临着多目... 随着大量可再生能源并网,传统电力系统模型已难以满足现代电力系统的复杂需求。为适应多种能源类型协同发电的趋势,构建了一种以火力发电为主、可再生能源为辅的新型电力系统模型。由于新型电力系统的发电成本和碳排放量目标面临着多目标权衡的挑战,需要一种智能优化方法动态调整各发电单元的输出,并充分利用各类能源的优势。因此,提出了一种非支配飞蛾扑火优化–双向编码器表示转换器优化算法(NSMFO-BERT)。BERT作为一种大模型,擅长处理复杂的数据关系,通过学习NSMFO优化得到的发电机组有功功率与负荷预测之间的关系,并快速生成大量发电机组的调度策略。仿真结果表明,与NSMFO、多目标灰狼算法和多目标蚁狮算法相比,NSMFO-BERT能够找到发电成本和碳排放量目标值更低的帕累托曲线,且其计算速度分别比上述其他算法快69.3%,61.4%和90.9%,具有较强的泛化能力,适用于处理大规模的电力系统调度问题。 展开更多
关键词 双向编码器表示转换器 非支配飞蛾扑火优化算法 大模型 新型电力系统 发电成本 碳排放量
暂未订购 下载PDF
基于Bert-BiLSTM-CRF模型的中文命名实体识别 认领 引用 被引量:7
10
作者 龙星全 李佳 《吉林大学学报(信息科学版)》 CAS 2025年第2期384-393,共10页
针对现有的中文命名实体识别算法没有充分考虑实体识别任务的数据特征,存在中文样本数据的类别不平衡、训练数据中的噪声太大和每次模型生成数据的分布差异较大的问题,提出了一种以BERT-BiLSTM-CRF(Bidirectional Encoder Representatio... 针对现有的中文命名实体识别算法没有充分考虑实体识别任务的数据特征,存在中文样本数据的类别不平衡、训练数据中的噪声太大和每次模型生成数据的分布差异较大的问题,提出了一种以BERT-BiLSTM-CRF(Bidirectional Encoder Representations from Transformers-Bidirectional Long Short-Term Memory-Conditional Random Field)为基线改进的中文命名实体识别模型。首先在BERT-BiLSTM-CRF模型上结合P-Tuning v2技术,精确提取数据特征,然后使用3个损失函数包括聚焦损失(Focal Loss)、标签平滑(Label Smoothing)和KL Loss(Kullback-Leibler divergence loss)作为正则项参与损失计算。实验结果表明,改进的模型在Weibo、Resume和MSRA(Microsoft Research Asia)数据集上的F 1得分分别为71.13%、96.31%、95.90%,验证了所提算法具有更好的性能,并且在不同的下游任务中,所提算法易于与其他的神经网络结合与扩展。 展开更多
关键词 中文命名实体识别 BERT-BiLSTM-CRF模型 P-Tuning v2技术 损失函数
暂未订购 下载PDF
基于BERT融合算法的病例文本结构化模型研究 认领 引用
11
作者 张雪 王琛琛 职宁 《中国医疗设备》 2025年第9期12-19,共8页
目的为提升临床病例文本中非结构化信息的提取效率与准确性,推动医学智能化发展,本研究提出一种基于双向编码器表示融合算法的病例文本结构化模型。方法该模型采用双向编码器进行语义表示,利用图卷积神经网络提取词语间局部依赖,融合长... 目的为提升临床病例文本中非结构化信息的提取效率与准确性,推动医学智能化发展,本研究提出一种基于双向编码器表示融合算法的病例文本结构化模型。方法该模型采用双向编码器进行语义表示,利用图卷积神经网络提取词语间局部依赖,融合长短时记忆网络建立时序关系,并引入条件随机场优化标签序列的一致性。实验选用MIMIC-Ⅲ和ClinicalSTS这2个权威临床数据集进行分析,构建五类医学文本分类任务,对比所有模型在不同结构组合下的性能表现。结果本研究所提出的病例文本结构化模型的精准度、召回率和F1得分分别为0.92、0.90和0.91,均较传统双向编码器模型提升约10%;在处理超过1000字的长文本场景时,模型效率提升达12%,表现出良好的时效性与可扩展性。结论本研究通过验证深度融合多种结构对提高病例文本结构化处理能力的有效性,为智能医学文本分析提供了理论依据。 展开更多
关键词 病例文本 长短时记忆网络 BERT 图卷积神经网络 结构化模型 医学智能化
暂未订购 下载PDF
基于融合评价指标BERT-RGCN的油田评价区块调整措施推荐方法 认领 引用
12
作者 王梅 朱晓丽 +2 位作者 孙洪国 王海艳 濮御 《东北石油大学学报》 CAS 北大核心 2025年第5期110-120,I0008,共11页
为解决油田领域区块调整措施推荐过程中存在的样本数据稀疏和语义特征复杂等问题,提出基于融合评价指标(EI)的变换器双向编码(BERT)与关系图卷积神经网络(RGCN)的油田评价区块调整措施推荐方法(EI-BERT-RGCN方法)。根据评价指标、评价... 为解决油田领域区块调整措施推荐过程中存在的样本数据稀疏和语义特征复杂等问题,提出基于融合评价指标(EI)的变换器双向编码(BERT)与关系图卷积神经网络(RGCN)的油田评价区块调整措施推荐方法(EI-BERT-RGCN方法)。根据评价指标、评价区块及措施之间的交互信息构建异构图,利用BERT模型生成评价指标、评价区块及措施术语词向量,共同作为输入词向量,将融合评价指标信息的异构图和输入词向量放入RGCN模型训练,学习评价区块的有效表征;在某油田评价区块提供的数据集上进行实验对比。结果表明:EI-BERT-RGCN方法能够捕捉文本中隐含的复杂语义并缓解数据稀疏问题,能更好理解未观察到的评价指标与调整措施之间的潜在关系,提升节点的表示质量。EI-BERT-RGCN模型在精确率、召回率、F1分数及ROC曲线下面积等评价指标上优于其他基准模型,在保持较高精确率的同时,展现更好的泛化能力和鲁棒性。该结果为油田评价区块调整措施推荐提供参考。 展开更多
关键词 异构图 变换器双向编码(BERT) 预训练模型 关系图卷积神经网络(RGCN) 推荐算法 措施推荐 油田评价区块
暂未订购 下载PDF
Traditional Chinese Medicine Synonymous Term Conversion:A Bidirectional Encoder Representations from Transformers-Based Model for Converting Synonymous Terms in Traditional Chinese Medicine 认领 引用
13
作者 Lu Zhou Chao-Yong Wu +10 位作者 Xi-Ting Wang Shuang-Qiao Liu Yi-Zhuo Zhang Yue-Meng Sun Jian Cui Cai-Yan Li Hui-Min Yuan Yan Sun Feng-Jie Zheng Feng-Qin Xu Yu-Hang Li 《World Journal of Traditional Chinese Medicine》 CAS CSCD 2023年第2期224-233,共10页
Background:The medical records of traditional Chinese medicine(TCM)contain numerous synonymous terms with different descriptions,which is not conducive to computer-aided data mining of TCM.However,there is a lack of m... Background:The medical records of traditional Chinese medicine(TCM)contain numerous synonymous terms with different descriptions,which is not conducive to computer-aided data mining of TCM.However,there is a lack of models available to normalize synonymous TCM terms.Therefore,construction of a synonymous term conversion(STC)model for normalizing synonymous TCM terms is necessary.Methods:Based on the neural networks of bidirectional encoder representations from transformers(BERT),four types of TCM STC models were designed:Models based on BERT and text classification,text sequence generation,named entity recognition,and text matching.The superior STC model was selected on the basis of its performance in converting synonymous terms.Moreover,three misjudgment inspection methods for the conversion results of the STC model based on inconsistency were proposed to find incorrect term conversion:Neuron random deactivation,output comparison of multiple isomorphic models,and output comparison of multiple heterogeneous models(OCMH).Results:The classification-based STC model outperformed the other STC task models.It achieved F1 scores of 0.91,0.91,and 0.83 for performing symptoms,patterns,and treatments STC tasks,respectively.The OCMH method showed the best performance in misjudgment inspection,with wrong detection rates of 0.80,0.84,and 0.90 in the term conversion results for symptoms,patterns,and treatments,respectively.Conclusion:The TCM STC model based on classification achieved superior performance in converting synonymous terms for symptoms,patterns,and treatments.The misjudgment inspection method based on OCMH showed superior performance in identifying incorrect outputs. 展开更多
关键词 Bidirectional encoder representations from transformers misjudgment inspection synonymous term conversion traditional Chinesem edicine
基于BERT_DPCNN的牛类疾病问句分类研究 认领 引用
14
作者 黄双斌 王梅嘉 高浏洋 《智能计算机与应用》 2025年第3期140-144,共5页
为帮助养殖户实现牛类养殖的精准、科学化管理,基于BERT、TextCNN、TextRNN模型,研究牛类疾病的问句分类方法,为构建面向牛类疾病的问答系统提供技术支撑。通过设计爬虫获取惠农网、百度贴吧等原始数据,并对数据进行预处理,获取了包含5... 为帮助养殖户实现牛类养殖的精准、科学化管理,基于BERT、TextCNN、TextRNN模型,研究牛类疾病的问句分类方法,为构建面向牛类疾病的问答系统提供技术支撑。通过设计爬虫获取惠农网、百度贴吧等原始数据,并对数据进行预处理,获取了包含5056条数据的数据集,将数据进一步划分为定义、预防、病因、症状、治疗和诊断共6类,以构建牛类疾病分类语料库。实验表明,BERT模型在6类精度有4类不弱于其他模型,在不同大小的数据集上预训练BERT模型在加权F1值上均优于TextCNN和TextRNN模型,与BERT其他变种模型进行了实验对比,BERT_DPCNN模型比BERT模型加权F1值高0.3%,考虑问答系统问句分类精确度要求高,选取BERT_DPCNN模型作为问句分类模型。 展开更多
关键词 自然语言处理 BERT 牛类疾病 问答系统 问句分类
暂未订购 下载PDF
基于逆向工程和大语言模型的智能合约庞氏骗局检测 认领 引用
15
作者 张艳梅 郭思颖 +1 位作者 蔡迟立 姜茸 《计算机科学与探索》 CSCD 北大核心 2026年第5期1355-1364,共10页
区块链技术的快速发展推动了智能合约的广泛应用,但其匿名性与不可篡改性也为庞氏骗局等金融欺诈行为提供了可乘之机。尽管当前已经有多种庞氏骗局检测方法被提出,但在面对闭源合约时仍存在显著挑战,主要体现在语义分析能力不足、特征... 区块链技术的快速发展推动了智能合约的广泛应用,但其匿名性与不可篡改性也为庞氏骗局等金融欺诈行为提供了可乘之机。尽管当前已经有多种庞氏骗局检测方法被提出,但在面对闭源合约时仍存在显著挑战,主要体现在语义分析能力不足、特征表达不充分以及难以与大语言模型有效结合等方面。针对这些问题,提出了一种融合逆向工程与大语言模型的智能合约庞氏骗局检测框架,旨在提升对闭源合约的欺诈识别能力。利用逆向工程反编译技术将字节码逆向恢复为类Solidity伪代码,重构函数签名、控制流与接口语义,恢复其函数逻辑与控制流结构,突破闭源合约语义分析瓶颈;利用BERT模型对伪代码进行上下文敏感编码,生成768维稠密语义向量,并结合BiLSTM-CRF模型捕捉时序依赖关系,构建高效检测模型,实现端到端二分类检测。在以太坊真实数据集上的实验结果表明,该方法在F1值、召回率与AUC指标上分别达到0.961、0.994与0.984,优于已有的相关方法,单样本检测耗时仅0.806 s,满足实时性需求。该研究为闭源智能合约的安全审计提供了可扩展、低成本的解决方案。 展开更多
关键词 智能合约 庞氏骗局 逆向工程 大语言模型 双向编码器表示模型(BERT)
暂未订购 下载PDF
基于多视角信息增强和层次化权重的关键短语抽取模型 认领 引用
16
作者 胡婕 李鹏程 +1 位作者 孙军 张佳傲 《计算机应用》 CSCD 北大核心 2026年第4期1050-1057,共8页
现有的无监督关键短语提取模型对复杂的上下文和多层次语义信息的捕获能力不足,无法获取多维度信息。因此,提出一种基于多视角信息增强和层次化权重的关键短语提取模型。首先,利用BERT(Bidirectional Encoder Representations from Tran... 现有的无监督关键短语提取模型对复杂的上下文和多层次语义信息的捕获能力不足,无法获取多维度信息。因此,提出一种基于多视角信息增强和层次化权重的关键短语提取模型。首先,利用BERT(Bidirectional Encoder Representations from Transformers)预训练模型对文本和候选短语进行编码,获得嵌入表示;并且,通过加权平均池化优化文本嵌入,并计算它们与候选短语的全局相似度,以实现全局信息增强,提升对语义关联的理解。其次,提出基于图结构的边界感知局部中心性计算方法,以增强局部信息获取能力。最后,融合多因素计算权重,从多个维度评估候选短语的重要性。在Inspec、SemEval 2017和SemEval-2010等6个公开数据集上的实验结果表明,与基线模型PromptRank相比,所提模型的F1@5值提高了0.87~2.68个百分点,F1@10值提高了1.11~2.24个百分点,F1@15值提高了0.54~2.25个百分点。可见,所提模型的综合性能得到了有效提升。 展开更多
关键词 无监督学习 关键短语提取 信息增强 BERT模型 层次化权重
暂未订购 下载PDF
基于多特征融合的修船结算编码智能匹配复合模型 认领 引用
17
作者 朱安庆 朱碧玉 +1 位作者 姚飚 李同兰 《造船技术》 2026年第1期23-30,共8页
在一些修船企业建立的修船结算系统和电子价格库中,人工匹配结算编码步骤易出错且耗时长,直接影响结算效率。为解决该问题,提出一种基于多特征融合的修船结算编码智能匹配复合模型。采用来自变换器的双向编码器表示(Bidirectional Encod... 在一些修船企业建立的修船结算系统和电子价格库中,人工匹配结算编码步骤易出错且耗时长,直接影响结算效率。为解决该问题,提出一种基于多特征融合的修船结算编码智能匹配复合模型。采用来自变换器的双向编码器表示(Bidirectional Encoder Representations from Transformers,BERT)模型将工程内容文本表示为词向量,采用卷积神经网络(Convolutional Neural Network,CNN)模型提取文本的局部特征,采用双向长短期记忆网络结合注意力机制(Bidirectional Long Short-Term Memory with Attention Mechanism,BiLSTM-Attention)模型提取上下文特征,得到对应的结算编码。试验结果表明,所提出的复合模型在整体准确率方面实现显著提升,充分证明该复合模型在处理复杂文本分类任务中的优势。 展开更多
关键词 修船结算编码智能匹配复合模型 多特征融合 来自变换器的双向编码器表示模型 卷积神经网络模型 双向长短期记忆网络结合注意力机制模型
暂未订购 下载PDF
基于BERT模型的中文短文本分类算法 认领 引用 被引量:98
18
作者 段丹丹 唐加山 +1 位作者 温勇 袁克海 《计算机工程》 CAS CSCD 北大核心 2021年第1期79-86,共8页
针对现有中文短文本分类算法通常存在特征稀疏、用词不规范和数据海量等问题,提出一种基于Transformer的双向编码器表示(BERT)的中文短文本分类算法,使用BERT预训练语言模型对短文本进行句子层面的特征向量表示,并将获得的特征向量输入S... 针对现有中文短文本分类算法通常存在特征稀疏、用词不规范和数据海量等问题,提出一种基于Transformer的双向编码器表示(BERT)的中文短文本分类算法,使用BERT预训练语言模型对短文本进行句子层面的特征向量表示,并将获得的特征向量输入Softmax回归模型进行训练与分类。实验结果表明,随着搜狐新闻文本数据量的增加,该算法在测试集上的整体F1值最高达到93%,相比基于TextCNN模型的短文本分类算法提升6个百分点,说明其能有效表示句子层面的语义信息,具有更好的中文短文本分类效果。 展开更多
关键词 中文短文本分类 基于Transformer的双向编码器表示 Softmax回归模型 TextCNN模型 word2vec模型
暂未订购 下载PDF
结合BERT和特征投影网络的新闻主题文本分类方法 认领 引用 被引量:24
19
作者 张海丰 曾诚 +3 位作者 潘列 郝儒松 温超东 何鹏 《计算机应用》 CSCD 北大核心 2022年第4期1116-1124,共9页
针对新闻主题文本用词缺乏规范、语义模糊、特征稀疏等问题,提出了结合BERT和特征投影网络(FPnet)的新闻主题文本分类方法。该方法包含两种实现方式:方式1将新闻主题文本在BERT模型的输出进行多层全连接层特征提取,并将最终提取到的文... 针对新闻主题文本用词缺乏规范、语义模糊、特征稀疏等问题,提出了结合BERT和特征投影网络(FPnet)的新闻主题文本分类方法。该方法包含两种实现方式:方式1将新闻主题文本在BERT模型的输出进行多层全连接层特征提取,并将最终提取到的文本特征结合特征投影方法进行提纯,从而强化分类效果;方式2在BERT模型内部的隐藏层中融合特征投影网络进行特征投影,从而通过隐藏层特征投影强化提纯分类特征。在今日头条、搜狐新闻、THUCNews-L、THUCNews-S数据集上进行实验,实验结果表明上述两种方式相较于基线BERT方法在准确率、宏平均F1值上均具有更好的表现,准确率最高分别为86.96%、86.17%、94.40%和93.73%,验证了所提方法的可行性和有效性。 展开更多
关键词 预训练语言模型 文本分类 新闻主题 BERT 特征投影网络
暂未订购 下载PDF
融合BERT的多层次语义协同模型情感分析研究 认领 引用 被引量:18
20
作者 胡任远 刘建华 +2 位作者 卜冠南 张冬阳 罗逸轩 《计算机工程与应用》 CSCD 北大核心 2021年第13期176-184,共9页
由于基于变换器的双向编码器表征技术(Bidirectional Encoder Representations from Transformers,BERT)的提出,改变了传统神经网络解决句子级文本情感分析问题的方法。目前的深度学习模型BERT本身学习模式为无监督学习,其需要依赖后续... 由于基于变换器的双向编码器表征技术(Bidirectional Encoder Representations from Transformers,BERT)的提出,改变了传统神经网络解决句子级文本情感分析问题的方法。目前的深度学习模型BERT本身学习模式为无监督学习,其需要依赖后续任务补全推理和决策环节,故存在缺乏目标领域知识的问题。提出一种多层协同卷积神经网络模型(Multi-level Convolutional Neural Network,MCNN),该模型能学习到不同层次的情感特征来补充领域知识,并且使用BERT预训练模型提供词向量,通过BERT学习能力的动态调整将句子真实的情感倾向嵌入模型,最后将不同层次模型输出的特征信息同双向长短期记忆网络输出信息进行特征融合后计算出最终的文本情感性向。实验结果表明即使在不同语种的语料中,该模型对比传统神经网络和近期提出的基于BERT深度学习的模型,情感极性分类的能力有明显提升。 展开更多
关键词 深度学习 文本情感分析 基于变换器的双向编码器表征技术(BERT) 卷积神经网络(CNN) 协同结构
暂未订购 下载PDF
上一页 1 2 12 下一页 到第
在线咨询 使用帮助 返回顶部 意见反馈