科创中国
一种基于情境嵌入和知识蒸馏的企业画像标签抽取方法及装置
发布时间: 2023-10-19
来源: 科技服务团
基本信息
合作方式：
技术转让
成果类型：
发明专利
行业领域：
信息传输、软件和信息技术服务业,软件和信息技术服务业
成果介绍
本发明涉及企业画像和自然语言处理技术领域，公开了一种基于情境嵌入和知识蒸馏的企业画像标签抽取方法装置，将企业情境信息向量化后与企业文本向量拼接，得到融合企业情境信息的企业文本；构建主干网络进行模型训练，构建小规模TextCNN枝干网络内嵌到前11层Transformer的主干网络上，将融合后的企业文本传入Bert模型发现其隐藏特征，再传入BiLSTM网络和最大池化层进一步发现其上下文特征和局部特征；使用主干网络指导枝干网络进行知识蒸馏和标签抽取。本发明使用企业情境嵌入可以有效提高标签抽取的准确率，同时拥有知识蒸馏的深度学习模型可以提高标签抽取效率，使其在实际场景中更好的应用。
成果亮点
发明目的：针对现有技术中存在的问题，本发明提供及一种基于情境嵌入和知识蒸馏的企业画像标签抽取方法及装置，使用企业情境嵌入可以有效提高标签抽取的准确率，同时拥有知识蒸馏的深度学习模型可以提高标签抽取效率，使其在实际场景中更好的应用。
团队介绍
此技术是淮阴工学院李翔研发，淮阴工学院，位于江苏省淮安市，宗旨和业务范围是“培养高等学历人才，促进社会发展。工学类、理学类、经济学类、管理学类、文学类、法学类、艺术学类和农学类学科本科学历教育工程硕士研究生学历教育相关科学研究技术开发继续教育专业培训学术交流与咨询服务会议展览服务”。
成果资料
产业化落地方案
成果综合评价报告
评价单位：- (-) 评价时间：2023-11-10
微信公众号
下载app
Copyright © 2022 中国科学技术协会 版权所有 | 京ICP备16016202号-20
京公网安备 11010202008974号