您所在的位置: 成果库 一种图神经网络解释方法、系统、终端以及存储介质

一种图神经网络解释方法、系统、终端以及存储介质

成果类型:: 发明专利

发布时间: 2023-11-01 14:21:00

科技成果产业化落地方案
方案提交机构:天津市滨海新区| 宋学姮 | 2023-11-10 08:53:23
本申请涉及一种图神经网络解释方法、系统、终端以及存储介质。所述方法包括:根据设定的扰动策略对初始图网络进行扰动,得到扰动后的邻接矩阵;将扰动后的邻接矩阵和原始特征矩阵输入待解释模型,通过待解释模型输出分类预测结果,并将特征矩阵输入解释模型,通过解释模型输出每个特征的重要性预测结果;根据特征的重要性预测结果计算图网络中每个节点的独立贡献度,并根据节点的独立贡献度计算边的贡献度;将贡献度大于设定阈值的边作为重要的边,并通过重要的边以及与之相连的节点生成用于对解释模型的预测行为进行解释的解释性子图。本申请充分考虑了被解释模型对实例周围的其它实例的反应,能够获得一个准确的局部忠诚的解释模型。
一种图神经网络解释方法,其特征在于,包括: 根据设定的扰动策略对初始图网络进行扰动,得到扰动后的邻接矩阵; 将所述扰动后的邻接矩阵和原始特征矩阵输入待解释模型,通过所述待解释模型输出分类预测结果,并将所述特征矩阵输入解释模型,通过所述解释模型输出每个特征的重要性预测结果; 根据所述特征的重要性预测结果计算图网络中每个节点的独立贡献度,并根据所述节点的独立贡献度计算边的贡献度; 将所述贡献度大于设定阈值的边作为重要的边,并通过所述重要的边以及与之相连的节点生成用于对所述解释模型的预测行为进行解释的解释性子图。
  1. 图神经网络解释方法:这些方法包括各种技术和算法,用于解释图神经网络的内部工作方式。常见的方法包括特征重要性分析、梯度分析、热力图可视化、对抗样本生成、特征可视化和类似技术,以帮助理解模型是如何对图数据进行学习和预测的。

  2. 图神经网络解释系统:这是指集成了图神经网络解释方法的系统或应用程序,用于提供用户友好的方式来解释图神经网络模型的输出。这些系统通常包括可视化工具、交互式界面和报告生成功能,以帮助用户更好地理解模型的决策。

  3. 图神经网络解释终端:这指的是将解释方法和系统部署到实际应用中的终端设备或应用程序。这使得最终用户能够在使用图神经网络模型的过程中获得实时解释和反馈。

  4. 存储介质:这是指用于存储图神经网络解释方法、系统和模型的数据的介质,如硬盘、云存储或其他媒体。这些存储介质可以包含已训练的模型、解释方法和相关文档。

中国科学院深圳先进技术研究院提升了粤港地区及我国先进制造业和现代服务业的自主创新能力,推动我国自主知识产权新工业的建立,成为国际一流的工业研究院。 深圳先进院目前已初步构建了以科研为主的集科研、教育、产业、资本为一体的微型协同创新生AC态系统,由九个研究平台,国科大深圳先进技术学院,多个特色产业育成基地、多支产业发展基金、多个具有独立法人资质的新型专业科研机构等组成。开展先进技术研究,促进科技发展。信息、电子、通讯技术研究新材料、新能源技术研究高性能计算、自动化、精密机械研究生物医学与医疗仪器研究相关学历教育、博士后培养与学术交流。
  1. 图神经网络解释系统:这是指集成了图神经网络解释方法的系统或应用程序,用于提供用户友好的方式来解释图神经网络模型的输出。这些系统通常包括可视化工具、交互式界面和报告生成功能,以帮助用户更好地理解模型的决策。

  2. 图神经网络解释终端:这指的是将解释方法和系统部署到实际应用中的终端设备或应用程序。这使得最终用户能够在使用图神经网络模型的过程中获得实时解释和反馈。

  3. 存储介质:这是指用于存储图神经网络解释方法、系统和模型的数据的介质,如硬盘、云存储或其他媒体。这些存储介质可以包含已训练的模型、解释方法和相关文档。

技术转让

图神经网络模型对于许多应用非常重要,特别是在需要透明性和可解释性的场景中,例如医疗诊断、金融风险评估和自动驾驶系统等。因此,开发图神经网络解释方法、系统、终端以及存储介质是一个重要的研究领域,可以帮助提高图神经网络模型的可信度和可用性。