成果介绍
本申请涉及一种图神经网络解释方法、系统、终端以及存储介质。所述方法包括:根据设定的扰动策略对初始图网络进行扰动,得到扰动后的邻接矩阵;将扰动后的邻接矩阵和原始特征矩阵输入待解释模型,通过待解释模型输出分类预测结果,并将特征矩阵输入解释模型,通过解释模型输出每个特征的重要性预测结果;根据特征的重要性预测结果计算图网络中每个节点的独立贡献度,并根据节点的独立贡献度计算边的贡献度;将贡献度大于设定阈值的边作为重要的边,并通过重要的边以及与之相连的节点生成用于对解释模型的预测行为进行解释的解释性子图。本申请充分考虑了被解释模型对实例周围的其它实例的反应,能够获得一个准确的局部忠诚的解释模型。
成果亮点
一种图神经网络解释方法,其特征在于,包括:
根据设定的扰动策略对初始图网络进行扰动,得到扰动后的邻接矩阵;
将所述扰动后的邻接矩阵和原始特征矩阵输入待解释模型,通过所述待解释模型输出分类预测结果,并将所述特征矩阵输入解释模型,通过所述解释模型输出每个特征的重要性预测结果;
根据所述特征的重要性预测结果计算图网络中每个节点的独立贡献度,并根据所述节点的独立贡献度计算边的贡献度;
将所述贡献度大于设定阈值的边作为重要的边,并通过所述重要的边以及与之相连的节点生成用于对所述解释模型的预测行为进行解释的解释性子图。
团队介绍
中国科学院深圳先进技术研究院提升了粤港地区及我国先进制造业和现代服务业的自主创新能力,推动我国自主知识产权新工业的建立,成为国际一流的工业研究院。 深圳先进院目前已初步构建了以科研为主的集科研、教育、产业、资本为一体的微型协同创新生AC态系统,由九个研究平台,国科大深圳先进技术学院,多个特色产业育成基地、多支产业发展基金、多个具有独立法人资质的新型专业科研机构等组成。开展先进技术研究,促进科技发展。信息、电子、通讯技术研究新材料、新能源技术研究高性能计算、自动化、精密机械研究生物医学与医疗仪器研究相关学历教育、博士后培养与学术交流。
成果资料
产业化落地方案