科创中国

为了帮助模型更好的从无标注数据中学习肿瘤区域的信息以摆脱训练模型时对带标注训练数据的依赖，在现有框架基础上，采用半监督结合知识蒸馏的训练策略，即采用预训练好的教师模型蒸馏训练学生模型，蒸馏训练时只采用少部分带有标注的训练数据。 对教师网络输入带有标注的数据进行预训练，随后在蒸馏训练时，同时对学生网络和教师网络输入带有标注的数据和大量无标注的数据。对于大量无分割标注的训练数据，设计了一个几何结构先验的损失约束。几何结构约束指对蒸馏训练中教师网络和学生网络编码器提取到的深层高维度空间几何特征进行降维，并通过设计对比损失约束无标注训练样本在学生网络与教师网络编码特征中空间结构中体素级别的差异。在一个实施例中，为了能够更有效地使教师模型的模态信息被学生模型捕捉，蒸馏训练时学生模型的权重使用教师模型的指数移动平均来进行更新。通过这种设计，利用教师网络学习到的几何结构先验来指导学生网络的训练，有利于获得更精确的分割效果，弥补了采用大量无标注数据进行训练可能导致的精确度不高的问题。