一种利用行列式点过程的采样方法及装置
成果类型:: 发明专利
发布时间: 2023-09-26 16:50:21
自监督学习旨在通过使用仅基于输入功能生成的伪标签来求解辅助预测任务(或借口任务)来提取语义特征。尽管已经提出了各种任务以进行自我监督的学习,但一个直观的想法是通过从损坏的结构中恢复原始数据来学习表示。图像掩码自监督学习就是通过重建掩码过后的图像这一任务来达到特征学习的目的。这种方法首先由DenoisingAutoencoder引入,并在自然语言处理的应用中取得重大进展。该方法已经成为了自然语言处理中的例行程序。受益于新的神经网络架构,例如ViT等,图像掩码自监督学习正变得越来越流行。
本发明实施例中的利用行列式点过程的采样方法及装置,首先构建DPP概率模型,再使用DPP概率模型将图像掩码过程建模为行列式点过程,利用行列式点过程选取多样化的图像块,其中选取的图像块尽可能多的保留原图所包含的信息。可以为网络选取出更具有代表性的掩码后图像,减轻语义信息不对称对深度神经网络特征学习的影响,提升网络在下游任务的性能。
技术合作
集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本发明各个实施例方法的全部或部分步骤。而前述的存储介质包括:U盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。