近日,实验室2021级硕士生王帆一篇论文“Exploring Domain-Invariant Parameters for Source Free Domain Adaptation”(作者:王帆,韩忠义,宫永顺,尹义龙)被CVPR2022会议录用。CVPR是国际人工智能顶尖和权威学术会议之一,属于CCF A类会议。
源域无关领域自适应(SFDA)的出现是为了将已经训练好的源域模型中存在的相关知识转移到无标签的目标领域,这种场景在各种隐私保护的情况下是至关重要的。大多数现有的方法专注于学习完全依赖于目标数据的领域不变的表征,导致其获得的表征可能是目标域特有的。这样一来,他们就不能完全解决跨领域的分布转移问题。相比之下,我们提供了一个不同的见解:与其试图学习领域不变的表征,不如探索源模型的领域不变参数。这一见解背后的动机在于领域不变的表征可能只被深度源模型中的部分参数所支配。我们设计了领域不变参数探索(DIPE)的方法来捕捉源域模型中的这种领域不变参数,以产生领域不变表征。对两种类型的参数,即域不变参数和域特有参数,我们设计了相应的方法来区分,并提出一种有效的更新方法,同时提出一种聚类纠正的技巧和一个可学习的目标域分类器。