近日,TIME实验室2021级博士生何润东和2022级硕士生袁月一篇论文“Discriminability-Driven Channel Selection for Out-of-Distribution Detection”(作者:袁月,何润东,董奕聪,韩忠义,尹义龙)被CVPR2024会议录用。CVPR是国际计算机视觉顶尖和权威学术会议之一,属于CCF A类会议。
分布外检测(OOD Detection)对于在开放世界环境中部署机器学习模型至关重要。基于激活的方法是分布外检测中的一个关键途径,其目的是缓解对分布外数据的过度自信预测。这些技术通过纠正异常激活,增强了分布内(ID)数据与OOD数据之间的可区分性。然而,它们默认假设每个通道对分布外检测都是同等重要的,并且纠正每个通道中的异常激活。实证表明,在分布外检测中,各个通道之间存在显著差异,丢弃某些通道可以大幅度提高分布外检测的性能。基于这一见解,我们提出了Discriminability-DrivenChannel Selection~(DDCS),它通过估计每个通道的判别得分来实现自适应通道选择,以提升分布外检测。判别得分考虑了训练数据的类间相似性和类间方差。然而,判别分数的估计本身就容易受到异常激活的影响。为了更好地估计得分,我们对每个通道的异常激活进行了预纠正手段。实验结果显示,DDCS在CIFAR和ImageNet-1K基准测试上实现了最先进的性能。此外,DDCS可以泛化到不同的骨干网络和分布外不确定性估计方法。