A Balanced and Uncertainty-Aware Approach for Partial Domain Adaptation'ECCV 20
이걸 왜때문에 BA3US라고 하는건가 했더니 A가 keyword로 3개(Aware approach adaptation) 들어가서 그런가?
목적 : 이거 겁나 많이 언급되는 논문임 나름 DA영역에서 네임드임에 틀림없다 나도 세 번 봄
https://www.ecva.net/papers/eccv_2020/papers_ECCV/papers/123560120.pdf
Abstract.
This work addresses the unsupervised domain adaptation problem, especially in the case of class labels in the target domain being only a subset of those in the source domain. Such a partial transfer setting is realistic but challenging and existing methods always suffer from two key problems, negative transfer and uncertainty propagation. In this paper, we build on domain adversarial learning and propose a novel domain adaptation method BA3US with two new techniques termed Balanced Adversarial Alignment (BAA) and Adaptive Uncertainty Suppression (AUS), respectively.
On one hand, negative transfer results in misclassification of target samples to the classes only present in the source domain. To address this issue, BAA pursues the balance between label distributions across domains in a fairly simple manner. Specifically, it randomly leverages a few source samples to augment the smaller target domain during domain alignment so that classes in different domains are symmetric.
On the other hand, a source sample would be denoted as uncertain if there is an incorrect class that has a relatively high prediction score, and such uncertainty easily propagates to unlabeled target data around it during alignment, which severely deteriorates adaptation performance. Thus we present AUS that emphasizes uncertain samples and exploits an adaptive weighted complement entropy objective to encourage incorrect classes to have uniform and low prediction scores.
Experimental results on multiple benchmarks demonstrate our BA3US surpasses state-of-the-arts for partial domain adaptation tasks. Code is available at https://github.com/tim-learn/BA3US.
이 연구는 비지도 도메인 적응 문제를 다루며, 특히 타겟 도메인의 클래스 레이블이 소스 도메인의 클래스 레이블의 부분 집합일 경우를 중점으로 합니다. 이러한 부분 전이 설정은 현실적이지만 도전적이며, 기존 방법들은 항상 두 가지 주요 문제, 즉 네거티브 전이와 불확실성 전파로 고통받습니다. 이 논문에서는 도메인 적대적 학습을 기반으로 새로운 도메인 적응 방법인 BA3US를 제안하며, 두 가지 새로운 기술인 균형 적대적 정렬(BAA)과 적응형 불확실성 억제(AUS)를 도입합니다.
한편, 네거티브 전이는 타겟 샘플이 소스 도메인에만 존재하는 클래스로 오분류되는 결과를 초래합니다. 이 문제를 해결하기 위해 BAA는 도메인 간의 레이블 분포 간의 균형을 단순한 방식으로 추구합니다. 구체적으로, 도메인 정렬 중에 소수의 소스 샘플을 무작위로 활용하여 작은 타겟 도메인을 증강함으로써 다른 도메인의 클래스들이 대칭적으로 되도록 합니다.
다른 한편으로, 소스 샘플은 잘못된 클래스가 상대적으로 높은 예측 점수를 가질 경우 불확실한 것으로 간주되며, 이러한 불확실성은 정렬 중에 그 주변의 레이블이 없는 타겟 데이터로 쉽게 전파되어 적응 성능을 심각하게 저하시킵니다. 따라서 우리는 불확실한 샘플을 강조하고 잘못된 클래스가 균일하고 낮은 예측 점수를 갖도록 장려하는 적응형 가중치 보완 엔트로피 목적을 활용하는 AUS를 제시합니다.
다수의 벤치마크에 대한 실험 결과, 우리의 BA3US가 부분 도메인 적응 작업에서 최신 기술을 능가함을 입증합니다. 코드는 https://github.com/tim-learn/BA3US에서 이용할 수 있습니다.