Heuristic Domain Adaptation

[nocotan]

一言でいうと

ヒューリスティクス探索の概念に基づくドメイン適応の手法を提案．

論文リンク

https://papers.nips.cc/paper/2020/file/555d6702c950ecb729a966504af0a635-Paper.pdf

著者/所属機関

Shuhao Cui et al. (Key Lab of Intell. Info. Process., Inst. of Comput. Tech.)

投稿日付(yyyy/MM/dd)

2020/12

概要

ドメイン適応において，ドメイン特有の情報をドメイン不変な情報と区別するという問題は不良設定問題に当たる．
既存の手法は，異なる事前分布を用いたり，直接Domain Discrepancyを最小化することでこの問題に取り組んできたが，こうしたアプローチは現実的な問題に適用する際に柔軟性が足りない．
本研究では，ドメイン特有の情報をドメイン不変な情報の区別をヒューリスティクスな探索によって解くことを考える．

新規性・差分

• ドメイン固有の表現をヒューリスティックに利用してドメイン不変の表現を得るフレームワークであるHDAを提案
• より包括的にこれらを区別するための3つのヒューリスティクス制約を提案し，より良いドメイン不変表現の構築を実現
• HDAフレームワークにのっとったHeuristic Domain Adaptation Networkを実装し，SOTAを達成

手法

以下の仮定に基づいて手法を構築していく：

ヒューリスティクス制約の元，例えばUnsupervised Domain Adaptationの損失関数は以下で与えられる：

結果

コメント