Loading...
Neural networks : the official journal of the International Neural Network Society2024May20Vol.177issue()

マルチドメイン適応のためのアクティブな動的重み付け

,
,
,
,
文献タイプ:
  • Journal Article
概要
Abstract

マルチソースのないドメインの適応は、複数のラベル付きソースドメインから非標識ターゲットドメインに知識を転送することを目的としています。既存の方法は、さまざまなドメインにわたって分布の混合を求めるか、意思決定プロセスにおける加重融合のための複数の単一ソースモデルを組み合わせて、異なるソースドメインとターゲットドメイン間の分布の矛盾についての洞察はほとんどありません。異なるドメイン間のグローバルおよびローカルの特徴分布の不一致と、ドメイン全体でカテゴリ境界を取得する複雑さを考慮すると、このペーパーでは、マルチソースドメイン適応のための新しいアクティブダイナミック重み付け(ADW)を提案します。具体的には、ソースドメインで局所的に有利な機能を効果的に利用するために、ADWは、トレーニングプロセス中にマルチソースの動的調整メカニズムを設計し、トレーニングバッチの各ソースドメインとターゲットドメイン間の特徴アライメントの程度を動的に制御します。さらに、クロスドメインのカテゴリを区別できるようにするために、ADWは動的境界損失を考案して、決定境界の近くのハードサンプルに焦点を合わせてモデルを導き、決定境界の明確さを高め、モデルの分類能力を改善します。一方、ADWは、動的境界損失に導かれ、最小限の注釈予算で注釈を付けるためのターゲットドメインハードサンプルを選択する効率的な重要性サンプリング戦略を提案し、最小限の注釈予算で注釈を付け、トレーニングプロセスに統合するための効率的な重要性サンプリング戦略を提案して、マルチソースなしの監視なしドメイン適応に初めてアクティブな学習を適用します。、そして、カテゴリレベルでドメインアライメントをさらに洗練します。さまざまなベンチマークデータセットでの実験は、私たちの方法の優位性を一貫して示しています。

マルチソースのないドメインの適応は、複数のラベル付きソースドメインから非標識ターゲットドメインに知識を転送することを目的としています。既存の方法は、さまざまなドメインにわたって分布の混合を求めるか、意思決定プロセスにおける加重融合のための複数の単一ソースモデルを組み合わせて、異なるソースドメインとターゲットドメイン間の分布の矛盾についての洞察はほとんどありません。異なるドメイン間のグローバルおよびローカルの特徴分布の不一致と、ドメイン全体でカテゴリ境界を取得する複雑さを考慮すると、このペーパーでは、マルチソースドメイン適応のための新しいアクティブダイナミック重み付け(ADW)を提案します。具体的には、ソースドメインで局所的に有利な機能を効果的に利用するために、ADWは、トレーニングプロセス中にマルチソースの動的調整メカニズムを設計し、トレーニングバッチの各ソースドメインとターゲットドメイン間の特徴アライメントの程度を動的に制御します。さらに、クロスドメインのカテゴリを区別できるようにするために、ADWは動的境界損失を考案して、決定境界の近くのハードサンプルに焦点を合わせてモデルを導き、決定境界の明確さを高め、モデルの分類能力を改善します。一方、ADWは、動的境界損失に導かれ、最小限の注釈予算で注釈を付けるためのターゲットドメインハードサンプルを選択する効率的な重要性サンプリング戦略を提案し、最小限の注釈予算で注釈を付け、トレーニングプロセスに統合するための効率的な重要性サンプリング戦略を提案して、マルチソースなしの監視なしドメイン適応に初めてアクティブな学習を適用します。、そして、カテゴリレベルでドメインアライメントをさらに洗練します。さまざまなベンチマークデータセットでの実験は、私たちの方法の優位性を一貫して示しています。

Multi-source unsupervised domain adaptation aims to transfer knowledge from multiple labeled source domains to an unlabeled target domain. Existing methods either seek a mixture of distributions across various domains or combine multiple single-source models for weighted fusion in the decision process, with little insight into the distributional discrepancy between different source domains and the target domain. Considering the discrepancies in global and local feature distributions between different domains and the complexity of obtaining category boundaries across domains, this paper proposes a novel Active Dynamic Weighting (ADW) for multi-source domain adaptation. Specifically, to effectively utilize the locally advantageous features in the source domains, ADW designs a multi-source dynamic adjustment mechanism during the training process to dynamically control the degree of feature alignment between each source and target domain in the training batch. In addition, to ensure the cross-domain categories can be distinguished, ADW devises a dynamic boundary loss to guide the model to focus on the hard samples near the decision boundary, which enhances the clarity of the decision boundary and improves the model's classification ability. Meanwhile, ADW applies active learning to multi-source unsupervised domain adaptation for the first time, guided by dynamic boundary loss, proposes an efficient importance sampling strategy to select target domain hard samples to annotate at a minimal annotation budget, integrates it into the training process, and further refines the domain alignment at the category level. Experiments on various benchmark datasets consistently demonstrate the superiority of our method.

医師のための臨床サポートサービス

ヒポクラ x マイナビのご紹介

無料会員登録していただくと、さらに便利で効率的な検索が可能になります。

Translated by Google