バッチモードアクティブ学習アルゴリズムのRBFカーネルパラメーターの自動調整：スケーラブルなフレームワーク

Batch-Mode Active Learning Algorithmsは、すべての非標識サンプルにラベルを付けるための総コストを削減するために、手動で注釈を付けるために、貴重な非標識サンプルのバッチを選択できます。貴重な非標識サンプルの選択を容易にするために、多くのバッチモードアクティブ学習アルゴリズムマップサンプルは、ラジアル塩基関数（RBF）カーネルによって誘導されるカーネルヒルベルトスペースにサンプルをマップします。RBFカーネルのパラメーターに適切な値を設定することは、このようなバッチモードアクティブ学習アルゴリズムにとって重要です。この論文では、カーネルパラメーターの自動調整のために、仮説マージンベースの基準関数が提案されています。また、既存のバッチモデルアクティブ学習アルゴリズムを備えたカーネルパラメーターの自動調整の関数を組み込むために、3つのフレームワークも開発されています。提案されているフレームワークでは、カーネルパラメーターを単一の段階または複数の段階で調整できます。単一段階でカーネルパラメーターを調整すると、カーネルパラメーターが、指定された数の非標識サンプルを選択するのに適していることを目的としています。カーネルパラメーターが複数の段階で調整されている場合、組み込まれたアクティブ学習アルゴリズムを強制して、非標識サンプルの重要性の粗からファインまでの評価を行うことができます。提案されたフレームワークは、分解プロパティを満たす既存のバッチモードアクティブ学習アルゴリズムのスケーラビリティを改善することもできます。数十万から数十万のサンプルを含むデータセットの実験結果は、提案されたフレームワークの実現可能性を示しています。

Batch-mode active learning algorithms can select a batch of valuable unlabeled samples to manually annotate for reducing the total cost of labeling every unlabeled sample. To facilitate selection of valuable unlabeled samples, many batch-mode active learning algorithms map samples to the reproducing kernel Hilbert space induced by a radial-basis function (RBF) kernel. Setting a proper value to the parameter for the RBF kernel is crucial for such batch-mode active learning algorithms. In this paper, for automatic tuning of the kernel parameter, a hypothesis-margin-based criterion function is proposed. Three frameworks are also developed to incorporate the function of automatic tuning of the kernel parameter with existing batch-model active learning algorithms. In the proposed frameworks, the kernel parameter can be tuned in a single stage or in multiple stages. Tuning the kernel parameter in a single stage aims for the kernel parameter to be suitable for selecting the specified number of unlabeled samples. When the kernel parameter is tuned in multiple stages, the incorporated active learning algorithm can be enforced to make coarse-to-fine evaluations of the importance of unlabeled samples. The proposed framework can also improve the scalability of existing batch-mode active learning algorithms satisfying a decomposition property. Experimental results on data sets comprising hundreds to hundreds of thousands of samples have shown the feasibility of the proposed framework.