AI決定のサポートにおける自動化バイアス：経験的研究の結果

はじめに：自動化バイアスは、臨床意思決定支援システム（CDSS）の有効性に大きな課題をもたらし、診断の精度を損なう可能性があります。以前の研究は、主要な決定要因としての信頼、自信、およびタスクの難易度を強調しています。AI対応CDSの可用性が向上するため、自動化バイアスは新しい注目を集めます。したがって、この研究は、診断タスクの自動化バイアスに影響を与える要因を特定することを目的としています。 方法：潜在的な因子を分析するために回帰分析を採用して、異なる背景の参加者（n = 210）を対象とした定量的介入研究が実施されました。自動化バイアスは、間違ったAI対応の推奨事項を伴う契約率として測定されました。 結果と議論：診断パフォーマンス、認定された創傷ケアトレーニング、医師の職業、および女性の性別は、誤った契約率を大幅に低下させました。システムの知覚された利益が高いことは、虚偽の合意の促進と有意に関連していました。包括的な診断トレーニングのような戦略は、CDSを実装する際の自動化バイアスの防止において極めて重要です。 結論：CDSSを導入する際に自動化バイアスに影響を与える要因を考慮することは、そのようなシステムの利点を完全に活用するために重要です。この研究では、CDSSから最大限の利益を得ることができる非専門家も、このリスクを軽減し、診断の精度と患者の安全を確保するための専門的なトレーニングの必要性を強調していることを強調しています。

INTRODUCTION: Automation bias poses a significant challenge to the effectiveness of Clinical Decision Support Systems (CDSS), potentially compromising diagnostic accuracy. Previous research highlights trust, self-confidence, and task difficulty as key determinants. With the increasing availability of AI-enabled CDSS, automation bias attains new attention. This study therefore aims to identify factors influencing automation bias in a diagnostic task. METHODS: A quantitative intervention study with participants from different backgrounds (n = 210) was conducted, employing regression analysis to analyze potential factors. Automation bias was measured as the agreement rate with wrong AI-enabled recommendations. RESULTS AND DISCUSSION: Diagnostic performance, certified wound care training, physician profession, and female gender significantly reduced false agreement rates. Higher perceived benefit of the system was significantly associated with promoting false agreement. Strategies like comprehensive diagnostic training are pivotal in the prevention of automation bias when implementing CDSS. CONCLUSION: Considering factors influencing automation bias when introducing a CDSS is critical to fully leverage the benefits of such a system. This study highlights that non-specialists, who stand to gain the most from CDSS, are also the most susceptible to automation bias, emphasizing the need for specialized training to mitigate this risk and ensure diagnostic accuracy and patient safety.