バイアスと差別を超えて：ヘルスケア機械学習アルゴリズムにおける公平性のAI倫理原則の再定義

マシンラーニング（ML）アルゴリズムの実装と依存度の増加と、タスクを実行し、サービスを提供し、ヘルスとヘルスケアで意思決定を行うことにより、ML、より具体的にはヘルスケアMLアルゴリズム（HMLA）の公平性が必要になりました。そして緊急の仕事。しかし、人工知能（AI）とHMLAでの公平性に関する議論は、過去10年間で大幅に成長しましたが、倫理的価値としての公平性の概念はまだ十分に調査されていません。私たちの論文の目的は、このギャップを埋め、概念的な観点から公平性のAI倫理原則に対処し、道徳哲学で詳述された公平性の説明からの洞察を引き出し、それらを使用して公平性を倫理的価値として概念化し、それに応じてHMLAの公平性を再定義するために使用することを目的としています。私たちの目標を達成するために、第2セクションで、論文の背景、方法論、構造を明確にすることを目的とした最初のセクションに従って、HMLAのAI倫理原則の議論の概要を説明し、公平性の概念を示しています根底にあるこの議論は、純粋に分配的な用語で囲まれ、非差別と重複しています。これは、バイアスの存在なしに定義されます。このフレーミングが不十分であることを示した後、3番目のセクションでは、公平性の概念に関する倫理的調査を追求し、公平性は倫理的価値として考えられるべきであると主張します。公平性と非差別の関係の明確化に続いて、2つは重複せず、公平性には単なる差別的なもの以上のものを必要とすることが示されます。さらに、この公平性には分配性だけでなく、社会関係の側面もあることを強調しています。最後に、公平性の構成要素を特定します。そうすることで、私たちは、個々の人に敬意を払うために平等な敬意の考えを超えて、尊敬の概念に関する新たな反省に基づいて議論をします。4番目のセクションでは、HMLAの公平性の議論における倫理的価値としての公平性の概念的な再定義の意味を分析します。ここでは、公平性には非差別以上のものが必要であり、バイアスの欠如だけでなく、単なる分布以上のものが必要であると主張しています。HMLAが人と特定の個人の両方として人を尊重することを保証する必要があります。最後に、5番目のセクションでは、いくつかのより広い意味をスケッチし、私たちの調査がHMLAの作成に貢献し、より一般的にはAIが社会的利益とより公平な社会を促進する方法を示します。

The increasing implementation of and reliance on machine-learning (ML) algorithms to perform tasks, deliver services and make decisions in health and healthcare have made the need for fairness in ML, and more specifically in healthcare ML algorithms (HMLA), a very important and urgent task. However, while the debate on fairness in the ethics of artificial intelligence (AI) and in HMLA has grown significantly over the last decade, the very concept of fairness as an ethical value has not yet been sufficiently explored. Our paper aims to fill this gap and address the AI ethics principle of fairness from a conceptual standpoint, drawing insights from accounts of fairness elaborated in moral philosophy and using them to conceptualise fairness as an ethical value and to redefine fairness in HMLA accordingly. To achieve our goal, following a first section aimed at clarifying the background, methodology and structure of the paper, in the second section, we provide an overview of the discussion of the AI ethics principle of fairness in HMLA and show that the concept of fairness underlying this debate is framed in purely distributive terms and overlaps with non-discrimination, which is defined in turn as the absence of biases. After showing that this framing is inadequate, in the third section, we pursue an ethical inquiry into the concept of fairness and argue that fairness ought to be conceived of as an ethical value. Following a clarification of the relationship between fairness and non-discrimination, we show that the two do not overlap and that fairness requires much more than just non-discrimination. Moreover, we highlight that fairness not only has a distributive but also a socio-relational dimension. Finally, we pinpoint the constitutive components of fairness. In doing so, we base our arguments on a renewed reflection on the concept of respect, which goes beyond the idea of equal respect to include respect for individual persons. In the fourth section, we analyse the implications of our conceptual redefinition of fairness as an ethical value in the discussion of fairness in HMLA. Here, we claim that fairness requires more than non-discrimination and the absence of biases as well as more than just distribution; it needs to ensure that HMLA respects persons both as persons and as particular individuals. Finally, in the fifth section, we sketch some broader implications and show how our inquiry can contribute to making HMLA and, more generally, AI promote the social good and a fairer society.