常識的な道徳理論を学ぶ

私たちは、道徳学習の構造とダイナミクスを理解するための計算の枠組みを紹介し、人々が社会グループやより大きな社会のさまざまな個人の利益と福祉をトレードオフすることをどのように学ぶかに焦点を当てています。私たちは、この学習問題を解決できる最小限の認知能力セットを仮定します。（1）福祉のトレードオフを定量的に表す抽象的で再帰的なユーティリティ計算。（2）他者の行動と判断を理解するための階層的なベイジアン推論。（3）他者の価値の外部と内部的に、価値の両方の調整による学習のメタ値と、道徳的理論を自分の愛着と感情と一致させる。私たちのモデルは、小さな個人がどのように道徳的な決定を幅広い道徳的能力にしているかについてのまばらな騒々しい観察からどのように構築できるかを説明します。また、道徳的な変化が急速に進行し、数世代にわたって大幅に変化する可能性がある場合、およびそれがよりゆっくりと移動する可能性が高い場合を含む、時間の間の道徳的変化の原因とダイナミクスについての洞察を提供します。

We introduce a computational framework for understanding the structure and dynamics of moral learning, with a focus on how people learn to trade off the interests and welfare of different individuals in their social groups and the larger society. We posit a minimal set of cognitive capacities that together can solve this learning problem: (1) an abstract and recursive utility calculus to quantitatively represent welfare trade-offs; (2) hierarchical Bayesian inference to understand the actions and judgments of others; and (3) meta-values for learning by value alignment both externally to the values of others and internally to make moral theories consistent with one's own attachments and feelings. Our model explains how children can build from sparse noisy observations of how a small set of individuals make moral decisions to a broad moral competence, able to support an infinite range of judgments and decisions that generalizes even to people they have never met and situations they have not been in or observed. It also provides insight into the causes and dynamics of moral change across time, including cases when moral change can be rapidly progressive, changing values significantly in just a few generations, and cases when it is likely to move more slowly.