もしあなたの仮釈放の審査が、たまたま審査官の昼食の直前に回ってきたら——それだけで、通る確率はほぼゼロに近づいていた、という研究があります。
イスラエルの仮釈放委員会を対象にした研究では、同じような内容の申請でも、審査されたタイミングによって結果が大きく変わっていたことが報告されています。食事の直後は約65%が許可されていたのに、次の休憩までのあいだに、その割合はほとんどゼロまで下がっていくというのです。
心理学・行動経済学の世界では、こうした「同じ事案・同じ人の判断なのに、理由のない要因でバラバラにブレる」現象をノイズ(noise)と呼びます。この記事では、仮釈放審査の研究、アメリカンフットボールの結果が少年の量刑を左右したという研究、そしてアルゴリズムが裁判官の判断をどこまで"安定化"できるかを検証した研究の3本を手がかりに、人間の判断のクセと、AIによる判定との違いを見ていきます。
なぜ人間の判断は"ブレる"のか
裁判官や審査官は、同じ基準・同じ法律のもとで、できるだけ公平に判断しているはずです。少なくとも本人たちはそう思っています。しかし行動科学の研究が繰り返し示してきたのは、人間の判断には、本人も気づかないブレが常に混ざっているという事実でした。
ここで区別しておきたいのが「バイアス」と「ノイズ」です。バイアスはいつも同じ方向にずれること(例:ある審査官はいつも厳しい)。これは比較的見つけやすく、対策も立てやすい偏りです。一方のノイズは、同じ審査官・同じような事案でも、そのときどきで結果が違う方向にバラバラにずれること。ノーベル経済学賞のダニエル・カーネマンらは2021年の著書『NOISE』で、このノイズこそが組織の判断の質を大きく下げているのに、長らく見過ごされてきた問題だと指摘しています。
お腹が空いているとき、好きなチームが負けた翌日、長い審査の列の後半に差しかかって集中力が落ちているとき——。こうした、事案の内容とは一切関係ない要因が、判断にどれだけ混ざり込んでしまうのか。これを定量的に突き止めようとした研究が、複数報告されています。
実験:仮釈放審査・少年の量刑・AIによる保釈判定
最もよく引用される研究のひとつが、Shai Danziger、Jonathan Levav、Liora Avnaim-Pesoによる2011年の論文です(『米国科学アカデミー紀要(PNAS)』)。イスラエルの刑務所にいる受刑者の仮釈放を審査する8人の裁判官を対象に、約10か月間・50日分・1,112件の審査を記録・分析しました。
裁判官たちは1日に3回の「審査セッション」をこなし、セッションの間に軽食休憩と昼食休憩を取ります。研究チームは、個々の審査結果を「その日の何番目に審査されたか」「直前の休憩からどれくらい時間が経っているか」という観点で並べ直しました。
もう一つの研究は、Ozkan ErenとNaci Mocanが2018年に『American Economic Journal: Applied Economics』で発表した論文です。アメリカ・ルイジアナ州の少年裁判所の記録(1996〜2012年)と、州立大学のアメリカンフットボールチームの試合結果を組み合わせ、「大学チームが"番狂わせ"で負けた直後の週」に、同州の裁判官が下す少年への量刑がどう変わるかを分析しました。
そして3本目は、Jon Kleinbergらの研究グループが2017〜2018年にかけて発表した論文です(『Quarterly Journal of Economics』)。ニューヨーク市の実際の保釈審査データを使い、機械学習アルゴリズムが被告の再犯リスクを予測した場合、裁判官の実際の判断とどれくらいズレるかをシミュレーションで比較しました。
結果:休憩の直前と直後で、通過率が65%からほぼ0%に
Danzigerらの論文では、各セッションの冒頭(休憩を終えた直後)に審査された案件の仮釈放許可率は約65%だったと報告されています。しかし同じセッションが進むにつれて許可率は徐々に下がり、次の休憩の直前にはほぼ0%近くまで落ち込み、休憩を挟むとまた65%前後に戻る——という波のようなパターンが、3つのセッションすべてで繰り返し観察されました。
Eren&Mocanの研究では、州の代表的な大学フットボールチームが「勝つと予想されていたのに負けた」翌週、少年裁判所が下す量刑が重くなる傾向が報告されています。反対に、予想通りの勝敗や、僅差の接戦で負けた場合には、この効果は見られませんでした。同じ少年・同じ非行内容であっても、担当裁判官の"機嫌"が量刑に混ざり込んでいた可能性を示す結果です。
そしてKleinbergらの研究では、アルゴリズムが下す保釈判定を使った場合のシミュレーションとして、犯罪率を増やさずに収容者数を最大41.9%減らせる、あるいは収容率を変えずに犯罪を最大24.7%減らせるという結果が報告されています。つまり、アルゴリズムは実際の裁判官たちが「本来なら釈放してよかったはずの低リスクの被告」を、見逃さずに拾い上げられていたということです。
なぜこうなるのか
メカニズムについてはいくつかの説明が提案されています。ひとつは意思決定の疲労(decision fatigue)です。判断を重ねるたびに脳の中で選択肢を吟味する資源が少しずつ減っていき、疲れてくると「現状維持(=今回は許可しない)」という楽な選択に流れやすくなる、という考え方です。
もうひとつは気分を情報として使ってしまうという説明です。本来は「今日の天気」を聞かれているのに、うっかり「今日の自分の機嫌」を答えてしまうようなもの。応援チームが負けて不機嫌なとき、脳はその不機嫌の"原因"を取り違え、目の前の少年の行いそのものが悪いかのように感じてしまう、という仕組みが提案されています。
対してアルゴリズムは疲労もしませんし、昨夜の試合結果も知りません。同じ入力には、いつも同じ基準で同じ出力を返す。これがKleinbergらの研究が示した"ブレの少なさ"の正体です。
この話、こう使える
自分が裁判官でなくても、この話は意外と身近です。面接、査定、成績評価、採用——人が人を評価する場面はいくらでもあります。研究から持ち帰れる、実践的な工夫は3つです。
注意点:この研究の限界
ここまで読むと「人間はダメ、AIは万能」と結論づけたくなりますが、どちらの研究にも限界があり、そう単純ではありません。
- Eren&Mocanの研究は1つの州・1つの時代に限られる。 ルイジアナ州の、特定の大学フットボールチームと少年裁判所という組み合わせでの分析です。フットボール文化のない国や地域、別の裁判制度にそのまま当てはまるとは限りません。
- Kleinbergらの結果はシミュレーション(机上の推定)である。 実際にアルゴリズムへ判断を置き換えて運用した結果ではなく、過去のデータを使った比較計算です。現実に導入すれば、説明責任を誰が負うかなど別の問題が新たに生じる可能性があります。
- アルゴリズムは「ブレない」が「公平」とは限らない。 学習データに過去の人間の判断の偏りが含まれていれば、アルゴリズムはそれを一貫して繰り返してしまいます。「ブレが少ない」ことと「正しい」ことは別の問題だと研究者たちも注意を促しています。
要するに、この話が示しているのは「AIがいつも正しい」ということではなく、人間の判断には、本人も気づかない"気分由来のブレ"が確実に混ざっているという、地味だけれど見過ごせない事実です。
よくある質問
今日の3行まとめ
応援チームの"番狂わせの負け"が、翌週の少年への量刑を重くしていたという研究もあります。
アルゴリズムは気分や疲労に左右されず"ブレ"が少ない一方、学習データの偏りはそのまま引き継ぐ――「ブレない」と「正しい」は別問題です。
人の判断のクセに興味を持った方は、サイエンスラボの他の心理学系の記事もあわせてどうぞ。自分自身の学習計画にAIをどう組み込むかは、AIで英語を学ぶでプロンプト例とともに紹介しています。
その日の気分や疲労で、学習計画そのものが左右されていませんか。AIに進捗チェックを任せ、自分の感覚とは別に客観的な基準を持っておくと、ブレの少ない学習サイクルを作れます。
AIで英語を学ぶ方法を見てみる →参考文献
- Danziger, S., Levav, J., & Avnaim-Pesso, L. (2011). Extraneous factors in judicial decisions. Proceedings of the National Academy of Sciences, 108(17), 6889–6892. 論文を見る
- Weinshall-Margel, K., & Shapard, J. (2011). Overlooked factors in the analysis of parole decisions. Proceedings of the National Academy of Sciences, 108(42), E833. 論文を見る
- Eren, O., & Mocan, N. (2018). Emotional Judges and Unlucky Juveniles. American Economic Journal: Applied Economics, 10(3), 171–205. 論文を見る
- Kleinberg, J., Lakkaraju, H., Leskovec, J., Ludwig, J., & Mullainathan, S. (2018). Human Decisions and Machine Predictions. Quarterly Journal of Economics, 133(1), 237–293. 論文を見る
- Kahneman, D., Sibony, O., & Sunstein, C. R. (2021). Noise: A Flaw in Human Judgment. Little, Brown Spark.