カーナビが一度だけ変なルートを案内した。翻訳アプリが一度だけ妙な訳を返した。それだけで「もうこのAIは信用できない」と感じたことはないでしょうか。ところが、隣の同僚が同じレベルのミスをしても、私たちは驚くほどあっさり許してしまいます。
この非対称な反応は、心理学の実験で繰り返し確認されている現象です。しかも話はもう一段ねじれていて、多くの場面で人は逆にAIの助言に頼りすぎることも分かっています。しかもその「頼りすぎ」を最も苦手とするのが、実はその道の"プロ"だという報告まであります。
ペンシルベニア大学、カリフォルニア大学バークレー校、インペリアル・カレッジ・ロンドンなどの研究チームが積み重ねてきた「アルゴリズム嫌悪」と「アルゴリズム重視」という2つの正反対の心理を、実際の研究データとともに見ていきましょう。
なぜ人はアルゴリズムを信じたり、信じなかったりするのか
天気予報から在庫予測、医療診断の補助まで、統計的なアルゴリズム(=データにもとづいて計算する予測モデル)が人間の予測を上回る場面は珍しくありません。実際、Dietvorst、Simmons、Masseyの2015年の論文でも、「エビデンスにもとづくアルゴリズムは、人間の予測者よりも正確に将来を予測することが多い」という前提から議論が始まっています。
それなら、優れたアルゴリズムがあるなら人は素直にそれを使えばいい話です。ところが現実はそう単純ではありません。ある場面では人はアルゴリズムを毛嫌いし、別の場面ではむしろ頼りすぎる。研究者たちはこの2つの逆向きの現象を、それぞれ「アルゴリズム嫌悪(algorithm aversion)」と「アルゴリズム重視(algorithm appreciation)」と名付けて調べてきました。
実験1:アルゴリズムのミスを"見た"だけで、人は信用しなくなる
この分野で最も引用されている研究のひとつが、Berkeley J. Dietvorst、Joseph P. Simmons、Cade Masseyが2015年に『Journal of Experimental Psychology: General』誌で発表した論文です。
研究チームは5つの実験を行いました。参加者は、アルゴリズムが将来を予測する様子、人間の予測者が同じ課題に取り組む様子、その両方、あるいはどちらも見ないまま、次の予測を「アルゴリズムの成績」か「人間の成績」のどちらに賭けるかを選ばされます。
結果は明快でした。アルゴリズムの予測が外れる場面を実際に見た参加者は、そのアルゴリズムへの自信をはっきり失い、たとえそのアルゴリズムが人間より優れた成績を残していた場合でも、成績の劣る人間の予測者を選ぶ傾向が強まったのです。論文は、人は人間の間違いよりもアルゴリズムの間違いを目にしたときの方が、より早く自信を失うと結論づけています。
実験2:なのに別の場面では、人はAIを信じすぎる
ところが話はこれで終わりません。Jennifer M. Logg、Julia Minson、Don A. Mooreが2019年に『Organizational Behavior and Human Decision Processes』誌で発表した研究では、まったく逆の現象が報告されています。
6つの実験を通じて調べられたのは、人が「アルゴリズムからの助言」と「人間からの助言」に、それぞれどれくらい自分の判断を近づけるか(Weight of Advice=助言にどれだけ重みを置くか、という指標)でした。写真に写ったものの数を見積もる課題、楽曲の人気を予想する課題、相性を予測する課題など、複数の場面で調べたところ、参加者は人間からの助言よりもアルゴリズムからの助言に、より強く自分の判断を寄せるという結果が繰り返し確認されました。
興味深いことに、この論文の著者たち自身、実験を始める前に他の研究者にどちらの結果になりそうか予想してもらったところ、多くの研究者は「人は人間の助言をより重視するはずだ」と予想していました。実際に得られた結果は、その予想とは逆だったのです。
ただし、この"アルゴリズム重視"には大きな例外がありました。天気予報の専門家など、日常的に予測業務を行っている人たちを対象にした実験では、専門家は一般の参加者よりもアルゴリズムの助言を軽視し、その結果として的中率がかえって下がっていたと報告されています。皮肉なことに、経験や自信があるほど、優れた助言を素直に受け取れなくなるようです。
結果:医師157人は、AIの助言をどう扱ったか
「アルゴリズム嫌悪」と「アルゴリズム重視」、どちらの傾向がより実生活に近いのかを確かめるうえで参考になるのが、Bence Pálfi、Kavleen Arora、Olga Kostopoulouがインペリアル・カレッジ・ロンドンで行い、2022年に『Cognitive Research: Principles and Implications』誌に発表した研究です。
この実験には157人の現役GP(一般開業医、平均臨床経験14年)が参加しました。大腸がんの疑いがある架空の患者の症例を提示し、まず医師自身にリスクを見積もってもらったうえで、検証済みのがんリスク計算アルゴリズムの推定値を見せ、最終的な見積もりをもう一度出してもらう、という流れです。
結果は、医師たちの反応が大きく3パターンに分かれることを示していました。
| 医師の反応 | 割合 |
|---|---|
| アルゴリズムの助言を無視し、最初の推定値のまま | 29.0% |
| 部分的に自分の推定値を修正 | 43.8% |
| アルゴリズムの推定値に完全に合わせた | 27.2% |
平均で見ると、医師たちは自分の推定値をアルゴリズムの方向へ約10.2ポイント動かしており、自分の判断とアルゴリズムの判断をほぼ半々の重みで扱っていたことになります(平均のWeight of Advice=0.54)。極端に無視する人も、極端に頼り切る人も一定数いながら、全体としては「話半分に聞く」という現実的な着地点に落ち着いていたわけです。
なぜこんな非対称な反応が起きるのか
3つの研究を並べると、ひとつの共通したパターンが見えてきます。アルゴリズムの「実力」は正しく評価されているのに、「1回のミス」が持つ重みだけが人間の場合と桁違いに大きい、ということです。
会社の同僚にたとえるなら分かりやすいかもしれません。優秀な同僚が一度だけ計算ミスをしても、私たちは「今回はたまたまだろう」と受け流します。ところが新しく導入したAIツールが一度だけ変な出力を返すと、「やっぱりAIは信用できない」と結論づけてしまう。同じ1回のミスなのに、相手が人間かアルゴリズムかで、その後の信頼の落ち方がまったく違うのです。
Dietvorstらの論文は、この理由を「人はアルゴリズムの間違いに対して、人間の間違いよりも早く自信を失う」と表現しています。一方でLoggらの実験が示すように、そもそも助言そのものが「アルゴリズム由来」だと分かっただけで、人はその助言に強く従う傾向もある。つまり人間は、アルゴリズムを「完璧であるべき存在」として過大評価しがちで、その期待が裏切られた瞬間に反動が大きくなる、と考えるとつじつまが合います。
この話、こう使える
この一連の研究から引き出せる教訓は、AIチャットボットや翻訳ツール、レコメンド機能に日常的に触れている私たちにとって、意外と実用的です。
- 1回のミスで見限らない。 翻訳アプリや文法チェッカーが一度おかしな提案をしても、それだけで「使えない」と判断するのは早計かもしれません。それまでの実績全体で判断する意識を持つと、Dietvorstらが指摘する過剰反応を避けやすくなります。
- 「専門家だから大丈夫」を疑う。 Loggらの実験が示すように、経験があるほど有益な助言を軽視してしまう場合があります。自分の得意分野でAIの提案を却下するときほど、一呼吸置いて内容を見直す価値があります。
- 全面採用でも全面無視でもなく、"話半分"を狙う。 Pálfiらの研究で医師たちが実際にとっていたのは、自分の判断とアルゴリズムの判断を半々程度で織り交ぜるスタイルでした。Dietvorstら自身も2018年の別の論文で、アルゴリズムの予測を自分でわずかに修正できる余地があるだけで、人はそのアルゴリズムを使い続けやすくなり、実際の成績も上がったと報告しています。英作文をAIに下書きさせて自分で手を入れる、といった使い方はこの発想に近いものです。AIを使った英語学習でも、同じ距離感が参考になります。
注意点:この研究の限界
- 「アルゴリズム嫌悪」と「アルゴリズム重視」は矛盾しているように見える。 実際、どちらの現象が強く出るかは、課題の種類・専門知識の有無・助言の見せ方によって変わることが、複数のレビュー論文で指摘されています。「AIは常に嫌われる」「AIは常に信頼される」のどちらか一方に単純化するのは誤りです。
- 実験室的な課題が中心。 数値予測や医療の症例判断といった、比較的答えがはっきりした課題で得られた結果です。創作や対人関係の相談など、正解のない領域にそのまま当てはまるとは限りません。
- 参加者は欧米圏が中心。 Dietvorstらの実験参加者は主に米国、Pálfiらの医師は英国のGPです。文化や職業環境が異なる集団でも同じ傾向が出るかは、追加の検証が必要です。
- 相関と解釈の余地。 「専門家ほど的中率が下がった」という結果も、専門知識そのものが原因なのか、専門家に特有の別の要因(業務上のプレッシャーなど)が絡んでいるのか、完全には切り分けられていません。
よくある質問
今日の3行まとめ
特に自分の得意分野では、「経験があるから聞かなくていい」という油断がいちばんの落とし穴です。
AIとの付き合い方をもう少し実践的に知りたい方は、AIで英語を学ぶのガイドもあわせてどうぞ。使えるプロンプトと、AIに任せてはいけないことを具体的にまとめています。
翻訳ツールや添削AIを、頼りすぎず・侮らずに使いこなすコツをまとめました。今日の記事の「話半分の距離感」を、そのまま英語学習に応用できます。
AIで英語を学ぶガイドを見る →参考文献
- Dietvorst, B. J., Simmons, J. P., & Massey, C. (2015). Algorithm Aversion: People Erroneously Avoid Algorithms After Seeing Them Err. Journal of Experimental Psychology: General, 144(1), 114–126. 論文を見る
- Dietvorst, B. J., Simmons, J. P., & Massey, C. (2018). Overcoming Algorithm Aversion: People Will Use Imperfect Algorithms If They Can (Even Slightly) Modify Them. Management Science, 64(3), 1155–1170. 論文を見る
- Logg, J. M., Minson, J. A., & Moore, D. A. (2019). Algorithm Appreciation: People Prefer Algorithmic to Human Judgment. Organizational Behavior and Human Decision Processes, 151, 90–103. 論文を見る
- Pálfi, B., Arora, K., & Kostopoulou, O. (2022). Algorithm-Based Advice Taking and Clinical Judgement: Impact of Advice Distance and Algorithm Information. Cognitive Research: Principles and Implications, 7, 70. 論文を見る