Notes Vol.41_AIと人間の境界：人間が判断していると言える条件とは

ある役員の部下がAIを使ってこんな提案をしたとします。

「市場動向、競合状況、売上予測、想定リスク、過去の販売実績を分析したうえで、三つの選択肢を比較した結果、A案を推奨します」

提案資料を読んだ役員は言います。
「合理的な判断ですね。A案でいきましょう」

最終的に決めたのは、人間です。
この状況で、本当に人間が判断したといえるのでしょうか。

比較する情報も、評価する基準も、選択肢も、その順位もAIが示していたとしたら、人間がしたのは「判断」ではなく、AIの提案への承認だった可能性があります。

前回のNotesでは、AIが情報収集や分析、アイデア生成まで担うようになれば、人間の能力評価も「何を生成したか」だけではなく、「何を設定し、何を選び、どう判断したか」へ重心が移るのではないかと考えました。具体的には何を問題として設定したのか」「どの前提を疑ったのか」「何を自分の判断として引き受けたのか」を、人間側でより重要になる能力として整理してきました

今回は、その中の「判断」をもう少し掘り下げます。
人間を最後に置けば、人間が判断したことになるのでしょうか。

AIは、すでに意思決定の中にいる

デロイトの「Global Human Capital Trends 2026」には、「AI and the future of human decision-making」というテーマがあります。

同調査では、経営幹部の60％が、すでにAIを意思決定の支援に日常的に利用しています。一方、このテーマを現在の成功にとって非常に重要だとする回答は64％に上るものの、自社がこの領域をリードしているとする回答は5％にとどまります。

デロイトが問題にしているのは、AIが間違えることだけではありません。
AIの利用が組織の監督能力より先行し、誰が決めたのか、誰がその結果に責任を持つのかが曖昧になること。AIによる判断への人間のownershipが低下すること。AIエージェントの速度や規模が従来の統制を超える可能性。さらに、管理職自身がAIを監督する準備を十分に持っていないことなどを挙げています。

つまり、AIを意思決定に使うか、使わないか、という話ではありません。

AIが意思決定のプロセスに入ったとき、人間は何を担うのか。

そこまで設計しなければならなくなってきているといえます。

Human in the loopなら十分なのか

AIの意思決定でよく使われる考え方に、Human in the loopというものがあります。

これは、AIだけで処理を完結させず、AIによる処理や判断のプロセスの一部に、人間の確認、修正、介入、最終判断などを組み込む考え方です。
つまり、人間がAIの外側から結果を見るのではなく、プロセスの中に入っている状態です。

人間がプロセスに関わること自体は重要なことです。

しかし、人間がloopの中にいれば、人間が実質的に判断しているといえるでしょうか。

日本企業の稟議を考えると分かりやすいかもしれません。
担当者が起案し、課長、部長、本部長、役員へと稟議書が回る。

形式上は、多くの人が意思決定に参加しています。

ところが問題が起きたとき、

「前の人が確認していると思った」
「専門部署が見ているから大丈夫だと思った」
「最終決裁者が判断すると思っていた」

となることがあります。

人はたくさんプロセスの中にいる。
しかし、誰も実質的には判断していない。

AIでも同じことが起こり得ます。
AIが分析し、選択肢を作り、A案を推奨する。最後に人間が「承認」を押す。

それだけで、本当に人間が判断したと言えるのでしょうか。

Human Agencyとは何か

デロイトは、AIを使った意思決定においてHuman Agencyを維持することを重視しています。

Human Agencyとは、人間が自ら考え、選択し、その結果に責任を持つ主体性のことです。

デロイトによれば、人が自分の周囲の出来事に影響を与えられると感じ、意思決定に対してownershipや責任を持てる状態を重視しています。
AIによって意思決定を速くしながら、人間のagencyを弱めないことが必要だという考え方です。

では、何があれば「人間が本当に判断している」と言えるのでしょうか。

それについて、Reframe・Assess・Be Accountableという三つの行動視点を使って検討していきます。

Reframe ― 前提や問いそのものを問い直せるか

一つ目は、Reframeです。

AIがA案を推奨したとします。それをどう捉えるか。

・A案とB案のどちらがよいか。
・そもそもAとBを比較すべきなのか。
・その評価軸でよいのか。
・何か重要な前提が抜けていないか。
・問い自体が間違っていないか。

例えば、こういったことまで視野を広げられるか。

AIが優秀になればなるほど、与えられた問いに答える能力は高くなるでしょう。
だからこそ人間には、その問い自体を問い直す役割がより重要になるのです。

Assess ― もっともらしさではなく、妥当性を見極められるか

二つ目は、Assessです。

AIが出した答えを「よくできている」と感じることと、その答えが本当に妥当であることは違います。

・使っているデータは十分か。
・分析の前提は正しいか。
・重要なリスクを見落としていないか。
・自社の目的や価値観に照らして妥当か。
・別の選択肢の方がよい可能性はないか。

そこまで評価・見極めできることが必要です。

主体的な選択や判断ができるか。

AIがA案を推奨していても、「今回はB案を選ぶ」と言えるか、あるいは、「AでもBでもない。問いから考え直そう」と言えるか。
形式上は人間に決裁権があっても、AIの推奨を実質的に覆せないのであれば、人間が判断しているとは言いにくいでしょう。

Be Accountable ― なぜそう判断したのかを説明できるか

三つ目は、Be Accountableです。

単に「結果責任を負う」という意味ではありません。

・なぜその前提を置いたのか。
・なぜAではなくBを選んだのか。
・何を重視し、何を捨てたのか。
・どのリスクを受け入れたのか。
・自分の言葉で説明できるか。

「AIがそう言ったから」では、説明責任を果たしたことにはなりません。

「AIの分析ではA案が推奨されている。しかし、私たちはこの理由からB案を選んだ」と結論に至った理由を説明できること。

そこまでできて、初めてその判断を自分たちのものとして引き受けたと言えるのではないでしょうか。
つまり、Human Agencyは「その中で人間が主体であり続けている状態」を行動目線で整理すると。人間が意思決定の主体であるために必要なのは、問い直しているか　→　見極めているか　→　説明責任を果たしているか、という視点といえます。

AIが減らすのは「判断」ではなく、判断までの作業

AI以前の意思決定には、大きな制約がありました。

・情報を集めるのに時間がかかる。
・比較するのが難しい。
・将来を予測しにくい。
・十分な選択肢を検討できない。

だから「情報を持っている人」「分析できる人」「経験が豊富な人」が意思決定でも優位になりやすかったのです。
ところがAIは、この制約を大きく下げることになります。

・大量の情報を集める。
・比較する。
・シナリオを作る。
・リスクを洗い出す。
・複数の選択肢を提示する。

ここまでは、AIの活用によってますます速くなるでしょう。

しかし、それで判断そのものがなくなるとは限りません。

・成長を優先するのか、安定を優先するのか。
・短期利益を取るのか、将来への投資を取るのか。
・どこまでリスクを取るのか。
・誰の利益を優先し、誰に負担を求めるのか。

こうした問いには、合理性だけでは決まらないものです。
それはなぜか。企業が何を大切にするのかという価値観が判断の視点として入ってくるからです。

AIが答えを出しやすくするほど、人間側で重要になるのは「答えを作ること」ではないということがわかると思います。

AIが正しくなるほど、人は判断しなくなる

ただ、ここには別の問題があります。

AIが間違ううちは、人間は疑います。
「本当に正しいのか」「念のため確認しよう」

ところが、AIの精度が上がった現在はどうでしょうか。
自分よりはるかに多くの情報を分析し、ほとんどの場合に妥当な答えを出すようになった状況です。

人間は次第に、「AIの方が正しい」と考えるようになるかもしれません。

最初は確認していたが、慣れてくるとそのうち確認しなくなるものです。
AIの提案を100回見て、99回正しかったら、101回目にどこまで真剣に疑えるでしょうか。

第2回では、自動化への依存によって人間側の能力が失われると、システム全体が脆くなる可能性を取り上げました。
自動操縦が発達しても、パイロットが操縦能力を維持する意味がある、という話でしたが、実は判断・意思決定にも同じ問題を秘めています。

AIに判断を支援させる。
それ自体は問題ではないのですが、結果的に人間がAIに依存し、人間自体が問い直さなくなり、見極めなくなり、説明しなくなることです。

つまり、AIに判断させることよりも怖いのは、人間が判断しなくなること、といえます。AIによる脅威とは、人間自身の退化なのかもしれないのです。

すべての判断を人間に戻せばよいわけではない

だからといって、「重要なことは全部、人間が決めよう」と戻るのも違います。AIの利点はこれからも活かしていくべきです。

デロイトも、AIによって意思決定の速度や質を高めながら、人間のagencyを維持する必要性を指摘しています。また、意思決定を一つの専門能力として捉え、人とAIの関与の仕方、decision rights、governanceを意図的に設計することを求めています。

必要なのは、どの判断に、どこまで人間が関与する必要があるのかを決めることです。

すなわち、影響が小さく、やり直せて、判断基準が明確なものはAIに任せる。
一方、人への影響が大きい・後戻りしにくい・会社の価値観が問われる・誰かに大きな不利益を与える、そうした判断では、Reframeし、Assessし、Accountabilityが人間の役割となります

人間とAIの境界は、「AIにできるかどうか」だけではなく、どこに人間の判断を残す意味があるかで引くべきなのだと思います。

最後に人が決めれば、それでいいのか

AIが情報を集め、分析し、選択肢を作り、推奨する。その最後に、人間が承認する。

この形だけを見れば、人間は確かにloopの中にいます。

しかし、人間がAIの前提を問い直せず、答えの妥当性を見極められず、その判断を自分の言葉で説明できないのであれば、人間は意思決定の主体とは言いにくいでしょう。
AIが大量の答えを作れるようになるほど、人間の価値は「答えを持っていること」から、「何を問い、何を選び、なぜそうするのかを決めること」へ移っていきます。

誰が問い直し、誰が見極め、誰がその判断に説明責任を持つのか。
そこまでの視点を持って業務設計ができて初めて、人間が意思決定の主体であり続けると言えるのではないでしょうか。