「経験と勘をやめて、データで判断する」——この言い方は、方向としては正しくても、実務の指針としては粗すぎます。

結論から述べます。自動化してよい判断には条件があり、その条件を確かめずに範囲を広げると、今度は出力を疑わなくなるという別の失敗が起きます。本記事では、任せてよい判断の見分け方、導入の順序、そして公的なガイドラインが利用者に求めている責任を整理します。

経験と勘が問題になるのは、間違っているからではない

長く現場を見てきた人の判断は、しばしば当たります。問題は精度ではなく、再現性がないことです。

同じ条件を別の人に渡しても同じ結論にならない。本人でも、忙しい時期とそうでない時期で判断が変わる。なぜその結論になったのかを後から検証できない。この3つが揃うと、判断の質を組織として管理できません。担当者が交代した瞬間に、水準が一度リセットされます。

予測モデルが優れているのは、同じ入力に対して同じ結果を返す点です。精度の高さそのものより、この一貫性のほうが組織にとっての価値は大きくなります。

任せてよい判断の4条件

次の4つがすべて満たされる判断は、自動化の対象になります。どれか1つでも欠けている場合は、まず条件を整えるほうが先です。

条件満たされている状態欠けているときに起きること
反復性毎日・毎週など、同じ形の判断が繰り返される判断の回数が少なく、精度を検証できないまま運用が続く
結果の検証可能性判断の正否が、短期間で数字として返ってくる当たっていたのかが分からず、モデルを改善できない
損害の回復可能性誤っても調整が効き、被害が限定される一度の誤りが取り返しのつかない結果につながる
履歴の量と質過去の判断と結果が、同じ形式で十分な件数残っている精度が安定せず、特定の条件でだけ大きく外れる

この4条件で仕分けると、対象は自然に絞られます。

  • 条件を満たしやすい判断：需要予測と発注量の決定、価格の調整、与信のスコアリング、問い合わせの優先度付け、リードの優先順位付け
  • 条件を満たしにくい判断：人事評価、新規事業の継続可否、取引先との条件交渉、前例のない事象への対応

後者を自動化してはいけない、という話ではありません。後者は、モデルの出力を判断材料の一つとして扱い、決めるのは人に残すということです。

自動化バイアスという、逆方向のリスク

範囲を広げるときに見落とされがちなのが、出力を疑わなくなる現象です。

総務省・経済産業省の「AI事業者ガイドライン（第1.2版）」（2026年3月31日）は、これを自動化バイアスと呼び、「人間の判断や意思決定において、自動化されたシステムや技術への過度の信頼や依存が生じる現象」と定義しています。そのうえで、AIに過度に依存するリスクに注意を払い、必要な対策を講じるべきことを「共通の指針」に挙げています。

同ガイドラインが対策として示しているものの中に、実務にそのまま使える一文があります。AIの評価や判断等を人間が承認する際には、人間自身が承認する理由や根拠を独自に考えてから承認すべき、という趣旨の記述です。

これは運用設計に直接落とせます。承認ボタンを押すだけの画面にせず、承認の根拠を一行でも書かせる。異なる判断をする場合だけ理由を求める運用にすると、承認側が何も考えなくなるためです。

導入の順序——いきなり自動化しない

1. 現在の判断基準を書き出す

まず、いま誰が何を見て決めているかを、記録から洗い出します。本人への聞き取りだけでは、後から筋を通した説明が混ざります。実際に参照されたデータ、決定までの時間、差し戻しの履歴といった残っている事実から逆算してください。

2. 並走させて、差分を見る

次に、予測モデルの出力と人の判断を同時に出し、どちらも実行せずに突き合わせる期間を置きます。ここで見るのは精度だけではありません。両者が食い違った場面で、人が何を見ていたのかを拾います。そこに、データに入っていない変数が隠れています。

3. 初期値として出す

十分な精度が確認できたら、モデルの出力を入力画面の初期値として表示します。変更する場合は理由の記入を求めます。ここまでで、大半の定型判断は実質的に自動化されます。

4. 例外だけを人に回す

最後に、スコアが一定の範囲に収まる案件は自動で処理し、範囲を外れたものだけを人に回す運用に切り替えます。この段階に来て初めて、人の時間が空きます。

前提として、判断に使うデータの形式が揃っていなければ、1の段階で止まります。整っていない場合はAI導入で工数が増える構造のほうを先に片付けてください。

実行時の落とし穴

  • スコアを会議の飾りにする：出力を資料に載せるだけで、決め方が変わっていない状態です。何点以上なら何をするのかを事前に決めていなければ、判断は従来どおりに戻ります。
  • 精度の劣化を放置する：市場や顧客構成が変われば、過去の履歴から学んだモデルは徐々に外れます。誰がいつ点検するのかを、導入と同時に決めてください。
  • 「AIが決めた」で説明を終える：前掲のガイドラインは、AIの出力を特定の個人や集団の評価の参考にする場合、AIを利用している旨を対象者に通知し、求めに応じて説明責任を果たすことを利用者側の事項として挙げています。評価や選別に使うなら、説明する準備は導入時の要件です。

投資として成立するかどうかの見立ては、AI導入のROI算定と要件定義の手順で先に確かめておくと、範囲の議論が具体的になります。判断が自動化された後に管理職に何が残るのかは、AI時代のマネジャーの役割で扱っています。

出典

  • 総務省・経済産業省「AI事業者ガイドライン（第1.2版）」（2026年3月31日）第2部 C. 共通の指針、第5部 AI利用者に関する事項