AI導入の成果はどう判断する？業務改善から例外処理まで

AI導入が成果を上げているかどうかは、従業員の利用者数、ログイン回数、生成されたコンテンツの量だけでは判断できません。作業時間、手作業の工程、待ち時間、誤り、手戻りが実際に減っているかを確認する必要があります。さらにAIを本番の業務フローに組み込んだ後は、異常の条件、人への引き継ぎ方法、その後の処理手順をあらかじめ定義しておくことで、AIを安定して運用できるようになります。

AIツールが使われているという事実が示すのは、ツールが採用されたことだけです。

AIが本当に企業の業務に組み込まれたと言えるのは、仕事の始まり方、データの取得方法、タスクの引き継ぎ方、結果を誰が判断するか、異常をどう処理するかが、すべて設計し直されたときです。

この二つの間には、まだ大きな距離があります。

2026年に専門職を対象に行われた調査では、回答者の48%が「組織はAIを導入したものの、関連する業務フローや職務は見直していない」と答え、「大規模な業務の再編を完了した」と答えたのはわずか12%でした。AIのアカウント数、ログイン回数、利用量だけで、企業変革の成果を判断するのは適切ではありません。

そのため、AIツールの展開を終えた企業が次に答えるべき問いは二つです。

• AIは本当に仕事の成果を変えたか？
• AIが正常に仕事を完了できないとき、業務フローは止まらずに続けられるか？

前者はAIが価値を生むかどうかを決め、後者はAIを安定して本番稼働させられるかどうかを決めます。

AI導入の成果を、なぜ利用率だけで判断できないのか？

企業が生成AIツールを社内に開放すると、通常はすぐに次のような利用データが集まります。

• アカウントを有効化した従業員の数
• 毎月の利用回数
• 利用頻度が最も高い部門
• 作成された文書の数
• 消費したトークン量
• 研修の参加者数

これらのデータに価値がないわけではありません。

ツールが使われているか、従業員が試そうとしているかを確認でき、追加の研修が必要な部門を見つけることもできます。

しかし、利用率が答えられるのは次の問いだけです。

従業員はAIを使っているか？

次の問いには直接答えられません。

AIによって仕事は速く、正確に、あるいは安定したか？

ある従業員が毎日生成AIを使っていても、文章の手直し、議事録の整理、報告書の下書き作成に使っているだけかもしれません。

こうした使い方は個人の時間短縮にはなりますが、部門全体の仕事の進め方を変えるとは限りません。

利用量だけを見ていると、「ツールが使われている」ことを「業務フローが改善された」ことと取り違えやすくなります。

企業が本当に測るべきAI導入の成果とは？

AI導入の成果は、仕事そのものに立ち返って測るべきです。

まず導入前の業務の状況を記録し、導入後に何が変わったかを比較します。

適した指標は、AIプロジェクトによって異なります。

たとえば文書の要約であれば読解と整理にかかる時間、見積業務であれば要件確認の回数と完了までの時間、社内のナレッジ検索であれば検索にかかる時間、回答の採用率、その後に人へ問い合わせる回数を見ることができます。

大切なのは指標を増やすことではなく、業務の成果を直接反映する指標を選ぶことです。

よくあるシナリオ：AIで月次の業績レポートを作成する

ここでは、多くの企業にある月次の業績レポートを例に考えます。

もともとの業務フローは、次のようなものかもしれません。

• 各部門が異なるシステムからデータを出力する
• 担当者がデータをExcelにまとめる
• データの不足に気づいたら、関係部門に一つずつ問い合わせる
• 前月との数値の差異を確認する
• レポートの説明文を書く
• 上長の確認を受ける
• 指摘に応じて修正する

生成AIを導入すると、企業はまず5番目の工程、つまりレポートの説明文の作成からAIに任せることがあります。

説明文は速く書けるようになりますが、その前の工程は何も変わっていません。

• データは相変わらず手作業で出力している
• 部門ごとに異なるフォーマットを使っている
• 不足しているデータは一つずつ問い合わせている
• 異常な数値の原因は人が調べている
• 上長とのやり取りで内容を何度も確認している

AIは一つの工程を改善しましたが、レポート全体が早く仕上がるとは限りません。

このとき企業は「AIが何本のレポートを作成したか」を記録するだけでなく、業務フロー全体を見直すべきです。

• データをシステムから直接取得できるか？
• 部門ごとの項目を統一できるか？
• データが不足しているとき、担当者に自動で通知できるか？
• AIが先に異常や差異を示せるか？
• レポートの数値を元データまでたどれるか？
• 上長が必ず判断すべき内容はどれか？

設計し直した業務フローは、次のようになるかもしれません。

• システムが定期的に各部門のデータを取得する
• 欠落やフォーマットの問題を自動でチェックする
• AIが主な変化と異常項目を整理する
• 担当者が例外を確認し、理由を補足する
• AIがデータの出典を付けたレポートの下書きを作成する
• 上長は重要な差異と今後の対応だけを確認する

こうなると改善されるのは文章を書く速さだけでなく、データの取得から経営判断までの業務フロー全体です。

AIを本番の業務フローに組み込んだ後、なぜ例外処理が重要なのか？

業務フローを設計し直したとしても、AIがすぐに安定して動くとは限りません。

テスト段階で使うデータは比較的そろっており、シナリオも単純です。

本番稼働後は、想定と異なる状況にはるかに多く遭遇します。

• 必要なデータが欠けている
• 文書のフォーマットが異なる
• 二つのシステムが異なる答えを返す
• 利用者の入力が不完全である
• AIが十分な根拠を見つけられない
• 結果があらかじめ定めた範囲を超えている
• システムや外部サービスが一時的に利用できない

こうした状況は、モデルを替えれば解決するとは限りません。

企業が本当に設計すべきなのは、次の点です。

AIがタスクを正常に完了できないとき、システムは次に何をすべきか？

AIがすべての例外を自力で解決する必要はありません。

情報が不足しているとき、データが矛盾しているとき、リスクが高すぎるときに、AIが自動処理を止めて適切な担当者に問題を引き渡せるほうが、むしろ安定した設計です。

NISTのAIリスクマネジメントフレームワークでは、AIシステムの利用、監督、管理において人が担う役割を明確に定義し、監視、人によるレビュー、結果の覆し、インシデント対応、復旧、変更管理、利用停止といった仕組みを整えることを推奨しています。

よくあるシナリオ：AIで仕入先の請求書を処理する

次に、多くの企業にある仕入先からの請求処理を例に説明します。

企業はAIに請求書を読み取らせ、次の項目を自動で整理したいと考えています。

• 仕入先名
• 請求金額
• 書類の日付
• 発注書番号
• 支払条件

そのうえで、結果を購買記録、検収データ、支払ルールと照合します。

データがそろっていてフォーマットも統一されていれば、AIは問題なく処理できるかもしれません。

しかし実際に運用を始めると、次のようなケースに直面することがあります。

• 仕入先名がシステムの登録名と異なる
• 書類に発注書番号が記載されていない
• 請求金額が検収データと一致しない
• 同じ請求書が重複して送られてくる
• 添付書類が欠けている
• データは正しいが、上長の承認がない

企業はAIに「できるところまでやっておいて」と求めるだけでは不十分です。

より安定した方法は、例外の種類ごとに処理ルールを設けることです。

自動処理を止めることは、AI導入の失敗を意味しません。

むしろ不確かな状況で処理を続けることこそが、後工程のリスクを拡大させるおそれがあります。

AIの例外処理は、どのように設計すべきか？

AIの例外処理の仕組みが完成していると言えるには、少なくとも次の四つの問いに答えられる必要があります。

何を例外とみなすか？

「AIが確信を持てない」というあいまいな状態を、明確な条件に置き換える必要があります。

たとえば次のような条件です。

• 必須項目が欠けている
• データの出典をたどれない
• システム間で内容が一致しない
• 結果が社内で定めた信頼性の基準を下回る
• 金額や権限の範囲を超えている
• 既存の方針や業務ルールに合致しない

例外の条件は、業務フローごとに異なります。

一つの汎用ルールを使い回すのではなく、業務のリスク、データの品質、意思決定の責任に応じて個別に設定すべきです。

例外は誰に引き渡すか？

問題によって、必要な専門的判断は異なります。

• データの欠落：申請者が補足する
• 購買条件：購買部門が確認する
• 支払いの問題：経理部門が対応する
• システム権限：情報システム部門が確認する
• リスクの高い判断：上長が承認する

すべての異常を一つの共有メールボックスに送っているなら、問題を別の場所に集めただけで、処理の仕組みを設計したことにはなりません。

人が処理した後、どのように元の業務フローに戻すか？

人が判断を終えたら、システムには次の内容を記録する必要があります。

• 最終的に採用したデータ
• 判断した担当者
• 判断した日時
• 判断の理由
• その後に実行する対応
• ルールを変更する必要があるか

記録を終えて初めて、タスクは元の業務フローに戻って処理を続けられます。

人の判断が記録に残っていなければ、同じ種類の例外が再び起きたときに、また一から対応しなければなりません。

どの例外を改善項目に変えるべきか？

例外は解決するだけでなく、業務フローの改善にも活かせます。

企業は定期的に次の点を確認するとよいでしょう。

• どの例外が最も多く発生しているか？
• 問題の原因はデータ、業務フロー、ルール、モデルのどれにあるか？
• どの例外はデータの整理によってなくせるか？
• どの人の判断を明確なルールに置き換えられるか？
• どのような状況では、AIの利用を続けるべきではないか？

ISO/IEC 42001は、AIマネジメントシステムを「計画・実行・評価・改善（PDCA）」のサイクルに基づいて構築し、本番稼働を仕事の終わりとみなすのではなく、AIの管理方法を継続的に維持・改善することを組織に求めています。

AIのPoCでは、本番稼働前に何をテストすべきか？

PoCでは、理想的な条件下でAIが処理できるかどうかだけをテストすべきではありません。

本番稼働の前に、不完全な状況や異常な状況も意図的にテストする必要があります。

少なくとも、次の項目を含めることをおすすめします。

• 必要なデータが欠けているとき、システムは停止するか？
• 文書のフォーマットが変わったとき、システムはどう処理するか？
• システム間で答えが異なるとき、どちらを採用するか？
• AIが十分な根拠を見つけられないとき、それでも結論を出してしまうか？
• 担当者がAIの結果を却下した後、業務フローはどう続くか？
• 外部ツールやAPIが停止したとき、タスクを再開できるか？
• 同じタスクが重複して送信されたとき、二重に実行されないか？
• 例外は適切な担当者に引き渡されるか？
• 人による処理の経過は記録に残るか？
• 問題が解決した後、タスクは円滑に業務フローに戻れるか？

NISTは、本番稼働後のAIシステムの挙動はデータ、利用環境、システムの構成要素によって変化し得るため、継続的な監視が必要であり、誤り、ニアミス、利用者のフィードバック、システムの異常を収集して所定の手順に沿って対応すべきだと指摘しています。

PoCで成功例だけを見せていては、企業はAIが処理を実行できるかどうかしか分かりません。

例外、失敗、人による引き継ぎまでテストに含めて初めて、そのシステムを運用できるかどうかが分かります。

JoinXは、AI導入が本番運用に進めるかどうかをどう確認しているか？

JoinXは、AIプロジェクトを本番稼働させる前に、四つの観点から確認することをおすすめしています。

業務の成果

まず導入前の基準を定め、導入後の差を確認します。

利用者数だけでなく、次の点も確認します。

• 業務全体が早く完了するようになったか
• 手作業の工程が減ったか
• 待ち時間や引き継ぎが短くなったか
• 誤りや手戻りが減ったか
• AIの結果をそのまま使えるか

業務フローの設計

AIが元の業務フローの最後の工程に付け足されただけになっていないか、データ、システム、人の判断、その後の対応と一体で設計されているかを確認します。

例外処理

重要な異常のそれぞれについて、次の点が定められているかを確認します。

• 明確な条件
• 指定された担当者
• 一時停止または引き継ぎの方法
• 処理の記録
• 業務フローに戻る方法

継続的な改善

誤り、人の介入、利用者のフィードバックを定期的に確認し、問題をデータ、業務フロー、システム、モデル、管理ルールのどれで改善すべきかを判断します。

JoinX（哲煜科技）が企業のAI導入を支援する際は、モデルがタスクを完了できるかどうかを確認するだけでなく、次の点も棚卸しします。

• AIが業務フロー全体を改善しているか
• 導入前後でどの指標を比較するか
• どのような状況は自動処理できないか
• 例外をどの役割の担当者に引き渡すか
• 人が処理した後、どのように業務フローに戻すか
• 本番稼働後、どのように監視と調整を続けるか

AIプロジェクトが本当に完了したと言える基準は、機能を開発し終えたことでも、従業員がアカウントを受け取ったことでもありません。

AIが通常の状況で仕事をこなせるだけでなく、異常が起きたときにも安全に止まり、正しく引き継ぐことで、業務フロー全体が止まらずに動き続けることです。

企業のAI導入に関するよくある質問

まとめ：AI導入の成果は、成果と安定性の両面で見る

従業員がAIを使い始めることは、企業のAI導入の出発点です。

しかし、利用量が増えても、仕事の成果が改善したとは限りません。

企業はさらに次の点を確認する必要があります。

• 仕事は早く終わるようになったか
• 人手による作業や手戻りは減ったか
• AIは業務フロー全体に組み込まれているか
• 結果をそのまま使えるか

AIを正式に業務フローに組み込んだ後も、引き続き次の点を確認する必要があります。

• どのような状況で止めなければならないか
• 異常は誰に引き渡すか
• 人による処理をどう業務フローに戻すか
• 誤りとフィードバックをどう改善につなげるか

AI導入が本当に価値を生むのは、AIが通常の状況で仕事をこなせるときだけではありません。AIにできないときにどうすべきかを、企業自身が分かっているときです。

成果の指標と例外処理の仕組みを両方そろえて初めて、AIは「使われているツール」から、管理でき、保守でき、安定して運用できる企業の能力へと育っていきます。