AIエージェント導入で必要なガバナンスと人の承認設計

AIエージェントが仕事を進める範囲を広げるほど、人は何を確認すべきでしょうか。すべてを承認制にすれば安全に見えます。しかし、要約や検索まで止める運用では、現場は使いにくくなります。

反対に、書き込みや設定変更まで任せれば、間違いが起きた時の影響は大きくなります。承認の有無ではなく、どの行為に、誰の確認を置くかが重要です。

自律性と権限を分けて考える

Gartnerの比例的ガバナンスでAIエージェントを統制が紹介するGartnerの比例的ガバナンスは、AIエージェントを自律性と信頼境界に応じて4段階に分けます。軽い作業に重い統制をかけず、高い権限を持つ作業には監視と復旧手段を置く考え方です。

人の関わり方は、次のように整理できます。

• 読み取り専用の要約・検索は、利用者が出力を確認する
• 提案や下書きは、人が内容をレビューして手動で実行する
• データ書き込みや設定変更は、担当者の明示的な承認後に実行する
• 定めた範囲で自律実行する処理は、監視、停止条件、ロールバックを用意する

Gartnerは2027年までに、企業の40％が本番環境の自律型AIエージェントを格下げまたは廃止すると予測しています。これは導入効果の実績ではありません。ただ、便利な処理と影響の大きい処理を同じルールで動かす危うさは、導入前に確認しておく必要があります。

承認するのは出力だけではない

承認画面を置けば済む、と考えがちです。けれども、AIが何を根拠に判断したかが曖昧なら、承認する人も判断しにくくなります。

企業法務で生成AIが定着、ナレッジ活用が次の課題の企業法務調査では、9割を超える回答者が生成AIを業務に使う一方、62.4％が法務案件のナレッジ活用を課題に挙げました。契約書だけでなく、依頼背景、修正理由、類似案件、自社の判断基準が分散していれば、AIの回答も承認者の確認も安定しません。

承認対象には、実行前の指示だけでなく、次の情報を残します。

• 参照した文書やデータの範囲
• AIが出した提案と、承認者が修正した内容
• 実行した日時と担当者
• 例外として止めた理由、差し戻した理由

これがあると、同じ判断を繰り返し確認せずに済みます。承認は責任の所在を示すだけでなく、次の判断に使える業務知識になります。

業務の判断基準を運用に戻す

アクセンチュアがAIエージェントで部門横断業務を再設計し、工数を最大90%削減では、部門やシステムに分散する業務知識をAIが使える形にし、現場の暗黙知や判断基準を継続的に反映する取り組みが示されています。データ、セキュリティ、リスク管理、ガバナンスを共通基盤として整備する点も重要です。

一部顧客での工数最大90％削減は、業務知識の活用を含む部門横断の再設計による成果です。承認の仕組みだけで得られた効果ではありません。

人が承認した結果を放置すると、AIは同じ迷いを繰り返します。差し戻しや例外を分類し、判断基準や参照データを更新して初めて、承認は運用改善につながります。

最初は実行範囲を狭くする

JTPのThird AI、GPT-5.6群対応で専門業務を支援のThird AIは、組織内データを参照した回答生成や、複数のRAGシステムを自動判別するAIエージェント機能を提供しています。社内データに接続できることは便利です。ただし、参照できる範囲と更新の担当が決まっていなければ、便利さは確認の負担に変わります。

導入の初期は、影響が限定された業務から始めるのが現実的です。たとえば、規程の検索、問い合わせの下書き、過去案件の候補提示です。AIには提案までを任せ、送信、登録、変更は人が行います。

その後、根拠の確認方法、承認の記録、停止と復旧の手順が回り始めた業務だけ、実行できる範囲を広げます。人の承認は、AIを止めるための壁ではありません。任せられる仕事を少しずつ増やすための仕組みです。