AIガバナンス｜AIに任せる範囲と人の承認を決める4軸
AIに任せる範囲は、AIができるかどうかでは決めません。失敗したときの影響、元へ戻せるか、社外へ作用するか、正しく実行した証拠を残せるかで決めます。
この4点から、一つの操作を「自動」「人の確認後に実行」「人が判断して実行」のいずれかへ置きます。仕事全体を一括で自動化するのではなく、調査、下書き、送信、契約、記録のように操作へ分けて線を引くことが重要です。
最初に、3つの実行区分から選ぶ
基本形として、以下は各社が承認点を設計するための一般的な推奨です。Kirirom Digitalの公開・外部送信に関する社内規程を示すものではありません。公開・外部送信の扱いは各社の規程と対象のリスクに合わせて決め、金額、契約、署名、本番データの削除など、元に戻しにくい重要事項には人の判断を残します。肖像権や個人情報を含む素材は、送信・公開の手順とは別に、権利と利用範囲の確認が必要です。
幅が狭い場合は表を横にスクロールできます
| 区分 | 選ぶ条件 | AIが担えること | 人が担うこと |
|---|---|---|---|
| 自動 | 失敗の影響が限定的で、元へ戻しやすく、社内で完結し、検証証拠が自動で残る | 決められた処理を実行し、結果と証拠を記録する | 異常時の対応と定期的な見直し |
| 確認付き | 外部へ届く、または業務上の影響があるが、実行前に内容を確認でき、元へ戻す方法がある | 判断材料と実行案を作り、検証結果と未確認事項を提示する | 内容と影響を確認し、実行を承認または差し戻す |
| 人が判断・実行 | 契約、送金、権利、重要な価格変更、削除など、失敗の影響が大きいか戻しにくい | 情報収集、論点整理、差分、検証結果の提示まで | リスクを引き受ける判断と実行を行う |
AIの能力が上がっても、会社が引き受ける影響や法的な責任は消えません。精度が高いという理由だけで、戻せない操作を自動へ移さないでください。一方、低影響の内部処理まで毎回人が全文確認すると、承認が形だけになり、本当に重要な判断へ時間を使えなくなります。
判断軸は、影響・可逆性・外部性・証拠の4つ
失敗したときの影響
金額、契約上の義務、権利、個人情報、顧客関係、本番業務への影響を見ます。影響が大きい操作は、AIが案を作れても、人が判断する区分へ置きます。少額・小規模でも、同じ処理が繰り返される場合は累積する影響を無視できません。
元へ戻せるか
下書きや一時的な分類はやり直せます。送金、契約締結、外部公開、本番データの削除は、実行後に完全には戻せないか、戻すための負担が大きい操作です。「取り消しボタンがあるか」だけでなく、相手へ届いた情報や生じた義務まで元へ戻せるかを見ます。
社外へ作用するか
顧客、取引先、応募者、一般公開先へ届く操作には、会社としての意思が表れます。内部で作る返信案と、顧客へ送る操作は分けて判定します。外部へ作用する時点に確認を置けば、準備作業まで人が抱え込まずに済みます。
実行の証拠を残せるか
入力、参照した正式情報、変更差分、検証結果、実行者、対象、時刻を記録できるかを見ます。正しかったか後から確かめられない処理は、影響が小さく見えても自動化に向きません。証拠が不足する場合は確認付きへ戻すか、先に記録方法を整えます。
一業務を、操作ごとの委任表にする
「問い合わせ対応をAIへ任せる」のように業務名だけで決めず、開始から完了までを操作へ分けます。各行を4つの判断軸で評価し、実行区分と責任者を置きます。
幅が狭い場合は表を横にスクロールできます
| 操作 | 失敗時の影響 | 戻し方 | 外部への作用 | 残す証拠 | 区分 | 人の責任者 |
|---|---|---|---|---|---|---|
| 受け取った内容を分類する | 業務担当の振り分けを誤る | 再分類する | なし | 入力、分類結果、適用した基準 | 自動または確認付き | 業務責任者 |
| 正式情報を参照して返信案を作る | 誤情報を含む案ができる | 案を破棄して作り直す | 送信前はなし | 参照元、生成した案、検証結果 | 確認付き | 対応担当者 |
| 顧客へ返信する | 誤情報や不適切な表現が相手へ届く | 訂正はできるが、送信自体は戻せない | あり | 承認対象、承認者、送信内容、時刻 | 確認付き | 対応責任者 |
| 値引きや契約条件を確定する | 金額・権利・義務が変わる | 合意後は容易に戻せない | あり | 根拠、差分、決裁、確定した条件 | 人が判断・実行 | 決裁権者 |
これは導入実績を示す事例ではなく、委任表の書き方を示す記入例です。実際の区分は、各社の権限規程、契約、業界規制、扱う情報に合わせて決めます。
委任表を作るときは、最も危険な行に合わせて業務全体を止める必要はありません。返信案の作成はAIへ任せ、送信には確認を置き、契約条件の確定は人が実行するというように、操作ごとに分けます。
承認依頼は、判断できる材料までそろえる
人へ「確認してください」とだけ渡すと、承認者は最初から調査し直すか、内容を理解しないまま承認することになります。確認付きの操作では、少なくとも次を一つの依頼にまとめます。
- 何を実行するか：対象、操作、変更後の状態
- 何を変えないか：今回の対象外と、維持する条件
- 根拠：参照した正式情報と、その時点
- 検証結果：何を確かめ、何が合格・不合格だったか
- 未確認事項：AIや担当者が確かめられなかった点
- 影響：外部、金額、権利、データへ起きる変化
- 戻し方：実行を中止する方法と、実行後に戻せる範囲
- 承認対象の版：どの文書、設定、変更を承認するか
内容を修正したら、以前の承認を使い回しません。承認者、判断、理由、対象の版、時刻を記録し、何に対する承認だったかを後から確認できるようにします。
形だけの承認を避ける
すべてを同じ承認者へ送り、長い出力を毎回読ませる運用は、安全策ではなく承認待ちを増やします。次の状態になったら、区分か依頼材料を見直します。
- 承認者が本文を読まず、常に同じ返答をする
- 差し戻し理由が記録されず、同じ修正が繰り返される
- 低影響の内部処理と、契約・送金が同じ重さで並ぶ
- 承認後に内容が変わっても、再承認されない
- 未確認事項が隠れたまま、承認者が全責任を負う
対策は承認回数を機械的に増やすことではありません。低影響で証拠が残る処理は自動区分へ移し、重要な確認依頼には差分、影響、未確認事項を先に出します。承認者の権限を越える場合は、上位の決裁者へ戻します。
実行後は、委任表で想定した結果と実際の結果を照合します。止まった理由、人が直した点、例外を記録し、区分と検証項目を更新します。Kiriromの実践事例では、契約、経理、開発でAIと人の境界がどこまで実装され、何が未完成かを確認できます。
外部の枠組みも使う
総務省・経済産業省が共同策定したAI事業者ガイドライン（第1.2版）は、AIの開発、提供、利用に関わる主体が、リスクに応じて取り組む考え方を示しています。NISTのAI Risk Management Frameworkは、統治、状況把握、評価、対応に当たる四つの機能で、組織としてAIリスクを扱う枠組みを示しています。
この記事の委任表は、これらの枠組みを置き換えるものではありません。日々の一業務で、誰がどこまで責任を持つかを決めるための入口です。法令、業界規制、契約上の義務がある場合は、それらを優先し、必要に応じて専門家と確認してください。
出典: 総務省・経済産業省 AI事業者ガイドライン（第1.2版）（2026年3月31日公表、確認日：2026年10月20日）、NIST AI Risk Management Framework
よくある質問
AIの出力はすべて人が確認すべきですか
いいえ。基本形として、低影響で戻しやすく、検証証拠が残る処理は自動区分にできます。公開・外部送信の承認要否は各社の規程と対象のリスクに応じて決めます。金額、契約、署名、本番データの削除など影響が大きく戻しにくい操作には、人の判断を残します。
承認者は経営者だけですか
いいえ。委任表で定めた業務責任者も承認できます。ただし、金額、契約、権利など、その人の権限を越える判断は上位の決裁者へ戻します。
AIが誤ったときは誰の責任ですか
AI自体を責任主体にせず、委任区分を決めた人、運用する人、承認・実行する人の責任を明確にします。誤りが起きたら個人の注意だけへ帰さず、区分、参照情報、検証、承認材料を見直します。
AIガバナンスは、すべてを自動にすることでも、すべてを人が見ることでもありません。影響を引き受ける場所に人の判断を置き、それ以外の準備と検証をAIへ委ねる設計です。
承認の仕組みをどの段階で整えるかは、AIネイティブ経営の4段階へ戻って確認できます。