AIを業務へ入れるときは、すべてを人が再確認すると効率化できません。逆に全部任せると事故が増えます。そこで『人が止める地点』を先に決めます。
この記事では、間違えたときの影響の大きさに応じて、人が確認する地点（承認・停止・差し戻し）をどこに置くかを決める方法を整理します。「AIに任せる範囲と、人が確認すべき場所があいまい」という場合に向けた内容です。
先に結論
人の確認は全工程に均等に置くのではなく、送信・公開・削除・金額の確定など、後から取り消しにくい操作の直前に集中させます。機械で検証できるものは先に自動チェックし、判断できない出力は通さずに「保留」として人へ戻します。
手順
- AIが担当する処理を、入力整理・候補作成・変換・判断に分ける。
- 間違えたときの影響を低・中・高に分ける。
- 影響が大きい出力には、送信・公開・会計取込などの直前に人の確認地点を置く。
- 機械検証できるものは人の目視前に自動チェックする。
- 判断できない状態を「問題なし」として通さず、「保留」「要確認」として残す。
実務での確認チェック
- [ ] 外部送信前
- [ ] 金額変更前
- [ ] 削除前
- [ ] 公開前
- [ ] 個人情報を含む処理
- [ ] 不可逆操作
具体例
CSV列順の変更は機械検証を先に行い、最終取込前に人が確認。顧客への謝罪文は内容候補をAIが作っても、送信は人が承認します。
よくある失敗
- すべての出力を人が全文確認する運用にして、確認が形だけになる。
- 確認する人は決めたが、何を見ればよいかが決まっておらず、見落とす。
- AIの出力が自然な文章なので、元情報との照合を省いてしまう。
- 差し戻しや停止の基準がなく、迷った出力もそのまま通してしまう。
影響度別の確認表
| 失敗時の影響 | AIに任せる例 | 人が確認する地点 |
|---|---|---|
| 低 | 見出し候補、表記統一、下書き案 | 必要ならサンプル確認 |
| 中 | CSV整形、顧客返信候補、業務要約 | 機械検証＋送信/保存前確認 |
| 高 | 金額、税務、契約条件、外部公開、削除 | 重要な記述の原本照合＋明示的な承認 |
停止・差し戻しの条件
- 元情報にない金額・日付・固有名詞が出た
- AI自身が根拠を示せない
- 検証結果が一致しない
- 不可逆操作になる
- 個人情報・機密情報を追加で要求された
「AIが得意か」ではなく、間違えたときの影響と、後から戻せるかで人の確認の強さを決めます。
このページでは扱わないこと
問い合わせ返信の下書きや文章校正など、個別の作業ごとの具体的な手順は扱いません。このページは、どの作業にも共通する「人の確認地点の決め方」に絞っています。
次に確認するページ
- AI業務の安全な使い方の記事一覧
- 関連する実務ツール
参考
- デジタル庁 生成AIに関するガイドライン 2.0
- 経済産業省・総務省「AI事業者ガイドライン」1.2
確認日: 2026-09-28
