AIエージェントを使うとき、
毎回確認する
では効率が出ません。
しかし、
AIが必要だと思ったら全部実行してよい
では事故時の影響が大きくなります。
そこで、操作を3段階に分けます。
Green：低リスクなので自動実行
例：
- データを読む
- 情報を分類する
- 下書きを作る
- ローカルな作業用ファイルを作る
- 既存データを変更しない分析
失敗しても外部への影響が小さく、やり直せる仕事です。
Yellow：実行前に人間承認
例：
- メール送信
- 投稿公開
- 顧客レコード更新
- ファイル移動
- 共有リンク作成
OpenAIのWorkspace agentsでは、センシティブなアクションに対してhuman approvalを要求できる承認ゲートが案内されています。
Red：自動化せず人へ戻す
例：
- 大きな金額の支払い
- 管理者権限変更
- 重要データの一括削除
- 法的判断
- 本人確認
- 異常な操作要求
高リスクな仕事は、AIの「自信度」を見て決めるより、事前に条件で止める方が分かりやすくなります。
金額・件数の閾値を決める
たとえば、
1万円以下の経費候補整理 → 自動
1万円超の申請 → 承認
10万円超 → 人へエスカレーション
のように具体的に決めます。
削除なら、
1件 → 承認
10件以上 → 自動処理禁止
でも構いません。
失敗回数で人へ戻す
同じ操作を何度も繰り返すエージェントには、
2回失敗したら停止
3回目を自動実行しない
というルールを持たせます。
OpenAIの『A practical guide to building agents』でも、人間介入の主なトリガーとして、再試行や行動回数などの失敗閾値の超過と、センシティブ・不可逆・高リスクな操作が挙げられています。
「AIが自信あり」だけで承認を省略しない
モデルの自己評価は、業務ルールそのものではありません。
承認ゲートは、
- 操作種類
- 金額
- 件数
- 対象データ
- 元に戻せるか
など、外から確認できる条件で決める方が監査しやすくなります。
承認・実行ログを残す
少なくとも、
- AIが提案した操作
- 承認者
- 承認日時
- 実際に実行した内容
- 結果
を残せると、失敗時に原因を追えます。
OpenAIのWorkspace agentsでも、監査ログとモニタリングによってエージェントの活動とワークフロー実行を追跡する仕組みが案内されています。
自動化のゴールは「人をゼロにする」ことではありません。
人が見る価値のある境界だけ残す方が、実務では使いやすくなります。
参考
- OpenAI: Workspace agents for business
https://openai.com/business/workspace-agents/ - OpenAI Help: Managing app permissions in ChatGPT
https://help.openai.com/en/articles/20001495-managing-app-permissions-in-chatgpt - OpenAI Help: ChatGPT agent
https://help.openai.com/en/articles/11752874
