AIエージェントを使うとき、 毎回確認する では効率が出ません。 しかし、 AIが必要だと思ったら全部実行してよい では事故時の影響が大きくなります。 そこで、操作を3段階に分けます。 Green：低リスクなので自動実行 例： データを読む 情報を分類する 下書きを作る ローカルな作業用ファイルを作る 既存データを変更...
AI業務活用・安全
AI業務活用・安全の記事一覧
AIエージェントへ仕事を任せるとき、「何でも毎回確認」では自動化になりません。 逆に「全部自動」では、1回の判断ミスがそのまま外部へ反映されます。 実務では、読む・下書きする・実行するを分けると設計しやすくなります。 読むだけと実行する操作は違う メールを読む、ファイル一覧を見る、在庫を確認する。 これらは状態を変えな...
AIがURLまで付けて回答すると、急に信頼できそうに見えます。 しかし確認すべきなのは「URLがあるか」だけではありません。 まずURLを開く 最初に見るのは単純です。 404ではないか 別ページへ転送されていないか ドメインが本物か HTTPSか AIがもっともらしいURL構造を作っていても、実際には存在しないことが...
生成AIの文章は、全部を同じ重さで確認すると時間がかかります。 効率よく見るなら、回答を「確認が必要な種類」に分けます。 NISTの生成AIリスク資料では、生成AIが誤った内容をもっともらしく提示する現象を「confabulation」として扱っています。 事実 日付、制度、製品仕様、人物の経歴など、外部世界の事実は確...
生成AIへ文章を渡すとき、氏名や会社名を XXX にするだけでは、複数人が登場する文章で誰が誰か分からなくなります。 実務では、意味を残しながら識別子へ置き換える方が使いやすいことがあります。 まず「匿名化」と呼びすぎない 個人情報保護委員会の用語では、「匿名加工情報」は単に名前をマスキングしただけの情報ではありません...
業務で生成AIを使うとき、「この文章を貼って大丈夫か」はモデル性能より先に確認したい問題です。 判断のポイントは、「AIだから危険」「有料版なら全部安全」と単純化しないことです。 まず4種類に分ける 入力前に、情報を次のように分けます。 個人情報 会社や顧客の機密情報 パスワード・APIキーなど認証情報 契約や社内ルー...
