業務で生成AIを使うとき、「この文章を貼って大丈夫か」はモデル性能より先に確認したい問題です。
判断のポイントは、「AIだから危険」「有料版なら全部安全」と単純化しないことです。
まず4種類に分ける
入力前に、情報を次のように分けます。
- 個人情報
- 会社や顧客の機密情報
- パスワード・APIキーなど認証情報
- 契約や社内ルールで外部入力を禁止された情報
1つでも該当するなら、そのまま貼る前に止まります。
個人情報は「名前だけ」ではない
氏名を消しても、メールアドレス、電話番号、住所、顧客番号、具体的な相談内容の組み合わせで個人が特定できる場合があります。
「名前を伏せたから安全」とは限りません。
APIキーやパスワードは入力しない
認証情報は、AIサービスに限らず外部へ渡さないのが基本です。
コードの相談で設定ファイルを貼るときも、
sk-...
のようなキー、アクセストークン、Cookie、秘密鍵が混じっていないか先に確認します。
AIサービス側のデータ取扱いを確認する
サービスや契約プランによって、入力データの利用条件は異なります。
たとえばOpenAIは、ChatGPT BusinessやEnterprise、APIなどのビジネス向けサービスでは、デフォルトで組織データをモデル学習へ使わないと案内しています。一方、個人向けのChatGPTなどでは、会話内容がモデル改善に使われる場合があり、Data Controlsの「Improve the model for everyone」をオフにすると、新しい会話を学習利用しない設定にできます。
重要なのは「生成AI一般」の噂ではなく、自分が使うサービス・契約・設定の現行条件を見ることです。
組織ルールを優先する
IPAもAI利用時のセキュリティ対策を案内しており、個人情報や機密情報を扱う際には利用規約や組織ルールの確認が重要です。
会社や顧客との契約で外部AI入力が禁止されているなら、サービス側の設定よりそのルールが優先です。
迷ったら「必要最小限」まで削る
AIへ渡す必要があるのは、たいてい全文ではありません。
問い合わせメールの文章改善なら、
- 氏名
- 会社名
- メール
- 注文番号
- 金額
- 固有案件名
を仮の記号へ置き換えても、文章作成には支障がないことがあります。
AIへ渡す前に、目的に不要な情報を減らすだけでもリスクは下げられます。
参考
- IPA: AI利用者のためのセキュリティ豆知識
https://www.ipa.go.jp/digital/ai/security/ai_security_tips.html - OpenAI: ビジネスデータのプライバシー、セキュリティ、コンプライアンス
https://openai.com/ja-JP/business-data/ - OpenAI: Data Controls FAQ
https://help.openai.com/en/articles/7730893-chatgpt-data-controls-faq
