生成AIに入力してはいけない情報とは？漏洩リスクへの対策

この情報、AIに入れてもいいんでしたっけ

生成AIの社内研修を設計していると、筆者はこの問いに何度も出会います。これは、全社で生成AI活用を進めようとしていた企業の情シス担当者と、人事・法務・DX推進部門が、研修前に直面した悩みでもありました。

以前は、社員に「機密情報や個人情報は入力しないでください」と伝えるだけで、一定の注意喚起になっていました。しかし、生成AIが日常業務に入り始めると、それだけでは足りません。商談メモ、議事録、契約書の一部、社員番号、顧客名、ログイン情報。現場では、何が入力禁止で、何がマスキングすれば使えるのか、判断が分かれていました。

営業は提案書作成の効率化を求めます。法務は契約情報の取り扱いを懸念します。人事は、全社員に説明できる実例を必要とします。情シスは、便利さを止めずにリスクを下げる運用設計を考えなければなりません。

筆者自身、AI活用の支援現場で感じるのは、生成AIのリスクは「使うか、使わないか」だけでは整理できないということです。重要なのは、社員が迷った瞬間に立ち止まれる言葉と、判断できる一覧表を用意しておくことです。

この記事では、生成AIに入力してはいけない情報を「社外秘」「顧客情報」「個人情報」「認証情報」「権限情報」などに分け、社内研修やガイドラインに転用しやすい形で整理します。目指すのは、社員が迷ったときに「これは入れない」「これはマスキングする」「これは社内で承認された環境で確認する」と判断できる状態です。ただし、一覧表を作るだけでは十分ではありません。運用ルール、教育、定期的な見直しと組み合わせて初めて、現場で使える生成AIルールになります。

生成AIに入力してはいけない情報とは

生成AIに入力してはいけない情報とは、単に「会社の外に出してはいけない情報」だけではありません。

たとえば、次のような情報も注意が必要です。

• 社員や顧客を特定できる情報
• 取引先との契約条件
• 社内システムのログイン情報
• APIキーや認証コード
• 未公開の売上、利益、M&A、人事異動
• セキュリティ設定や権限一覧
• 健康情報、マイナンバー、口座番号などの機微情報

これらは、生成AIに入力した瞬間に必ず外部へ漏れるという意味ではありません。ここは、過度に煽らず、正確に捉える必要があります。実際のリスクは、利用する生成AIサービスやプランの仕様、契約形態、管理設定、入力データの学習利用の有無、保存期間、外部連携の範囲、社内の承認範囲によって変わります。

ただし、個人情報保護委員会は、生成AIサービスを利用する際の個人情報の取り扱いについて注意喚起を公表しています。個人情報を含む内容を入力する場合には、利用目的や第三者提供の扱いに加え、入力情報がサービス提供者において学習データとして利用されるかどうかなど、利用規約やサービス仕様を確認する必要があります。

筆者が現場でよく見る失敗は、「生成AIは危ないから使うな」と言いすぎて、かえって社員の自己判断利用を招いてしまうケースです。社員は業務を早く進めたいので、公式なルールが曖昧だと、個人向けサービスや未承認ツールに流れてしまうことがあります。

そのため社内ルールでは、「生成AIは危険だから使わない」とするのではなく、「何を入れてはいけないか」「何なら使ってよいか」「どの条件なら使えるか」を分けて定義することが重要です。

まず決めるべき判断軸

生成AIの入力ルールを作るときは、最初から細かい例外を並べるより、判断軸をそろえる方が現場に伝わりやすくなります。

筆者が企業支援の現場でよく使うのは、次の3つの問いです。

生成AIに入力してはいけない情報リスト

以下は、社内ルールや研修資料に転用しやすい入力禁止情報リストです。ここでいう「入力してはいけない情報」には、常に入力禁止とすべき情報だけでなく、承認や契約条件の確認なしには入力しない情報、削除・一般化などの加工が必要な情報も含みます。実際に利用する際は、自社の情報セキュリティ規程、個人情報保護方針、契約条件に合わせて調整してください。

この表で重要なのは、「個人情報だけが危険なのではない」という点です。

生成AIの入力禁止ルールを作るとき、多くの企業はまず個人情報に目を向けます。それ自体は正しい出発点です。しかし、実務上は顧客情報、認証情報、権限情報、未公開情報の方が、より直接的な事業リスクにつながることもあります。

たとえば、個人名が入っていないとしても、未公開の価格戦略や、取引先ごとの値引き条件を入力すれば、競争上のリスクがあります。APIキーやアクセストークンを入力すれば、個人情報以前にシステム侵害のリスクがあります。

だからこそ、入力禁止情報は「個人情報かどうか」だけで判断せず、業務リスク全体で整理する必要があります。

入力してよい情報と条件付きで使える情報

すべての情報を禁止にすると、現場では生成AIを使いづらくなります。

筆者は、ルール設計の場で「禁止リストだけを渡すと、社員は萎縮する」と伝えることがあります。生成AI活用を進めたいのであれば、禁止事項と同時に、使ってよい情報も明示する必要があります。

マスキングの基本ルール

生成AIに相談したい内容があるものの、入力情報に個人名や顧客名が含まれている場合は、マスキングを検討します。

マスキングとは、個人や会社を特定できる情報を、別の表現に置き換えることです。たとえば、氏名を「担当者A」に、会社名を「製造業の中堅企業」に置き換えるような処理を指します。

ただし、マスキングは「情報を安全にする魔法」ではありません。筆者が現場で特に強調しているのは、まず相談の目的に不要な情報を削除し、それでも必要な情報だけを一般化・マスキングするという順序です。加工後も個人や企業を推測できる場合や、承認が必要な情報である場合は、そのまま入力しません。

たとえば、営業メールの文面を作りたいだけなら、顧客名や正確な契約金額は不要です。「製造業の既存顧客に、更新時期の確認メールを送りたい」という情報だけで、十分に下書きは作れます。

同じように、契約書レビューの観点を整理したいだけなら、取引先名や具体的な金額を入れなくても、「秘密保持条項の確認観点を整理したい」と相談できます。

生成AIに渡す情報は、多ければ多いほどよいわけではありません。まず不要な情報を削除し、必要に応じて一般化し、それでも業務上必要な場合に社内で承認された環境や条件を確認して扱うことが、実務上の安全策になります。

部門別に起こりやすい入力ミス

入力禁止ルールを全社に展開するときは、部門ごとの具体例を示すと伝わりやすくなります。

同じ「生成AI活用」でも、営業と法務、人事と情シスでは、入力しがちな情報が違います。ここを分けずに一律で説明すると、現場は自分ごととして受け取りにくくなります。

社内研修で使える入力前チェックリスト

生成AIの入力ルールは、長い規程文だけでは現場に定着しません。研修や社内ポータルでは、短いチェックリストとして示すと使いやすくなります。

生成AIルールを社内に定着させるポイント

入力禁止リストを作っただけでは、現場の行動は変わりません。

筆者がAI導入支援でよく見るのは、立派なガイドラインを作ったものの、現場ではほとんど読まれていないケースです。ルールは存在しているのに、社員は日々の業務でどう判断すればよいか分からない。結果として、使われないか、自己判断で使われるかのどちらかになります。

定着させるには、ルール、教育、運用の3つをセットで考える必要があります。

業務利用環境を選ぶときの考え方

生成AIの社内利用では、個人が自由に外部サービスを使う状態よりも、会社として承認した環境を用意する方が管理しやすくなります。

たとえば、業務利用環境を選ぶ際は、次の観点を確認します。

• 入力データがモデル学習に利用されるか
• 入力データがどのように保存・利用され、保存期間を管理できるか
• 管理者が利用者や権限、利用できる機能を管理できるか
• 部署やプロジェクト単位で情報を分けられるか
• ログや利用状況を確認・監査できるか
• データの保存地域や処理主体を確認できるか
• 外部ツール、コネクタ、Web検索などへ情報が送信される条件を管理できるか
• 社内研修や利用ルールと組み合わせやすいか
• 既存のセキュリティポリシーと整合するか

弊社が提供するKanataのように、AIチャット、AI要約、eラーニング、プロジェクト単位の管理機能を持つ環境は、社内で生成AIを運用したい企業にとって選択肢の一つになります。たとえば、営業部門向け、人事部門向け、研修用といった形でプロジェクトを分け、よく使うプロンプトや学習データをチームで再利用しやすくする運用が考えられます。

また、eラーニング機能を使えば、生成AIの入力禁止リストを社内研修コンテンツとして整備し、全社員に周知することもできます。単に「PDFを配って終わり」にするのではなく、研修動画、確認テスト、FAQ、実例集と組み合わせれば、理解のばらつきを抑えやすくなります。

ただし、どのツールを使う場合でも、「何を入力してよいか」を自動的にすべて判断してくれるわけではありません。入力してよい情報、入力してはいけない情報、条件付きで扱える情報は、各社の規程、契約、リスク許容度に合わせて設計する必要があります。

ツールは、安全な運用を支える土台になります。しかし、最終的にどの情報を扱うかを決めるのは、組織のルールと人の判断です。

まとめ：生成AIの入力禁止ルールは、現場が迷わない表にする

生成AIの社内利用では、「機密情報や個人情報は入力しないでください」という一文だけでは不十分です。

現場で必要なのは、次のような判断ができる状態です。

• この情報は入力してはいけない
• この情報はマスキングすれば相談できる
• この情報は社内で承認された環境であっても確認が必要
• この情報は公開情報なので使いやすい
• 迷ったら誰に相談すればよい

そのためには、社外秘、顧客情報、個人情報、認証情報、権限情報、未公開情報などを分けた一覧表を作り、研修、FAQ、社内ポータル、オンボーディング資料に展開することが有効です。

筆者は、生成AIのルールづくりを「制限」だけの話だとは考えていません。むしろ、安心して使うための共通言語を作る仕事だと考えています。

どこまでなら使ってよいのか。どこからは止まるべきなのか。迷ったら誰に聞くのか。その線引きがあるからこそ、社員は生成AIを業務で使い続けられます。

生成AIの活用を止めるためのルールではなく、安全に使い続けるためのルールとして整備することが、これからのAI利用環境づくりでは重要になります。

Q&A