AIセキュリティ入門【考え方編】|「社内情報、AIに入れて大丈夫?」と不安な会社へ

AIを業務に使いたいけれど、社内の資料や顧客の情報を入れて大丈夫なのか分からない。AI導入のご相談で最も多いのが、このセキュリティの不安です。本記事は、入力した情報が学習に使われる条件のプラン別の整理と、「AIに渡していい情報か」を3段階で判断する基準、その基準を仕組みで守る方法をまとめたものです。

背景・課題

書類を抱えてAIに入れていいか迷う様子と「線引きがない不安」のラベルの図解

AI導入の相談を受けていて、機能や料金より先に聞かれるのがセキュリティです。「顧客の情報が漏れませんか」「入力した内容が勝手に学習されませんか」という質問は、ほぼ毎回出ます。

この不安の大部分は、「何を渡していいかの線引きが無い」ことから来ていると考えています。線引きが無いままだと、怖くて導入自体が止まるか、逆に何の確認もしないまま顧客情報まで入れてしまうかのどちらかに傾きます。

線引きに必要なのは、学習に使われる条件という事実と、渡していい情報の基準、そしてその基準を守り続けるための仕組みの3つです。

入力した情報は学習に使われるのか

ClaudeとChatGPT/Codexのプラン別学習ポリシー比較図。個人プランはどちらも初期状態で学習オン

いちばん聞かれる「学習に使われるのか」の答えは、有料かどうかではなく契約形態と設定で決まる、です。そして個人向けプランは、ClaudeもChatGPTも初期状態のまま使うと学習に使われます。「有名どころだから大丈夫」とはならない点に注意してください(いずれも2026年8月時点の情報です)。

Claudeの個人向けプラン(Free/Pro/Maxなど)は、学習に使うかどうかの選択画面が表示されます。ただしこの画面のスイッチは最初からオンになっており、そのまま同意すると学習に使われます。使われたくない場合は、同意の前にスイッチをオフにするか、設定のプライバシーにある「AIモデルの改善にご協力ください」をオフにします。

オンのまま使うと、会話は識別情報を切り離す処理をした形式で最長5年保持されます。オフにすれば学習には使われず、削除した会話は原則30日以内にサーバーからも消えます。法人向け(Team/Enterprise)とAPI経由(システムに組み込んで使う方式)は、標準では学習に使いません(明示的にデータ共有へ同意した場合を除きます)。

ChatGPTの個人向けプラン(Free/Plus/Proなど)も、初期設定のまま使うと会話が学習に使われます。止めるには設定のData Controlsにある「すべての人のためにモデルを改善する」をオフにします。オフにしても過去の会話は遡って除外されません。Team/Business/EnterpriseとAPI経由は、Claudeと同じく標準では学習に使いません。

コーディング用AIのCodexは、どのアカウントでサインインしたかで扱いが決まります。個人のPlus/Proアカウントなら消費者向けのルールが適用され、オプトアウトしない限り学習に使われる可能性があります。通常の会話・タスクには、ChatGPT本体の学習設定がそのまま効きます。

見落としやすいのは、リポジトリなど作業環境まるごと(フル環境)の共有です。こちらはCodex側に別の設定があり、ChatGPT本体の設定をオフにしただけでは止まりません。

区分 Claude ChatGPT / Codex
個人プラン 初期状態はオン(オフ操作が必要) 初期設定で学習に使われる(オフ操作が必要)
法人プラン 標準では学習に使わない 標準では学習に使わない
API経由 標準では学習に使わない 標準では学習に使わない

なお、Claudeには例外があり、規約違反の可能性があると自動判定された入出力は、設定に関わらず最長2年(判定スコアは最長7年)保持されます。「オフにすれば100%残らない」とまでは言えない点も含めて、顧客には説明するようにしています。

AIに渡す情報を3段階に分ける

AIに渡す情報を公開OK・社内限定・渡さないの3段階に仕分ける図解

学習の条件が分かっても、「では顧客名簿は入れていいのか」の判断はまだできません。そこで使うのが、渡す情報を3段階に分ける基準です。IPAの「中小企業の情報セキュリティ対策ガイドライン」やISMSの情報分類を参考に、小規模の会社でも迷わず使える粒度まで簡略化したものです。

レベル1は、公開してよい情報です。会社概要、公開済みのホームページやブログの文章など、誰に見られても困らないもの。情報漏えいの観点では、どのAIに、どのプランで入れても気にせず使えます(著作権や利用規約の確認は別の話として残ります)。

レベル2は、社内限定の情報です。社内資料、未公開の企画、内部の数値など、外に出したくないが顧客の秘密ではないもの。

これは、学習に使われない契約形態(法人プラン・API)で扱うのが原則です。個人プランで扱う場合は、学習設定をオフにした上で、保存のされ方や顧客・取引先との取り決めに反しないかまで確認してからにします。

レベル3は、顧客名簿、契約書、パスワードやAPIキー、マイナンバーといった機密・個人情報です。これは学習設定に関係なく、原則として生データをAIに渡しません。

どうしても処理が必要な場合は、名前だけでなく、日付や金額など組み合わせで特定につながる情報も広めに置き換えてから渡します。置き換えても特定の心配が残るなら、渡さない判断をします。

区分を4つにも5つにも増やさないのは、迷う区分は使われなくなるからです。判断に迷ったら1つ上のレベルとして扱う、という運用ルールとセットにすると現場で回ります。

漏えいは「学習」より「操作」で起きる

漏えいは操作で起きる。隠し指示・共有リンク・外部接続・出力の誤りの4リスクの図解

ここまで学習の話をしてきましたが、学習を止めれば安心、とはなりません。ご相談の中で実際に危ういと感じる場面は、ほぼすべて操作・運用の側にあります。学習に使われない設定でも、AIに指示した作業の流れで情報が外部サービスに送られる、公開設定のまま共有される、アカウントが乗っ取られて履歴ごと見られる、といった経路は残ります。

事故が起きなくても、顧客との秘密保持契約や個人情報保護法の整理上、外部のAIに渡すこと自体が問題になる場合もあります。レベル3の情報を生のまま渡さないのは、この全部への備えです。

その中でも見落とされやすいのが、プロンプトインジェクション、共有リンク、外部ツール接続、出力の誤りです。

1つ目はプロンプトインジェクションです。AIに読ませたWebページやメールの中に、見えない文字などで「この情報を送信しろ」という指示が仕込まれていると、AIがそれを正規の指示と誤認して従ってしまうことがあります。Anthropicの公式ヘルプにも、ToDoリストに見えない文字で銀行明細の共有を指示する手口が例示されています。

対策は、AIの操作を自動承認にしないことと、素性の分からないサイトや文書を不用意に読ませないことです。

2つ目は会話の共有リンクです。AIとのやり取りを共有機能でリンク化すると、想定より広い範囲から見られる場合があります。機密を含む会話は共有せず、共有する時は公開範囲を確認してからにします。

3つ目は外部ツール接続です。AIをメールやカレンダー、ファイル置き場とつなぐ仕組み(MCPなど)を使うと便利になる分、攻撃や誤操作の入り口も増えます。接続は業務に必要な最小限にとどめます。

4つ目はAIの出力の誤りです。AIの回答には事実の誤りが混ざることがあり、確認しないまま見積書や契約書などの顧客提出物に使うと、漏えいとは別の形で信用を損ないます。人の最終チェックを挟む工程だけは省かないでください。

ルールは「お願い」と「強制」の2層で守る

CLAUDE.mdはお願い・settings.jsonは強制ブロックという2層の壁の図解

3段階の基準を決めても、毎回人が思い出して守り続けるのは難しいものです。Anthropicが1,053人のテスターで行った実験では、AIが提案した危険なコマンドに人間の承認者が気づけた割合は13.6%で、50回以上の確認をこなした後には約5%まで落ちました。

同じ実験で、危険な操作を自動判定する機械側のチェック(autoモードの分類器)は89%を検知しています。「人が毎回確認しているから安全」は、数字の上では成立していません。機械側のチェックも完全ではないので、どちらか一方に頼らず層を重ねるのが現実的です。

Claude Codeの場合、この層は2つ作れます。1つはCLAUDE.mdというファイルに書くルールです。「機密ファイルを読まない」「元に戻せない操作の前に確認する」といった方針をAIに伝えられますが、公式ドキュメントが明言しているとおり、これはお願いであって厳密な遵守は保証されません。

もう1つがsettings.jsonのpermissions設定です。こちらはAIの判断に関係なく、Claude Code本体が指定したファイルの読み取りやコマンドの実行を機械的にブロックします。守れるのはClaude Codeのツール経由の操作なので、そこを通らない経路まで塞ぎたい場合はsandboxなどの隔離機能を併用します。

使い分けの原則は、破られて困るルールはお願い(CLAUDE.md)だけに書かず、必ず強制(permissions)とセットにする、です。具体的な設定ファイルの中身と、コピペ1回で導入する手順は、次回の実践編の記事で公開します。

まとめ

事実を知る・3段階で分ける・仕組みで守るの3ステップで不安から判断できるへ進む図解

「なんとなく怖い」を判断に変える第一歩は、情報の線引きです。学習に使われる条件を契約形態と設定で押さえる、渡す情報を3段階に分ける、破られて困るルールは仕組みでブロックする。この3つが揃えば、「この情報はここまで渡せる」と自分で判断できるようになります。

どのプランを選ぶか、どの業務からAIに任せるかは会社ごとに違います。自社の情報の分け方から一緒に整理したい場合は、AI導入支援サービスでご相談を承っています。気になる点があれば、お問い合わせからお気軽にご連絡ください。

※2026年8月15日訂正: 公開初版では、Claudeの個人向けプランを「学習に使うかどうかを自分で選ぶ方式」とし、ChatGPTと正反対だと記載していました。実際には選択画面のスイッチが最初からオンになっており、オフ操作が必要な点は両社共通のため、本文と図解を修正しました。