生成AIに機密情報を学習させない方法｜中小企業のための4つの選択肢

「機密情報をAIに学習されたくない」

そんな不安から、生成AIの導入に踏み切れない経営者やDX・情シス担当者は少なくありません。

検索しても出てくるのは「機密情報は入力しない」「学習をオフにする」といった表面的な対策ばかり。自社のデータが実際にどこへ渡り、どこまで守れるのかは、なかなか見えてきません。

ただ、設定をオフにするだけで機密情報を守りきるのは難しいのが実情です。本当に守るために必要なのは、データの機密度に応じて利用形態そのものを選ぶこと。

この記事では、その4つの選択肢と選び方を、当社の自動化事例を交えて解説します。

生成AIに機密情報を学習させない前に知るべきこと

生成AIにデータを渡したとき何が起きるか把握せず「設定をオフにしたから安全」と思い込んでいると、問題に気づけません。

その理由を知っておきましょう。

「学習」「保存」「履歴」の意味

まず、ChatGPTなどの生成AIを一般向けのチャット（無料版やPro版）でそのまま使う場合を考えます。

入力したデータは、3つの異なる扱われ方をします。

• 学習入力内容がAIモデルの改善に取り込まれること。一度使われると、ほかのユーザーへの回答にも影響しうる
• 保存入力内容がサーバーにログとして一定期間残ること。学習とは別に、不正利用の監視などのため保持される
• 履歴過去の会話が自分の画面の一覧に表示されること。画面上の表示の話で、学習や保存とは別

この3つは混同されがちですが、動く場所も目的も別です。

たとえば履歴を削除しても、画面の表示が消えるだけで、学習の設定がオンなら入力内容は学習に使われ続けます。

設定だけで機密情報を守りきれない

学習させない設定（オプトアウト）は有効ですが、これだけで安全とは言えません。3つの仕組みのうち、オプトアウトが止めるのは「学習」だけだからです。

データが学習に使われなくても、不正利用の監視などの目的で、サーバーに一定期間ログとして残ることがあります。学習はされないが、保存はされている。この状態がありえます。

しかも、設定が適用されるのはオンにした後からです。それ以前に入力したデータは、すでに学習に使われている場合があり、後から取り消せません。

オプトアウトが関係するのも、一般向けチャット（無料版やPro版）に限った話です。APIや法人向けプランは、最初から学習に使われない仕組みになっています。

守れるかどうかを左右するのは、設定よりも利用形態の選び方です。

生成AIに機密情報を学習させない4つの選択肢

前述のとおり、一般ユーザー向けのチャットをそのまま使うのは、機密情報に向きません。

では何を選べばいいのか。

学習や保存のされ方、処理場所が異なる4つの選択肢を見ていきましょう。

①法人向けプランは標準で学習されない

同じチャット形態でも、法人向けプラン（ChatGPTのBusiness（旧Team）やEnterprise、各社の同等プラン）は性質が異なります。

これらは初期状態で入力データを学習に使わない設計になっており、個人向けのようにオプトアウトを手動で設定する必要がありません。

加えて、管理者がメンバーの利用を一元管理できる、アクセス権限やログを統制できるなど、組織で使うための機能が備わっています。

②APIは学習されないが短期間保存される

プログラムから生成AIを直接呼び出すAPI利用は、業務システムに組み込むときの基本形です。

業務向けのAPIでは入力データが学習に使われないのが一般的で、この点は個人向けチャットより安全といえます。

ただし、不正利用の監視などのために、入力と出力が一定期間ログとして保存されることがあります。保存期間は提供者によって異なり、自動で削除される短い期間が設定されているのが通常です。

より厳格な要件がある場合は、ログを残さないゼロデータ保持（入出力を一切保持しない契約）が用意されていることもあります。

学習はされないが短期間は保存されうる、という性質を理解して使うのがポイントです。

③Amazon Bedrockは自社クラウド内で完結する

AWS（Amazonのクラウド）が提供する「Amazon Bedrock」は、各社のAIモデルを自社のAWS環境内で動かせる仕組みです。

たとえば東京リージョンを指定すれば、データを国内のリージョン内で処理できます。

Bedrockでは入力したプロンプトや出力が保存されず、モデルの学習にも使われず、モデルの提供元にも渡らない設計になっています。

モデルの品質はそのままに、データは国内・自社のクラウド環境内で処理されると説明できるのが利点です。

費用もAPIを直接使う場合と大きくは変わらないことが多く、機密性と品質を両立させたい企業にとって現実的な落とし所になります。

なお、MicrosoftのAzure OpenAI ServiceやGoogleのVertex AIにも同様の仕組みがあり、自社が使うクラウドに合わせて選べます。

④ローカルLLMは完全に社内で完結する

自社のPCや社内サーバーの中だけでAIを動かすのがローカルLLMです。

データがネットワークの外に一切出ないため、機密性という一点では最も強い選択肢です。

ただし、社内で現実的に動かせる規模のモデルは、用途が広く複雑な指示になるほど精度が落ちる傾向があります。

外に出さないことと引き換えに、品質・速度・運用の手間で制約を受ける点は理解しておく必要があります。

データの機密度で利用形態を選ぶ判断軸

前述した4つの選択肢のうち、どれを選ぶかは「データをどこまで外に出してよいか」という機密度が起点になります。

すべてを一つの形態でまかなう必要はありません。

機密度の低い業務から高い業務まで、段階的に当てはめていくのが実務的です。

公開情報や下書きは法人向けプランで足りる

社外に出ても問題にならない情報を扱うなら、法人向けプランで十分です。

標準で学習されないため、機密性を保ちつつ手軽に使えます。

たとえば、プレスリリースやブログ記事の下書き、ホームページに載っている情報の要約、企画のアイデア出しなど。こうした業務にまで、ローカルのような重い構成を持ち込む必要はありません。

顧客情報や社内資料はBedrockかAPIで守る

顧客情報、社内資料、商談記録など、外に出ると問題になる情報を扱うなら、データの処理場所を管理できるBedrockかAPIに上げます。

社内のシステムに組み込んで自動で動かしたいならAPI、データを国内・自社のクラウド内で完結させたいならBedrockが向いています。

とくに「クラウドは使いたいが、データは社外のAI事業者に渡したくない」という場合は、Bedrockが適しています。

外部に出せない機密はローカルで完結させる

外部に一切データを出せないという要件が最優先の案件では、ローカルLLMが選択肢になります。

データがネットワークの外に出ないという点は、ほかの形態では代替できません。

たとえば、官公庁や医療機関など極めて厳格な秘密保持契約や法的規制が結ばれている資料、自社の未公開特許や独自ソースコードなど競合優位の核となるデータがこれにあたります。

ただし、処理速度や出力品質では制約があるため、その制約を許容できる前提での選択になります。

当社の事例｜ローカルとBedrockを機密度で使い分ける

当社では、顧客資料を読み込ませて答えるAI（RAG）を作る際、資料の整形を自動化しています。

この処理を、社内で完結するローカルと、AWSのAmazon Bedrockのどちらでも動かせるようにし、案件の機密度に応じて切り替えています。

同じ整形作業を両方で比較すると、性質の違いがはっきり出ました。

外へ出せない資料はローカル、品質と速度を優先する資料はBedrockで処理します。

切り替えは設定ひとつで済み、誤変換の補正などの機械的な処理は両方に共通で入れてあります。

すべてを社内で抱える必要も、すべてを外部に任せる必要もありません。データの機密度に応じてその都度選べるようにしておくのが、中堅・中小企業には現実的です。

自社のデータに合った構成を相談したい方は → デイワンのAI導入相談はこちら

生成AIに機密情報を学習させない運用ルールの作り方

形態を正しく選んでも、使う人のルールが曖昧では機密情報を守りきれません。

どのデータを入れてよいか、誰がどう使うかを決めることが、技術と並ぶもう一つの柱です。

入力してよい情報と禁止する情報を定義する

最初に決めるのは、AIに入力してよい情報と、入力してはいけない情報の線引きです。

ここが曖昧だと、現場はその場の感覚で機密情報を入力してしまいます。

たとえば、公開済みの資料や文章の下書きは入力可、顧客情報・個人情報・未公開の社内資料は入力禁止、というように具体例で示すと現場が迷いません。

あわせて、利用してよい業務の範囲や生成物の取り扱いも定めます。

ゼロから作るのが難しい場合は、日本ディープラーニング協会（JDLA）が公開するガイドラインのひな形を土台にすると、整備の手間を抑えられます。

参考：JDLA｜生成AIの利用ガイドライン（ひな形・資料室）

個人アカウントの無断利用を禁止し、法人向けプランを提供する

ルールを定めても、従業員が個人アカウントで業務データを入力すれば意味がありません。会社が把握しないこうした利用はシャドーAIと呼ばれ、情報漏洩の起点になりやすい問題です。

防ぐ基本は、会社として使うツールと環境を用意し、個人アカウントでの業務利用を禁止することです。

標準で学習されない法人向けプランを会社が用意すれば、現場が個人アカウントを使う理由はなくなります。

禁止するだけでなく、安全に使える環境をそろえて初めてルールは機能します。

生成AIのモデル改善をオフにする設定手順

最後に、個人向けチャットで学習させない設定（オプトアウト）の手順を確認します。

前提として、この設定が有効なのは個人向けチャットの話で、法人向けプランやAPIは初期状態で学習されないため、この操作は不要です。

主要な生成AIで学習をオフにする方法

学習させない設定は、サービスごとに項目名や場所が異なります。代表的な3つを挙げます。

• ChatGPT設定→「データコントロール」→「すべての人のためにモデルを改善する」をオフ
• Gemini設定→「Geminiアプリ アクティビティ」をオフ（オフにしても回答生成のため最長72時間は保存されます）
• Claude設定→プライバシー→「Claudeの改善にご協力ください」のトグルをオフ

いずれもパソコン・スマホアプリ共通で、設定はアカウント全体に適用されます。

項目名や画面構成は更新で変わることがあるため、見当たらないときはアプリを最新版にして確認します。

無料版と有料版で設定は変わらない

オプトアウトの操作は、無料版でも有料版（Proなど）でも共通で、同じ設定項目から変更できます。

ただし、この設定だけで安心はできません。

• 適用されるのは設定後に入力した内容だけ。オフにする前のデータはすでに学習されている場合がある
• 学習されないことと、サーバーに保存されないことは別

手順自体は数ステップですが、それだけで機密情報を完全に守れるわけではない、という前提は押さえておく必要があります。

まとめ｜生成AIに機密情報を学習させないなら機密度で使い分ける

生成AIに機密情報を学習させないには、設定をオフにするだけでは足りません。学習・保存・履歴は別々の仕組みで、オフにしても保存は残りうるからです。

守るためには、法人向けチャットプラン、API、Amazon Bedrock、ローカルLLMという4つの利用形態を、データの機密度に応じて使い分ける必要があります。

まずは自社のデータを、どこまで外に出してよいかを整理することから始めてみてはいかがでしょうか。