機密データをAIに渡すと危ない？｜ECの3段階運用

セキュリティの目的は、AIを止めることではない

「顧客情報があるからAIは禁止」と決めれば、判断は簡単です。しかしそれでは、公開情報の要約や伏せ字にした問い合わせ文まで止まります。現場が個人契約のAIを隠れて使い始めれば、会社は実態を把握できません。

デジタル庁の生成AI利用ガイドブックも、機密性を従来のクラウドサービスと同じ枠組みで扱っています。契約・利用規約と情報システムの安全管理を確認し、「学習されるか」だけに注目しすぎない考え方です（デジタル庁調べ）。

AIの安全性は印象で決めません。何が、どこへ送られ、誰が見られ、いつまで残るのかを見ます。懸念をこの形まで言葉にできれば、対策を決めて使えます。

規約と管理機能でリスクを分解します。説明できない不安を理由に全社禁止するより、許可する条件を明文化した方が安全に利用を広げられます。

→ くわしくは「Copilotに学習させない条件｜職場アカウントで守る」で解説しています。

主要な法人向けAIでは、学習利用は原則オフにできる

「AIにデータを渡すと、他の人への回答として学習される」という心配は、個人向けサービスと法人向けサービスを分けずに語ると大きくなります。

たとえば、OpenAIはAPIへ送ったデータを、利用者が明示的に同意しない限りモデルの学習・改善に使わないと説明しています。AnthropicもClaude for WorkやAPIなどの商用製品では、入力・出力を既定でモデル学習に使わないとしています。Google Workspaceも、許可なくWorkspace内のデータを基盤モデルの学習に使わないと説明しています（OpenAI、Anthropic、Google調べ）。

したがって、主要な法人向けサービスやAPIでは、学習利用は原則オフという理解には根拠があります。会社が承認した法人向け環境を使うことは、導入のハードルを下げる現実的な第一歩です。

ただし、確認を「有料」という表示だけで終えてはいけません。同じ会社の製品でも、個人向けと法人向け、チャット画面とAPIで条件が違うことがあります。自社が実際に使うサービスとプランの規約を見ます。

また「学習に使われない」と「どこにも保存されない」は別です。OpenAIのAPIでは、不正利用の監視ログが既定で最長30日保持される場合があります。AnthropicのAPIにも、原則30日以内に自動削除するという別の保存方針があります（OpenAI、Anthropic調べ）。保存期間や人による確認、外部連携の範囲は、学習利用とは別に確認してください。

学習オフは重要な条件です。ただし、情報漏えい全般を防ぐ魔法の設定ではありません。誤共有、広すぎるアクセス権、乗っ取られたアカウント、接続先サービスの扱いには別の対策が必要です。

Google Driveに機密ファイルを置くのと同じ管理発想で考える

多くの会社は、見積書や顧客対応の文書をGoogle Driveなどの業務用クラウドに保存しています。外部サーバーを使っていても、契約、アクセス権、共有設定、保存場所を管理したうえで業務に使っています。

法人向けAIも、基本はこの延長で考えます。外部クラウドだから即禁止ではなく、次の5点が自社の許容範囲に入るかを確認します。

1. 契約：業務用の法人プランまたはAPIか
2. 用途：公表・通知している利用目的の範囲内か
3. 権限：誰が使い、どのファイルやシステムまで見られるか
4. 保存：入力と出力がいつまで残り、削除できるか
5. 場所：どの国で保管・処理され、再委託先はどこか

保管する場所については、個人情報保護委員会が線を示しています。外国の事業者が管理するサーバーに個人データを保存する場合を考えます。その事業者が、保存された個人データを取り扱わないこととなっているなら、外国にある第三者への提供には当たりません。条件は、契約条項で取り扱わない旨が定められていることと、適切にアクセス制御を行っていることです（個人情報保護委員会調べ）。

ただし外国のサーバーへ保存するときは、その国の制度を把握したうえで安全管理の措置を講じ、講じた内容を本人が知り得る状態に置く必要があります（同）。これはGoogle Driveなどの業務用クラウドを使うときにも、同じく必要な対応です。

Google Workspaceでは、管理者やファイル所有者がGeminiによるファイル参照を制限できます。Geminiが参照できるのは、利用者にアクセス権があるファイルだけです（Google調べ）。このように権限を管理できる法人向けサービスなら、業務クラウドとして採用を判断できます。

AIにだけ追加で必要なのは、「入力をモデル学習に使うか」と「連携機能がどこまで自動で取りに行くか」の確認です。Google Driveとまったく同じ技術ではありませんが、同じクラウド管理の枠組みに2項目を足すと考えると、過度に構えず運用できます。

ECの顧客情報は3段階に分ける

分類を増やしすぎると、現場が判断できなくなります。ECショップでは、情報を次の3段階に分ければ運用を始められます。

パスワード、APIキー、カード番号、セキュリティ質問の答えは、3段階とは別にAIへ渡さない認証・決済の秘密として扱います。

次の図は、手元の情報をどの環境へ振り分けるかを示す判断フローです。

図：顧客・社内情報をAIへ入れる前の3段階判断

図の中央と右側で迷ったら、情報そのものではなく「AIにその項目が本当に必要か」を見ます。必要のない項目を落とすだけで、法人向けAIを使える業務は増えます。

問い合わせ文は、削る・置き換える・要約する

顧客対応で使いやすい加工は3つです。

1. 削る：氏名、住所、電話番号、メールアドレス、注文番号を消す
2. 置き換える：「山田太郎」を「顧客A」、「東京都新宿区○番地」を「東京都内」にする
3. 要約する：「商品が破損して届いた。交換を希望。到着日は昨日」のように、対応に必要な事実だけを書く

一般化の度合いに決まった正解はなく、データごとに決めることになります。住所を「東京都内」にするのと同じ考え方を、日時や購買履歴にも当てはめます。珍しい買い方は、それ自体が特定の人を指してしまうためです。

渡すのは業務に必要な項目だけにします。会員IDのように社内の他のデータと突き合わせられるものは、仮のIDへ置き換えます。そのうえで、仮のIDと本人を結び直せる対応表は、AIから切り離して管理します。

加工の抜けは、人の注意力ではなくプログラムで止める

削る・置き換えるは、急いでいるときほど抜けます。決まった形のものなら、AIへ送る前にプログラムで機械的に止められます。電話番号、メールアドレス、郵便番号、注文番号は書式が決まっているので、含まれていたら警告する仕組みを挟めます。

当方がこのコラムを作っている仕組みでも、同じ分担にしています。AIが書いた原稿は、公開前にプログラムが決まった項目を検査します。使ってはいけない言い回しが入っていないか、書かれた数字が根拠の資料と食い違っていないか、という判定です。何度動かしても同じ結果になり、費用もかかりません。

ただし、機械が止められるのはあらかじめ決めた形のものだけです。文脈を読まないと分からないもの（その文章に病歴が混ざっているかなど）は人が確認します。決まった形はプログラム、形にできないものは人、と分けるのが現実的です。

健康食品やサプリメントの問い合わせには、病歴や通院歴が混ざることがあります。この部分は単なる氏名の削除では足りません。外部クラウドのAIへ入れず、人が対応するか、後述する閉じた環境を検討します。

顧客の生の文面を貼ることを標準にしません。「下書きに必要な事実だけを渡す」を標準にすれば、活用と保護を両立できます。

個人情報は「同意があるか」だけで決めない

個人情報保護委員会は、個人データがAIの回答出力以外にも使われる場合について注意喚起しています。本人の同意がなければ、個人情報保護法に違反する可能性があるためです。サービス提供者が入力データを機械学習などに使わないことも、十分に確認するよう求めています（個人情報保護委員会調べ）。

ここから分かるのは、法人プランなら何でも入れられるわけではない、ということです。次の順で判断します。

1. その処理は、顧客へ公表・通知している利用目的の範囲内か
2. AI提供者が、回答の生成以外にデータを使わない契約になっているか
3. 入力する項目は、その業務に必要な最小限か
4. 保存期間、アクセス権、保管国が自社の基準に合うか

利用目的を超える場合や、提供者による二次利用を止められない場合は、そのまま入力しません。必要に応じて本人の同意や専門家の確認を取ります。プライバシーポリシーも、AIを使うという一文を機械的に足すのではなく、実際の利用目的と委託先の扱いに合わせて更新します。

※個別の契約や個人情報保護法上の判断は、顧問弁護士や個人情報の担当者へ確認してください。

超機密はローカルLLM（自社サーバー内）で扱う

契約上どうしても外部クラウドへ渡せない情報や、漏えい時の影響が極めて大きい情報まで、無理に法人向けクラウドAIへ入れる必要はありません。この場合の選択肢が、ローカルLLM（自社サーバー内で動かす生成AI）です。

ローカルLLMは、入力データを外部のAI事業者へ送らずに処理できる構成を取れます。デジタル庁も、高い機密性が求められる場合の選択肢を示しています。自社環境、オンプレミス（自社設備内）、オフライン環境への導入です（デジタル庁調べ）。

採用を検討するのは、次のような場合です。

• 契約や業界ルールで、対象データの外部クラウド送信が禁止されている
• 超機密情報を継続的にAIで処理する必要があり、人手だけでは業務が回らない
• サーバー、権限、更新、監視を保守できる担当者または支援会社がいる

機械そのものの費用は調べられます。Appleの直販では、小型のMac mini（M6・メモリ16GB）が149,800円からです。メモリ64GBの上位構成は335,800円からです（2026年8月時点）。扱えるAIの大きさはその機械のメモリで決まるため、業務で使うなら最小構成では足りないことがあります。

一方で、サーバーやGPUの調達、モデルの構築、更新、監視が必要になり、初期費用と運用負担は法人向けクラウドAIより大きくなります。扱う超機密情報が月に数件だけなら、そこだけ人が処理する方が合理的な場合もあります。

つまり、ローカルLLMは中小企業の標準的な入口ではなく、超機密だけを受け持つ最後の選択肢です。通常業務は法人向けクラウドAIで早く始め、外へ出せない業務だけを閉じた環境へ分けます。

AIが自分でデータを取りに行く場合は、接続範囲を絞る

人が問い合わせ文を貼る使い方と、AIエージェント（指示に沿って複数の手順を実行するAI）がGoogle Driveや受注管理へ接続する使い方は分けて考えます。

後者では、人が貼る前に伏せ字にする工程がありません。AIが見られるフォルダ、顧客、注文履歴の範囲そのものを制限します。IPAも、AIエージェントによる意図しない漏えいをリスクに挙げています。機密情報や個人情報へアクセスする過程で起きるものです（IPA調べ）。

最初は次の3点に絞ります。

1. 読み取り専用で接続する
2. 店舗全体ではなく、対象のフォルダや業務だけを許可する
3. 実行履歴を責任者が確認できるようにする

Google Driveや受注管理の管理者権限を丸ごと渡して始めてはいけません。エージェント型でも、必要な権限だけを渡せば導入できます。

導入は「承認ツール1つ・対象業務1つ」から始める

ルール作りを大がかりなプロジェクトにする必要はありません。最初は次の順で進めます。

使う法人向けAIを1つ決める

個人が好きなツールを持ち込む形をやめ、会社が契約と設定を確認できる法人向けAIまたはAPIを1つ承認します。確認するのは、学習利用、保存期間、管理者権限、保管・処理する国、削除方法です。

3段階ルールを1枚にする

前の表を自社の業務名へ置き換えます。「公開済みの商品説明は使う」「問い合わせは氏名と注文番号を削る」「健康相談と未発表商品は外部AIへ入れない」のように、現場の言葉で書きます。

問い合わせ返信だけで試す

対象業務を1つに絞り、伏せ字にした問い合わせから返信案を作ります。AIの出力をそのまま送らず、担当者が事実と表現を確認してから使います。

使えた範囲だけ広げる

削れた時間、修正した箇所、判断に迷った情報を1週間記録します。問題なく回ったら、商品説明やFAQへ広げます。外部連携は、その後に最小権限で追加します。

先に完璧な規程を作るのではなく、承認した環境と1業務で実測し、迷った事例をルールへ足します。これなら安全確認をしながら導入速度を落としません。

ルールを作ると現場はどう変わるか

ルールを決めると使いにくくなるのではなく、「ここまでは使ってよい」が分かるため、現場は迷わず使えます。

当方が支援した現場で、生成AIを使った文書・メール作成の時間を計測した結果が次の比較です。伏せ字にする手間と、人が最後に確認する時間を含みます。

この現場では、確認・修正の3分を残しても1件11分、1日あたり26分短くなりました。人が最後に読む工程を省いていないので、伏せ字にした氏名などを戻す作業もこの時間に含まれます。

この数字は文書・メール作成に限った当方の事例です。自社でも同じ結果になるとは限らないため、まず1業務を1週間測って判断してください。

費用はリスク許容度で3段階に変わる

最初からローカルLLMを選ぶと、導入費用と保守の負担が先に立ちます。多くのECショップは、承認した法人向けチャットAIで段階1と2を始め、業務量が増えた部分だけAPIへ移す順番が現実的です。外部へ出せない情報の種類と件数を先に数え、それでもAI化する価値がある場合に見積もります。

→ くわしくは「AI導入費用は月1万円から｜3タイプ別の内訳」で解説しています。

誰が管理し、何を記録するか

責任者は、店長または個人情報の管理担当者1人で構いません。仕事は次の4つです。

• 会社が承認するAIと契約プランを一覧にする
• 3段階ルールと相談先を社内で共有する
• 管理者権限と外部接続を定期的に確認する
• 規約変更や事故があったとき、誰が何を使ったか追えるようにする

記録は、顧客の入力内容をもう一度保存するものではありません。「担当者」「使ったAI」「業務名」「外部連携の有無」を残せば、運用の見直しに使えます。

一律禁止ではなく、承認ツールと例外申請の道を用意してください。迷った情報を責任者へ相談できれば、現場が無断の個人契約へ流れるのを防ぎやすくなります。

よくある質問

機密情報を安全に守り、業務効率を最大化する「クローズドAI環境」の構築・導入は、ぜひ、ジッソウLABのゲンバAIへ無料でご相談ください。