図面や顧客リストのAI入力｜線引きと二重チェック

社内情報を4段階に分けると入力してよいかが決まる

「機密情報はAIに入れない」というルールだけでは現場は動きません。社員一人ひとりが目の前の書類を機密と判断できないためです。そこで、情報を扱いの重さで4段階に分け、段階ごとに入力の可否をあらかじめ決めておきます。

情報を公開情報・社内一般情報・機密情報・要配慮個人情報にレベル分けし、機密情報（顧客情報・未発表の財務数字・契約書の内容など）はAIへの入力を原則禁止、要配慮個人情報は禁止とすべきとされています（Qiitaの記事より）。この分け方は、社員に判断させるのではなく書類の名前で機械的に決められる点が使いやすいところです。

次の表は、4段階それぞれで入力してよいかと、自社の書類でどれに当たるかを対応させたものです。

この表の使い方は「自社の書類名をどこかの行に必ず書き込む」ことです。行が空のままだと、現場は迷ったときに自分の判断で入力してしまいます。まずは机の上によくある書類10種類を、この4行のどこかに割り振ってください。

判断を社員に任せず、書類の名前で入力可否が決まる形にする。

図面・顧客リスト・価格表はどこに入るか

この3つは、名前が並んでいるだけだと同じ重さに見えますが、実際には扱いが分かれます。判断の分かれ目は「公開されているか」と「契約で守る約束をしているか」の2点です。

顧客リストは迷う余地がありません。顧客情報や価格表などの機密情報・個人情報はAIに入力せず、入力データが学習に使われるリスクを避けるためモデルのトレーニング設定をオフにすることが推奨されています（comman のセキュリティチェックリストより）。顧客の名前と連絡先が並んだファイルは、貼り付ける前に止まるべき書類です。

図面は、自社が作った図面か、取引先から預かった図面かで変わります。取引先の図面は契約で守秘義務が付いていることが多く、社外のAIサービスに送信すると契約上の守秘義務に抵触する可能性があります。自社製品の、すでにカタログに載っている外形寸法なら公開情報です。同じ「図面」でも扱いが逆になるので、図面は出どころで分ける必要があります。

価格表は、公開している定価表と、取引先ごとの掛け率が入った価格表で分かれます。後者は他社に知られると交渉に影響するため、機密情報として扱うのが妥当です。

法律の話が出ると身構えますが、逆に言えば抵触しうる書類は限られているということです。顧客情報・未公開の数字・契約書の中身。この3つを覚えておけば、日常の8割は迷いません。

次の図は、手元の書類をどこへ振り分けるかを2つの質問でたどる判断フローです。

図：その書類をAIに入れてよいかの判断

最初の質問で顧客の名前を見るのは、そこだけは考える余地がないためです。名前や連絡先が入っていれば、ほかの条件を確かめるまでもなく止まります。

自社の書類を当てはめるときは、いちばん右の「4つの問いで判断」に何が入るかを数えてみてください。ここが多い会社ほど、次の節の4つの問いが効きます。

→ くわしくは「AI導入費用は月1万円から｜3タイプ別の内訳」で解説しています。

入力する前に社員が自問する4つの問い

分類表を作っても、実際に手を動かすのは現場の社員です。分類表を見に行かなくても判断できるよう、入力の直前に自分へ問いかける形にしておきます。

入力前チェックリストとして、次の4つの問いかけを習慣化することが推奨されています（SHIFT AI の記事より）。

1. その情報は公開済みか
   自社のWebサイトやカタログにすでに載っているなら、入力して問題になりにくい情報です。
2. 契約上の守秘義務の対象になっていないか
   取引先から預かった図面・仕様書・見積書は、契約書に守秘義務の条項が入っていることが多くあります。
3. 自社や顧客に不利益を与える可能性はないか
   競合に知られたら困る、顧客に知られたら困る、と少しでも思うなら入力しません。
4. 学習に使われる可能性がある環境か
   使っているツールの設定と規約を確認していない状態なら、機密でない情報だけに絞ります。

4問すべてが問題なしなら入力、1つでも引っかかったら上長に確認、という運用にします。この4問は判断の順番にも意味があります。1で公開済みと分かれば残り3問は不要ですし、2で守秘義務に当たれば3以降を考える必要はありません。

迷ったときの逃げ道を「上長に確認」ではなく「入力しない」にすると現場が止まります。誰に聞けばよいかを決めておいてください。

AIツール側で設定すること

社員側のルールと同じくらい重要なのが、使うツール側の条件です。クラウド型の生成AIを使う場合は利用規約を確認し、入力データが学習に使われるか、ログとして保存されるかなど、ツールごとに異なるルールを確認することが重要とされています。これを見落とすと社外への情報流出につながる可能性があります（NEXTの記事より）。

法人向けAIツールを選ぶときに確認する項目は、次の表のとおりです。1つのツールに全部そろっている必要はなく、自社が扱う情報の重さに応じて優先順位をつけます。

ここで注意したいのは、学習に使わせない設定は「情報が外に出ない」という意味ではないことです。設定でオフにできるのは、入力した内容をAIの学習に使う扱いであって、送信そのものが無くなるわけではありません。情報漏えい全般が防げると読み替えないでください。

この区別が曖昧なままだと、「設定したから何を入れても大丈夫」という誤解が現場に広がります。設定は前提条件であって、入力禁止リストの代わりにはならない、と社内に伝えておく必要があります。

禁止リストもツールに読ませておく

設定と同じ場所でもう1つやっておくと効くのが、入力禁止リストの登録です。多くのAIサービスには、会話のたびに同じ指示を読ませておく仕組みがあります。呼び方はサービスごとに違います。

ここに入力禁止リストを入れておくと、渡した資料の中に当たるものがないかを見て、気づいた点を返してくれます。人が「入力してよい」と判断したものを、もう一度別の目で見る使い方です。判断そのものを任せるわけではありません。

この使い方には前提があります。中身を見せる＝送信することなので、学習に使わせない設定を済ませたツールでだけ行ってください。機密と判断した書類は、この方法でも入力しません。

見落としを拾う仕組みは、プログラムとAIと人で分ける

4つの問いは、書類を丸ごと見て判断するやり方です。ただ実際に困るのは、問題のない書類に一行だけ混ざっている場合です。

議事録の末尾に取引先の社名が残っている。手順書の例に実在の顧客名を使っている。読み流すと気づきません。そこで、人の判断のうしろに確認をもう一段置きます。

次の表は、その確認を誰に任せるかを3つに分けたものです。当方も自社の仕事で同じ問題に当たり、この形に落ち着きました。

読み方は片方だけでは埋まらないという点です。プログラムは書いていないものを素通りさせ、AIは書いてあっても取りこぼします。重ねると、どちらか一方だけのときより取りこぼしが減ります。

AIに任せる部分は、前の節でツールに読ませた禁止リストがそのまま働きます。残るプログラムの部分を、次に見ていきます。

プログラムに任せる：決まった形のものを止める

プログラムというと開発を思い浮かべますが、ここでは「決まった形なら機械が判定できる」という意味です。表計算ソフトの検索でも足ります。

1. 番号やアドレスの形を探す
   電話番号・メールアドレス・マイナンバーは桁数と並びが決まっています。貼り付ける前に検索をかけると、混ざっていることがその場で分かります。
2. ファイル名に印を付ける
   社外に出せない資料は、ファイル名の頭に「社外秘_」と付けます。中を開かずに判断でき、あとで探すのも簡単です。
3. 置き場所で分ける
   入力してよい資料だけを1つのフォルダにまとめます。そのフォルダの外にあるものは貼らない、という決め方なら覚えることが1つで済みます。

どれも見落としません。ただし、あらかじめ書いていないものは見つけられません。ここを埋めるのが、ツールに読ませた禁止リストです。

当方がつまずいた2つと、その対策

当方は自社のコラムを作るときに、この形を使っています。原稿を確認役のAIに点検させ、最後に人が判断して公開する流れです。その運用で2つつまずきました。

1つめは、登録したルールが破られたことです。 指示文で名指しして禁止した内容と同じ指摘が、6回くり返し出ました。指示文を厚くしても止まりませんでした。AIの側は提供元が中身を更新するので、文章で書いた決まりが効かなくなることがあります。

2つめは、手元のファイルと登録先がずれたことです。 ファイルを直しても、AI側の登録欄へ貼り直さなければ結果は1文字も変わりません。当方では5項目が登録欄にだけ無く、しばらく気づきませんでした。直したつもりの期間があったわけです。

対策は、指示を強くすることではありませんでした。数えられるものをプログラム側へ移すことです。当方は判定できる項目を10個決めて、そちらで確認しています。何度動かしても同じ結果になり、費用もかかりません。

AIに守らせようとするより、守れたかを確かめる側を作るほうが早い。

3つを重ねても、送るかどうかを決めるのは人です。プログラムもAIも、気づいた点を挙げるところまでしかできません。何も出なかったことは、安全だったことの証明にはならないと考えてください。

→ くわしくは「商品説明文はプログラムとAIと人の3step」で解説しています。

AIが出した内容を確認する層を厚くする

入力側だけを見ていると、出力側が抜けます。AIが生成した内容はそのまま使用せず、事実誤認や機密情報の漏えいがないか必ず人間がチェックする習慣が必要で、契約書・財務報告・プレスリリースなどの重要書類では特に慎重な確認が求められます（comman のセキュリティチェックリストより）。

この工程を軽く見てはいけない理由を、当方の経験から補足します。当方は画面操作で業務を自動化するプログラムを複数の現場向けに作り、数年運用してきました。そこで繰り返し起きたのは、エラーが出ないまま結果だけが変わるという状態です。相手サイトの項目名が別の名前に移り、エラーも出ないまま取得件数が0件になったことがありました。

自動化された仕組みは、止まってくれれば気づけます。怖いのは動き続けながら中身が変わる場合で、これは生成AIでも同じです。もっともらしい文章が返ってくるので、確認する人がいないと誤りがそのまま社外に出ます。

確認の工程を現実的に回すには、人を増やすのではなく確認の層を足します。入力の前に置いたのと同じ形です。

数字や日付が原本と合っているかは、プログラムで照合できます。何度やっても同じ結果になり、目で追うより確実です。人が読むのは、その結果と、文章として筋が通っているかどうかに絞ります。

人手を増やさずに層を厚くするほうが、毎日続けられます。社外に出る書類だけ層を1つ足す、という決め方なら現場も迷いません。

社内情報を外に出さないための手順

ここまでの内容を、社内で決めておく形にします。3つで足ります。

入力禁止の情報を書き出す

プロンプトとして入力を禁止する情報をリストアップし、機密情報・顧客情報・社外秘事項などを入力しないことを社内に周知することが大切とされています（Sky の記事より）。自社の書類名で5〜10項目書き出してください。「機密情報」とだけ書かず、「取引先から預かった図面」「顧客名簿のExcel」のように現場が見ている名前で書きます。

書き出したらA4用紙1枚にまとめて配ります。分厚い規程を作ると誰も読まないため、最初は1枚で十分です。

使ってよいAIツールを1つに決め、禁止リストを登録する

複数のツールが同時に使われると、規約の確認も設定の確認も追いつきません。まずは1つに絞り、そのツールで学習に使わせない設定をオンにし、規約のどこにその記載があるかを控えておきます。

続けて、ステップ1で書き出したリストを、そのツールの指示欄へ入れておきます。人が判断したあとの二重確認として働きます。紙のリストとAI側の登録内容は、同じものにしておいてください。片方だけ直すと、確認の結果は変わらないのに直した気になります。

担当と見直し時期を決める

生成AIの導入前チェックとして、導入責任者の明確化、利用申請フロー、定期レビュー、緊急時の対応フロー、ツール更新時の影響調査、社内規定へのAI活用項目の反映などが挙げられています（SHIFT AI の記事より）。小規模な会社では、まず導入責任者と見直し時期の2つだけ決めれば動き出せます。

見直し時期を決める理由は、ツール側の仕様と規約が変わるためです。当方が運用してきた自動化の仕組みでも、相手側の画面や手順が変わって動かなくなることが繰り返し起きました。ツールを使う仕組みは作って終わりではなく、定期的に見直す前提の道具として扱うほうが結果的に手間が減ります。

見直し時期が来たら、紙のリストとAI側の登録内容が同じままかも、あわせて見てください。

規程を厚くするより、1枚を全員が読んでいる状態のほうが守られる。

よくある質問

自社の業務に合わせたAIツールの選定・導入は、ぜひ、ジッソウLABのゲンバAIへ無料でご相談ください。