ChatGPTに社内情報を入れるときの線引き
ChatGPTのような生成AIを業務に使うとき、線引きの基準はひとつです。自社の事実を答えさせるかどうか。
文章を整える、要点を拾う、言い換えを出す。この種類は、手元の材料を渡せばそのまま使えます。一方、自社の規程の内容や、いまの料金を答えさせるのは向きません。手元にその資料が無ければ、それらしい一般論が返ってくるだけだからです。
入れる前に決める4つ
1. 入れてよい情報の範囲
人事評価、個人が特定できる情報、他社との秘密保持契約がかかっている資料。この3つは対象外にしてください。ここを決めずに使い始めると、あとから取り消すのが難しくなります。
2. 使う環境
個人の契約なのか、会社が管理する契約なのか。入力した内容が学習に使われない設定になっているか。保存先はどこか。この3点は、使い始める前に確認しておく部分です。
3. 答えを鵜呑みにしない範囲
金額・期限・条件が入る答えは、必ず元の文書と突き合わせる。これを運用の手順に書いてください。生成AIは間違っているときも同じ調子で答えます。「自信がないので確認してください」とは言ってくれません。
4. 相手に出す前の確認者
お客さまへの返信に使う場合、誰が確認してから出すかを決めます。ここが空欄のまま運用すると、会社としての答えが確認されないまま外に出ます。
生成AIは、間違っているときも同じ調子で答えます。「自信がないので確認してください」とは言ってくれません。金額・期限・条件が入る答えは、必ず元の文書と突き合わせる。この1行を運用の手順に書いておいてください。
そのまま使える場面・向かない場面
向く：返信の下書きを整える
自分が書いた要点を、読める文章に直してもらう使い方です。事実は自分が持っているので、正しさは担保されています。書き方は問い合わせ返信の例文と、テンプレートで足りなくなる場面にまとめました。
向く：長い資料の要点を拾う
読む前に当たりを付ける使い方です。ただし、拾ってきた箇所は必ず原文で確認してください。要約の段階で条件が落ちることがあります。
向かない：社内規程の内容を答えさせる
規程を渡さずに聞くと、一般的な内容が返ります。それらしく読めるので、自社の規程だと思い込んでしまうのがいちばん危ないところです。
向かない：最新の料金や在庫を答えさせる
学習した時点の情報しか持っていないので、いまの数字は分かりません。頻繁に変わる数字は、そもそも生成AIに答えさせる対象から外してください。
お客さま対応に使うなら、この形
大事なのは1つ目です。自社の文書から探してから答えを作る。この工程があるかどうかで、「もっともらしいが自社の話ではない答え」が出るかどうかが決まります。
この形はRAGと呼ばれます。仕組みの説明はRAGチャットボットとは？非エンジニアでもわかる仕組みと、中小企業での現実的な活用法に、読ませる文書の準備は社内規程・マニュアルをAIに読ませる前にやることにまとめてあります。
SHIRITAIの場合
ここからは実際の画面です。上で書いたことが、どの画面にあたるかをお見せします。
自社の文書から探して、出所を添える
「自社の事実は自社の文書から」の実物です。もとにした資料名とページ番号が出ます。
出典表示。答えの下に、もとにした資料名とページ番号が出ます。（AI自動応答）
書いていないことは、作らない
汎用の生成AIとの、いちばん大きな違いです。分からないことは分からないと返します。
登録していないことを聞かれたとき。作らずに、お問い合わせへ案内します。（AI自動応答）
読ませる資料の範囲を、目で確かめる
入れてよい情報の範囲を決めたあと、実際に何が入っているかをここで見ます。
資料ファイル。画像解析のチェックは、資料を上げる前に決めます。（画像解析）
使える人の範囲を絞る
配布したURLと番号を持つ人だけが開けます。社内で使う場合の前提です。
社内モードの設定。番号の一覧と、番号ごとの配布URL。（社内モード）
やりがちな失敗
資料を渡さずに、自社のことを聞く
一般論が返ってきます。しかも、それらしく読めるので気づきにくいところです。自社の事実を答えさせるなら、必ず自社の文書を渡してください。
要約だけを見て判断する
要約の段階で条件や例外が落ちることがあります。金額と期限が絡む話は、必ず原文に戻ってください。
入れてよい範囲を決めずに始める
人事情報や、他社との契約がかかった資料が入ってしまうと、あとから取り消すのが難しくなります。使い始める前に決めておいてください。
社内ルールに、そのまま書ける文
生成AIの利用ルールは、長い規程にすると読まれません。次の5行を、社内の案内に貼るところから始めてみてください。
生成AIの利用について
1. 人事評価、個人が特定できる情報、他社との秘密保持契約がかかっている資料は入力しません
2. 利用するのは、会社が契約している環境のみとします
3. 金額・期限・条件が含まれる回答は、必ず元の文書と突き合わせます
4. お客さまへ送る文面は、担当者が内容を確認してから送ります
5. 判断に迷うものは、入力する前に情報システムへ相談してください
禁止を並べるより、やってよいことの範囲を書くほうが守られます。5つ目があると、現場が判断を抱え込まずに済みます。
「使わせない」より「使い方を決める」
利用を全面的に禁止しても、個人の端末で使われるだけです。むしろ、その状態のほうが危険になります。
| 禁止したときに起きること | 代わりにできること |
|---|---|
| 個人の契約で、こっそり使われる | 会社が契約した環境を用意する |
| 何を入力したか把握できない | 入れてよい範囲を明示する |
| うまい使い方が共有されない | 社内で使い方を持ち寄る場を作る |
使い方を決めて公開したほうが、結果として管理できる状態になります。禁止は、管理していることにはならないというのが、実務での見え方です。
よくある質問
ChatGPTに社内情報を入れても大丈夫ですか？
入れる情報の範囲と、使う環境の2つを先に決めてください。人事評価、個人が特定できる情報、他社との秘密保持契約がかかっている資料は対象外にします。環境については、入力した内容が学習に使われない設定になっているか、保存先はどこか、会社が管理する契約かを確認してから使い始めてください。
ChatGPTに自社の規程の内容を聞いてもいいですか？
規程そのものを渡さずに聞くと、一般的な内容が返ってきます。それらしく読めるので、自社の規程だと思い込んでしまうのがいちばん危ないところです。自社の事実を答えさせるなら、必ず自社の文書を渡すか、文書から探して答える仕組みを使ってください。
生成AIの答えは、どこまで確認すればいいですか？
金額・期限・条件が入る答えは、必ず元の文書と突き合わせてください。生成AIは間違っているときも同じ調子で答えるので、答え方から見分けることはできません。逆に、文章を整えただけの結果や、自分が渡した要点を並べ直しただけのものは、確認の負担は軽くなります。
お客さまへの返信に、生成AIを使ってもいいですか？
下書きを整える用途なら問題ありません。事実は自分が持っているので、正しさは担保されています。一方、自動で生成した答えをそのままお客さまに出す運用にする場合は、自社の文書から探して答える形にして、金額・期限・条件が入るものは人が確認してから出す手順にしてください。
社内で使うなら、ChatGPTと専用のチャットボットのどちらがいいですか？
用途で分かれます。文章を整える、要点を拾う、アイデアを出すといった作業は汎用の生成AIが向いています。自社の規程や手順を答えさせるなら、自社の文書から探して出所つきで答える形が向いています。どちらか一方に寄せるより、使い分けを決めておくほうが実務的です。
まとめ：自社の事実は、自社の文書から
生成AIを業務に使う線引きは、自社の事実を答えさせるかどうかです。文章を整える、要点を拾う、言い換えを出す。この種類はそのまま使えます。規程の内容や最新の料金を答えさせるなら、自社の文書から探して答える形にする必要があります。
SHIRITAIは、自社の資料の範囲だけで答えて、判断が要る相談は人に渡すAIチャットボットです。お客さま対応や社内問い合わせに使う場合の形を確かめたい方は、無料トライアルで自社の資料を読ませてみてください。ChatGPTそのものとの違いはChatGPTと業務用チャットボットの違いにまとめています。
SHIRITAI（シリタイ）は、HELATH株式会社が提供するAIチャットボットサービスです。
