チャット（Chat）GPTの情報漏洩事例｜実際に起きた原因と企業が取るべき最新の対策

「業務効率化のためにAIを使いたいが、情報漏洩が怖くて手が出せない」

「どこまでが『機密情報』にあたるのか、現場の判断基準がバラバラ」

「もし情報漏洩が起きたら、会社としてどのように対応すべきか不安」

ビジネスの現場では、ChatGPTをはじめとする生成AIの活用が当たり前になりつつあります。

しかしセキュリティへの不安を抱えながらも、利便性を優先して利用を拡大させるべきか悩んでいる企業は少なくありません。

この記事では、ChatGPTの情報漏洩事例と具体的な原因を、AI研修実績4,000名以上を誇る株式会社メイカヒットが詳しく解説します。

従業員が守るべきルールや、企業が導入すべき最新のセキュリティ対策についても紹介します。

読み終わる頃には、ChatGPTを安全に活用し、避けるべき危険な使い方を理解できるようになるでしょう。

ChatGPTの情報漏洩が注目される理由

ChatGPTの情報漏洩が注目される背景には、AI特有の仕組みと普及スピードの問題があります。

注目される主な理由は以下の3つです。

それぞれ詳しく解説します。

情報漏洩の懸念が消えない背景

情報漏洩が怖いという不安から、生成AIの導入をためらう企業は少なくありません。

無料版や個人プランの多くは、入力したデータをAIが学習し、知識として蓄積してしまう仕組みだからです。

たとえば、約款に「データを改善に利用する」と書かれている場合、入力した機密情報が他社への回答として表示される恐れがあります。

安全だと言い切れないことが、会社として使い始める際の大きな壁になっています。

企業利用が一気に広がった影響

急速に利用が広まったことで、社内のルール作りが追いついていないのが実情です。

明確な決まりがないまま、従業員が「便利だから」という理由で、独自の判断で使い始めてしまうケースも少なくありません。

会社の管理外で利用が進むと、アクセス権限やログの記録・監査が効かず、不適切な入力や不正利用を検知できないため、情報漏洩につながります。

利用が広まるスピードに合わせて、早急に管理体制を整える必要があります。

「バレる」と言われる理由と実際に起きたこと

バレると言われる背景の一つとして、生成AIが海外のサーバーにデータを保存し、外国の法令が適用される可能性があることが挙げられます。

例えば中国の生成AI「DeepSeek」では、データ保存先と法令の関係から政府機関が閲覧するリスクが指摘されています。各国で注意喚起や制限が出ており、2025年2月、日本政府も情報の取り扱いが不透明だとして注意喚起を行いました。

生成AIにおけるデータの保存先や法令の違いは、企業が機密情報を取り扱う上でセキュリティ懸念として無視できない要素といえます。

ChatGPTの情報漏洩事例　

便利さの一方で、具体的にどのようなリスクがあるのか不安に感じる方も多いのではないでしょうか。

代表的な情報漏洩の事例は以下の3つです。

それぞれ詳しく解説します。

企業の機密情報が入力され外部リスクが生じたサムスン電子の事例

サムスン電子半導体部門では、従業員がChatGPTに機密情報を入力してしまう情報漏洩事故が発生しました。

業務効率化を優先するあまり、入力データがAIの学習に使われるリスクを見落としていたことが原因です。

機密扱いのソースコードや議事録を入力し、社外のサーバーに会社が管理できない外部AIサービスの情報を送信される事態がありました。

結果、入力内容が学習に利用される可能性がある状態となり、サムスンは社内ルールの見直しや利用制限などの対応を迫られる事態となりました。

企業で導入する際は、情報の取り扱いに関する厳格なルール策定と周知が不可欠です。

引用元：GIGAZINE｜Samsungの従業員がChatGPTに機密情報を入力して情報漏えいが発生｜2023年4月10日

システム不具合により他人の履歴が表示された事例

2023年3月、システム不具合により他人のチャット履歴のタイトルが第三者の画面に表示される事象が発生しました。

OpenAIが使用していたライブラリのバグによって、異なるユーザーのセッション情報が混在したことが原因とされています。

実際にSNS上では、自分が行っていない会話タイトルが履歴欄に表示されたスクリーンショットが拡散され、OpenAIは問題を重く受け止め、ChatGPTを一時的に停止する対応を取りました。

今回の事例の教訓は、ユーザー側がどれほど注意しても提供側の不具合による露出は防げないという点です。タイトルだけでも機密事項が推測されるリスクがあり、企業にとっては制御不能な状態になりかねません。

機密情報を入力しない運用と、セキュリティが強化されたAPI利用や法人専用環境の導入といった根本的な対策が必要です。

引用元：BBC News｜ChatGPTのバグでユーザーの会話履歴が漏洩｜2023年3月23日

アカウント情報が窃取され闇市場で売買された事例

2023年6月、10万件以上のChatGPTアカウント情報が闇市場で売買されていることが判明しました。

マルウェアにより、感染した端末からログイン情報が組織的に抜き取られたことが原因です。

流出ログには、ドメインリストや侵害されたホストのIPアドレスといった詳細情報まで含まれています。サブスク形式で安価に提供されることで犯罪の障壁が下がり、さらなる漏洩の的となる懸念があります。

業務に不可欠なChatGPTは機密情報の「宝庫」であり、攻撃者にとって格好の標的となっています。アカウント単位での厳重な保護が必要不可欠です。

引用元：The Hacker News｜Over 100,000 Stolen ChatGPT Account Credentials Sold on Dark Web Marketplaces｜2023年6月20日

チャットGPTの情報漏洩が起きた主な原因 

情報漏洩はなぜ起きてしまうのでしょうか。原因は、ユーザーの操作ミスからシステム側の不具合まで多岐にわたります。

主な原因は以下の6つです。

それぞれ見ていきましょう。

利用者が重要情報を入力してしまう 

情報漏洩の多くは、利用者がAIの学習仕様を理解せず、誤って機密情報を入力することで発生します。

無料版のChatGPTなどでは、サービス改善のためにデータが学習・保存される場合があるからです。

たとえば、会議の議事録や開発中のプログラムコードをそのまま入力すると、他社への回答として出力される恐れがあります。

学習されるリスクを前提とし、重要なデータは絶対に入力しない運用を徹底してください。

プロンプト内容が第三者に漏れる 

プロンプトに入力した内容は、思わぬ形で第三者に共有・再利用される可能性があります。

たとえば、共有リンクの設定ミスや画面共有中の誤表示により、指示内容がそのまま外部に見られてしまうケースです。

また、社内資料や外部向けコンテンツに再利用する過程で、プロンプトに含まれていた社内の情報が意図せず残ってしまうこともあります。

プロンプトは外部に出る可能性のある情報と認識し、企業名・顧客名・未公開情報の記載は避ける運用が必要です。

アカウント情報の流出や管理不備

アカウント情報の管理不備は、外部からの不正アクセスを招く大きな原因となります。

パスワードの使い回しやフィッシング詐欺により、ログイン情報が盗まれる被害が後を絶たないためです。

不正アクセスされると、過去のチャット履歴や保存された業務データがすべて閲覧されてしまいます。

多要素認証を設定し、IDとパスワードを厳重に管理する対策をとりましょう。

システム不具合によるチャット履歴・ログの誤表示

システムのエラーにより、他人のチャット履歴やログが見えてしまう事故も報告されています。

原因は、開発側のバグや設定ミスにより、本来は分離されるべき複数ユーザーのセッション情報が誤って混在してしまったためです。

実際、他人の会話タイトルが表示され、氏名やクレジットカード情報の一部が閲覧可能になる事例が発生しました。

利用者側では防げない事故もあるため、入力内容には常に注意を払う必要があります。

提供側（OpenAI）の運営・法令対応体制の不備

AI提供企業の運営体制や法令対応の不備は、情報漏洩の原因になります。

データ保護の仕組みが不十分なまま稼働すると、機密情報が意図せず学習される危険性があるからです。ユーザーの意思と関係なく、重大なコンプライアンス違反に巻き込まれてしまう可能性があります。

2023年、個人情報収集の通知や年齢確認の仕組みが不十分だったため、イタリアの規制当局がChatGPTの利用を一時禁止しました。提供企業の管理体制が甘いと、データ保護法違反でサービス停止に陥る明確な証拠です。

システム設計をユーザーが直接制御することは不可能なので、提供企業のガバナンス体制もチェックしておきましょう。

通信経路や外部攻撃による情報漏洩

ChatGPTの利用において、通信経路の脆弱性や非公式の拡張機能が情報漏洩の抜け穴となるケースがあります。

暗号化されていないフリーWi-Fi等を使うと、クラウドへ送るプロンプトの内容を盗聴される危険があるためです。

また、便利な拡張機能に悪意あるプログラムが仕込まれ、入力データを外部へ勝手に送信されるリスクも存在します。

外部攻撃を防ぐには、社内VPNなど盗聴リスクのない「信頼できるネットワーク」の利用が不可欠です。

チャットGPTの危ない使い方

情報漏洩は、外部からの攻撃だけでなく、従業員の何気ない操作や認識不足からも発生します。

特にリスクが高いとされる「危ない使い方」は以下の3つです。

それぞれ詳しく解説します。

個人情報をどこまで入力していいか理解せず使う 

「どこまで情報を入力して良いか」という社内の線引きが曖昧なまま利用されることが、情報漏洩の原因のひとつです。

ルールが不明確だと、従業員が機密データを入力してしまう恐れがあるからです。

さらにプランによっては、その入力内容がAIの学習に利用され、第三者へ利用される可能性があります。

たとえば、顧客の氏名や連絡先といった個人情報はもちろん、自社や取引先の未公開プロジェクトなども該当します。

ルールを決めずに安易に使うと、会社全体を巻き込むトラブルになりかねないので、注意が必要です。

業務データを個人アカウントで扱う

従業員が、個人のChatGPTアカウントで業務データを扱う行為は危険です。

会社の機密情報が、企業のセキュリティ管理が及ばない個人のクラウド環境に保存される可能性があるためです。

たとえば、自宅で仕事の続きをするため、顧客データや企画書を自分のアカウントに入力してしまうケースが挙げられます。個人のPC環境はウイルス対策が不十分なことも多く、そこからマルウェア感染や情報流出する危険性が高くなります。

個人の判断による「シャドーIT」は甚大な被害を生むため、現場レベルで絶対に避けるべきNG行動だと認識しましょう。

設定を確認せず使い続ける 

初期設定のまま、あるいは規約変更を確認せずに使い続けることも、情報漏洩の大きな要因です。

ChatGPTは設定で学習利用をオフにできる仕様になっているからです。

「学習機能のオプトアウト（拒否）」を設定せずに使うと、機密情報がモデルの知識として学習されてしまいます。

設定の確認を怠ると、知らぬ間に自ら情報を外部へ提供しているのと同じ状態になります。

【従業員向け】チャットGPTの情報漏洩対策 

組織全体のセキュリティを守るため、従業員一人ひとりが意識すべき具体的な対策は以下の5つです。

それぞれ詳しく解説します。

機密情報・個人情報を入力しない 

顧客名簿や契約書といった機密情報は、ChatGPTへの入力を避ける必要があります。

入力内容は外部サーバーへ送信・保存され、AIモデルの学習に利用されるリスクがあるからです。

入力してはいけない情報の具体例は以下のとおりです。

• 顧客の氏名、住所、電話番号
• 未公開の製品仕様書や価格情報
• プログラムのソースコードやAPIキー
• 社員のIDやパスワードなどの認証情報

外部流出を防ぐため、上記のデータは入力対象から外すルールを徹底しましょう。

情報が学習されない設定（オプトアウト）を使う 

ChatGPTの設定画面で「学習データとして使用しない（オプトアウト）」機能を利用しましょう。

入力内容がAIモデルの再学習に使われ、他社の回答として出力される事態を防ぐためです。

設定の「データコントロール」から、各項目を無効に切り替えるだけで完了します。

意図せず情報が拡散するリスクを、システム設定によって大幅に軽減できる有効な対策です。

写真やファイルを安易にアップしない 

写真や文書ファイルのアップロードも、テキスト入力と同様に慎重な判断が求められます。

画像内の文字や背景にある個人情報が解析され、学習データの対象となる可能性があるからです。

会議資料のPDFやホワイトボードの写真などは、意図せず機密情報が含まれるケースも少なくありません。

ファイルの内容もテキストと同じリスクを持つものだと認識し、安易なアップロードは十分な注意が必要です。

パスワード管理と多要素認証を行う 

ChatGPTのアカウントが不正アクセスされると、過去の会話ログや保存された業務データまで第三者に閲覧される恐れがあります。

被害を防ぐため、パスワード管理と多要素認証によるアカウント保護が欠かせません。

強固なパスワードの設定に加え、スマートフォンなどを使った多要素認証（MFA）を有効化することで、不正ログインのリスクを大幅に下げられます。

さらに、専用のパスワード管理ツールを活用し、パスワードの使い回しを防ぐ運用を徹底しましょう。

個人アカウントや外部ツールを業務利用しない 

企業側は情報漏洩を防ぐため、個人アカウントや未承認ツールの業務利用を禁止する「統制ルール」を設けましょう。

会社が許可していない環境で事故が起きた場合、アクセスログの追跡や被害範囲の特定が事実上不可能になるためです。

万が一情報が漏洩した際、原因究明の初動対応ができず、重大な法的責任や損害賠償を問われる可能性があります。

利用可能なAIツールを会社として指定し、利用にあたっての明確な承認フローを構築する必要があります。セキュリティポリシーで「承認された環境以外での業務は認めない」と取り決め、組織全体へ徹底指導することが大切です。

【社内向け】チャットGPTの情報漏洩対策

組織として安全な利用環境を構築するには、個人の意識だけでなく仕組み作りが欠かせません。

会社側が主導すべき具体的な対策は以下の6つです。

それぞれ詳しく解説します。

ChatGPTの利用範囲を明確にする

情報漏洩対策としてChatGPTの利用範囲を社内ポリシーで明確にすることが重要です。

利用できる範囲を事前に定めると、従業員の誤用や判断の迷いによるリスクを最小限に抑えられます。

具体的には、文書作成やアイデア出しなどの許可事項や機密情報の分析といった禁止事項を決めましょう。

利用範囲を明確に提示すれば、従業員がChatGPTを正しく使用できる環境が整います。

社内ガイドライン・利用ルールを文書化する

ChatGPTの具体的な社内ガイドラインを文書化し、チームの周知を徹底することが重要です。

口頭での説明だけでは認識に差が出るため、いつでも参照できるマニュアルとして整備する必要があるからです。

具体的には、入力禁止項目や設定の手順、トラブル時の報告先などを、社員が迷わず行動できるよう明確にしてください。

自社の現状に合わせたガイドラインを作成し、全社へ展開してセキュリティ意識を統一しましょう。

従業員向けにリスク教育を行う

従業員に対して定期的な教育を実施し、生成AIの情報漏洩リスクを伝えることは企業にとって不可欠です。

正しい知識がなければ、従業員が悪気なく重大なセキュリティ事故を引き起こす恐れがあるためです。

具体的には、機密情報を入力する危険性や、未承認ツールを使う「シャドーIT」のリスクなどを研修で扱います。

適切な利用方法を学ぶ機会を定期的に設け、組織全体のセキュリティ防御力を底上げしていくことが重要です。

法人向けプランやAPI利用を検討する

漏洩リスクを根本から抑えるには、学習が遮断された「ChatGPT Enterprise」などの法人プランが有効です。

プランごとの主な違いを以下の表にまとめました。

項目	個人向け（無料・Plus）	法人向け（Enterprise・有料API）
入力データの学習	原則として学習される（設定でオフ可）	学習に利用されない
セキュリティ	標準的な保護	エンタープライズ級の暗号化
管理機能	個人のみ	管理者によるログ監視が可能

機密情報を扱う業務では、組織的な管理と高い安全性を両立できる法人プランの導入がおすすめです。

利用状況や入力内容を管理・把握する

従業員がChatGPTをどのように使い、何を入力しているかを、管理者がまとめて確認できる体制を整えましょう。

利用状況をひとつの画面でチェックできれば、万が一のトラブルを早期に発見できるからです。

アクセス履歴を監視し、機密性の高い言葉が入力されていないか定期的に確認することも有効な手段といえます。

管理者が全体を見守る運用は、不適切な利用を未然に防ぐ大きな力となります。

定期的にルールと運用を見直す

社内の運用ルールは一度決めて終わりにせず、定期的な見直しが必要です。

AI技術の進化や機能更新のスピードが速く、既存のガイドラインがすぐに古くなってしまうからです。

従業員からのフィードバックや最新の事例を基に、半年から一年に一度はルールの改訂を行いましょう。

状況の変化に合わせて運用を改善し続ける姿勢が、安全な活用を支える基盤となります。

ChatGPT情報漏洩事例に関するよくある質問

入力した内容は会社やOpenAIにバレるのですか？

無料版では入力データがOpenAIの学習に利用されるため、間接的に回答へ反映されるリスクがあります。法人向けの有料版（Enterprise等）では管理者がログを確認できる仕様のため、オプトアウト（学習オフ）設定をした上で利用してください。

過去に送信したデータは完全に削除できますか？

チャット履歴の削除自体は可能ですが、一度OpenAI側の学習に取り込まれたデータを完全に消去することは技術的に困難です。「削除すれば安心」と考えず、最初から「消せないもの」として慎重に扱うのが大切です。

学習オフ設定なら個人情報を書いても安全ですか？

学習オフにしてもOpenAIのサーバーには一時保存され、従業員による確認や不正アクセスのリスクは完全には排除できません。個人情報は必ず匿名化（マスク処理）し、社内ポリシーに従って機密情報の入力は原則禁止としてください。

会社に無断で使う「シャドーIT」のリスクとは？

会社が把握していない個人アカウントでの利用は、ログの追跡ができず、万が一の漏洩時に被害範囲を特定できない致命的なリスクを招きます。コンプライアンス違反だけでなく、アカウント乗っ取りによるウイルス感染の温床になる可能性もあります。

知恵袋などで話題のプロンプト悪用への対策は？

「脱獄プロンプト」と呼ばれる手法でAIの制限を回避し、機密情報を引き出そうとする攻撃への警戒が必要です。対策として、不審なプロンプトの使用禁止をルール化し、DLP（データ漏洩防止）ツール等で危険な入力パターンを監視する体制を整えましょう。

万が一の情報漏洩時に取るべき初期対応は何ですか？

情報漏洩の疑いが生じたら、まずは該当アカウントの利用を即時停止し、速やかに情報システム部門や関係者へ報告してください。管理ログを調査して「いつ・誰が・何を」入力したかを特定し、被害を最小限に抑えるための初動対応が不可欠です。

無料版と有料版でセキュリティレベルに差はありますか？

無料版はデータが学習利用される前提ですが、有料版（Enterprise等）は標準でデータが学習に利用されず、高度な管理機能が備わっています。業務で利用する場合は、SSO（シングルサインオン）やログ監視が可能な有料版への移行がおすすめです。

OpenAIの最新のプライバシーポリシーはどこで読めますか？

OpenAIの公式サイト内にある「Privacy page」や「Trust Portal」にて、最新のデータ取り扱い方針を確認できます。規約は頻繁に更新されるため、定期的にこれらを確認し、組織の運用ルールをアップデートし続けることが重要です。

まとめ｜過去の事例を教訓に安全なチャットGPT活用を始めよう

ChatGPTをはじめとする生成AIは、正しく使えば業務効率を飛躍的に高める強力な武器となります。

大切なのは、情報漏洩のリスクを正しく恐れ、ルールに基づいた運用の徹底です。漠然とした不安で利用を禁止するのではなく、何が危ないのかを明確にすることで、安全な活用が可能になります。

「便利そうだが、どこまで情報を入れていいのか判断に迷う」

「万が一、機密情報が漏洩した時の責任が取れない」

「社内ルールを作りたいが、AIの進化が速すぎて追いつけない」

現場の不安を解消し、組織として安全なAI活用を推進できるのが、メイカヒットのAI研修です！

実務に即したカリキュラムで、セキュリティ意識を統一・底上げし、明日から安心して使えるノウハウを身につけられます。

メイカヒットのAI研修の一番の魅力は、単なる操作説明ではなく、企業を守るための実践的な内容です。

株式会社メイカヒットでは、4,000名以上の研修実績に基づいた実践的なカリキュラムで、AIを「安全で信頼できる戦力」にするためのサポートを行っています。

AI導入を不安なままにせず、安全なセキュリティ体制とともに社内推進を加速させたい方は、私たちの研修プログラムをご確認ください。