ChatGPTに個人情報を入力するリスクとは？事例からセキュリティ対策を解説

ChatGPTを巡っては、過去に「入力の仕方」や「システム不具合」に起因する情報漏えい事例が報告されています。代表的な事例は以下の3つです。

• 韓国企業での機密情報漏えい事件
  業務上のソースコードや内部資料を入力した結果、特定企業の機密情報が外部サービスに渡り、企業内部の情報管理体制が問題視されました。
• チャット履歴の表示バグ事件
  システムの一時的な不具合により、ほかユーザーのチャット履歴タイトルが第三者に表示されました。
• ChatGPT Plusユーザー情報流出事件
  有料プラン利用者の一部において、氏名や支払関連情報がほかユーザーに表示される状態となり、限定的ながら個人ユーザーに影響が及びました。

2023年3月、韓国の大手電子製品メーカーにおいて、社内の機密情報が外部に流出する事案が報告されました。この事例では、開発担当者が業務効率化を目的に、半導体関連のソースコードをChatGPTへ入力したことが原因で、機密情報が意図せず外部サービス上で処理された点が問題となりました。

企業側は、ChatGPTに入力されたデータが外部サービス上で処理・保持される仕組みを十分に把握しておらず、管理体制が問われる結果となりました。この事案を受け、当該企業では社内での生成AI利用を一時的に制限し、利用ルールの見直しや再発防止策の検討が進められました。

2023年3月、ChatGPTにおいて、ほかユーザーのチャット履歴タイトルが表示される不具合が発生しました。本来は自分の履歴のみが表示される仕様でしたが、システム上のバグにより、第三者が作成した会話タイトルが一覧に現れる状態となりました。

OpenAIはこの問題を確認後、ChatGPTの提供を約9時間停止し、原因調査と修正対応を実施しました。履歴の本文までは表示されなかったものの、タイトルから検討中のテーマや取引内容、関心分野などが推測されるおそれがあり、業務利用における情報管理上のリスクが生じたと考えられます。

2023年3月、ChatGPTの有料版であるChatGPT Plusの利用者において、ほかユーザーの個人情報が表示されるトラブルが発生しました。支払処理に関連するシステムの不具合により、別の利用者の氏名やメールアドレス、支払いに関する情報の一部が誤って表示されたと報告されています。

OpenAIの発表によると、影響を受けたのは有料版ChatGPT Plusの会員の約1.2％です。当時の利用者規模から推測すると、最大で数万人規模のユーザーが影響を受けた可能性があります。問題確認後、該当機能は速やかに停止され、原因の特定と修正が行われました。この事例は、有料サービスであっても、システムの不具合によって情報が露出するリスクが存在することを示しています。

次の情報は、入力を避けるべき代表例です。

• 個人を特定できる情報 (高リスク)
  氏名、住所、電話番号などが含まれると、本人への被害や苦情につながります。
• 認証情報 (高リスク)
  IDやパスワードが漏れると、不正利用や情報改ざんの原因となります。
• 機密情報・内部資料 (高リスク)
  契約内容や未公開情報が外部に渡り、第三者に利用される危険性があります。
• 顧客・取引先データ (中〜高リスク)
  信頼関係の悪化や契約上の問題が発生するおそれがあります。
• 法令・規程に関わる情報 (中リスク)
  個人情報保護法違反など、法的責任を問われたり行政指導の対象となったりする場合があります。

ChatGPTで情報漏えいが発生した場合、影響は一時的な対応にとどまらず、時間の経過とともに業務や経営へ段階的に広がります。発生直後の混乱から、フェーズに応じて異なるリスクが表面化するのが特徴です。

• 短期的リスク
  社内外への説明対応や原因調査に追われ、業務負荷が増加します。
• 中期的リスク
  顧客や取引先からの信頼低下により、取引条件の見直しを求められる場合があります。
• 長期的リスク
  法的責任や社会的評価への影響が残り、経営判断にも影響を及ぼす可能性があります。

以下では、これらのリスクを具体的に整理します。

ChatGPTでは、利用設定によっては入力内容がサービス改善のための学習データとして扱われる場合があります。一度学習に取り込まれると、特定の情報だけを後から完全に取り除くことは難しくなります。チャット履歴を削除しても、一定期間はシステム上に保持される点にも注意が必要です。

例えば、顧客名や契約内容を含む文章を入力した場合、意図せずAIの将来の挙動に影響を与えるおそれがあります。入力時点では問題が表面化しなくても、後の監査で情報管理の不備として指摘される可能性があり、削除の難しさがリスクを長期化させます。

ChatGPTは、特定のユーザーが入力した内容がそのままほかのユーザーへ回答として表示される仕組みではありません。しかし、入力内容が具体的である場合、別のユーザーが似たテーマで質問した際に、回答の表現や文脈に影響が残る可能性があります。

例えば、実在の部署名や業務内容、具体的な数値を交えて社内業務を詳しく入力した際、本来は一般化されるべき回答が、特定の業務実態を想起させる表現で生成されるケースが考えられます。その結果、第三者が内容を見て「特定の企業や業務」を連想できてしまうかもしれません。

こうした情報の混入は、文脈をもとに文章を生成する過程で発生します。発生頻度は高くありませんが、入力内容が具体的であるほどリスクは高まります。匿名化や抽象化を行わずに利用することが、意図しない情報開示につながるのです。

情報漏えいが確認された場合、個人情報保護法に基づく対応が求められます。状況によっては、行政からの指導や命令を受ける可能性があり、是正対応や再発防止策の実施が必要です。また、本人や取引先から損害賠償を請求されるケースも想定されます。

問題が公になることで企業の社会的信用が低下すれば、取引関係の解消や採用難を招きかねません。対応には時間とコストがかかるため、長期的な経営リスクとして残る点が大きな課題です。

個人情報を誤って入力した場合は、影響を最小限に抑えるため、以下の順序で対応します。

チャット履歴の削除後、入力内容の扱いに不安が残る場合は、OpenAIへ情報削除を依頼します。help.openai.comに表示される右下のチャットアイコンから問い合わせが可能です。報告時には、使用したアカウント、入力日時、問題となった内容の概要などを整理して伝えると、確認がスムーズに進みます。

対応完了までには一定の時間を要する場合があるため、社内でも状況を共有し、並行して次の対応を検討しておくことが重要です。

個人情報の誤入力が判明した場合は、速やかに上長や管理部門へ報告し、事実関係と影響範囲を整理します。必要に応じて法務部門とも連携し、法令対応や対外説明の要否を確認してください。

情報システム部門とは、利用設定やアクセス管理の見直し、再発防止策の検討を進めます。対応内容を記録し、社内ルールや従業員教育に反映させることが重要です。

ChatGPTを業務で利用する場合は、入力内容や利用方法を事前に整理しておきましょう。個人情報や業務情報をそのまま入力すると、意図しない情報露出や運用上の問題が発生するおそれがあります。

ここでは、ChatGPTを安全に利用するために、実務で押さえておきたいポイントを以下の5つの観点から整理します。

• 個人情報の匿名化・仮名化テクニック
• 質問内容の抽象化による安全性向上
• 企業向けプランの活用
• API利用による安全性確保
• 定期的なセキュリティ監査の実施

ChatGPTを使う際は、実名や具体的な属性を仮名や一般表現に置き換えることで、個人情報の露出を抑えられます。ポイントは「意味は保ち、特定要素だけをはずす」ことです。

例1：人物情報

• 匿名化前
  「田中太郎 (営業部) が取引先A社と結んだ契約内容を要約してください」
• 匿名化後
  「営業担当者が取引先企業と結んだ契約内容を要約してください」

例2：顧客対応

• 匿名化前
  「山田花子さんからのクレーム対応文を作成してください」
• 匿名化後
  「顧客からのクレームに対する回答文を作成してください」

このように、氏名・部署名・企業名を役割や一般名詞に置き換えることで、質問の意図を保ったまま安全に活用できます。

企業名や具体的な数値を含む質問は情報の特定につながりやすいため、必要な範囲まで抽象化してから入力します。コツは「固有名詞を役割に置き換える」「数値は幅や比率にする」「背景は一般化する」の3点です。

抽象化の例 (企業名・数値)

• 抽象化前：
  「A社向けに、月間12,500件の問い合わせを30％削減する提案書を作りたい」
• 抽象化後：
  「特定業界の取引先に向けて、問い合わせ件数を減らす提案書の構成案を作りたい」

抽象化レベルは、目的に応じて調整してください。文章表現の改善が目的なら大きく抽象化し、業務手順の整理が目的なら「業界」や「規模感」程度まで情報を残すと、回答の精度を維持しやすくなります。質問文は、条件を盛り込みすぎず「目的・前提・出力形式」を短く示すと整理しやすくなります。

業務利用においては、個人向けプランではなく企業向けプランの導入を検討しましょう。ChatGPT Businessプランは、1ユーザー当たり月額30ドル (2026年1月現在) です。入力データをAIの学習に利用しない設計で、管理者によるユーザー管理、権限設定、監査ログ、データ暗号化など、組織利用を想定したセキュリティ機能が含まれます。

Enterpriseプランは価格非公開の個別見積ですが、SCIM連携やロールベースのアクセス制御、データ保持ポリシーのカスタマイズ、SLA付きサポートなど、より厳格な統制と大規模運用を前提とした高度な機能を利用できます。

ChatGPT APIでは、Web版とは異なり、入力データが原則としてAIの学習に使用されないオプトイン形式が採用されています。企業側が明示的に許可しない限り、送信したデータは学習用途に回らないため、個人情報や業務データを扱う際に管理しやすい点が特徴です。

また、API連携では自社システム側で入力項目や送信内容を制御できます。アクセス制限やログ管理を組み合わせることで、誰が・いつ・どの情報を扱ったかを把握しやすくなります。

ChatGPTの導入後も、利用状況を定期的に点検する体制づくりが欠かせません。具体的には、APIや管理機能で取得できるログをもとに、利用者、利用目的、入力内容の傾向に問題がないかを確認します。

あわせて、想定外の情報入力や不審な利用が確認された場合に備え、インシデント発生時の報告ルートや対応手順を事前に整理しておくことが重要です。監査と対応フローをセットで運用することで、継続的な安全性を維持できます。

ChatGPTを業務で利用する際は、利用規約の内容を事前に確認することが重要です。特に以下の3点は、法的リスクを回避するために必ず押さえておきましょう。

• 入力データの取扱
• 利用者の責任範囲
• 免責事項

入力内容によっては第三者の権利侵害や法令違反となる可能性があり、責任は利用者側にあります。規約は見落とされがちですが、業務利用では法的責任に直結するため注意が必要です。

ChatGPTは業務効率化に役立つ生成AIツールですが、個人情報を入力すると情報漏えいや法的リスクを招く危険性があります。実際に、入力内容やシステム不具合を起因とした事例も発生しています。

業務でChatGPTを利用する場合は、入力してはいけない情報を把握し、匿名化や質問内容の抽象化を徹底することが重要です。あわせて、企業向けプランやAPI利用、定期的なセキュリティ監査を組み合わせることで、個人情報を守りながら安全な活用につなげられます。

自社での判断が難しい場面では、専門的な知見を活かしたサービスを活用してみるのも一つの方法です。こうしたポイントを踏まえ、安全に生成AIを活用するための選択肢を検討してみるとよいでしょう。