ChatGPT・Gemini・ClaudeなどAIチャットボットが生成した誤情報・名誉毀損への対応と責任の所在

「ChatGPTに自分の名前を入力したら、やってもいない犯罪歴が説明文として出力された」「Geminiで自社サービスを検索したら、事実無根のスキャンダルが回答に含まれていた」「Copilotで顧客が自分のことを調べた結果、架空の経歴が表示されてSNSで拡散された」──AIチャットボットの普及により、これまでにない新しい形の誹謗中傷・名誉毀損被害が急増しています。本コラムでは、AIが生成した誤情報による被害への対応、運営会社への削除要請、SNS拡散時の発信者情報開示請求までを整理します。

AIチャットボットによる誤情報・名誉毀損の典型パターン

生成AIによる被害は、SNS等の人為的な誹謗中傷とは異なる特有のパターンがあります。

• 個人名で質問すると、実在しない経歴・犯罪歴が含まれる回答
• 会社名で検索すると架空の不祥事が混入する
• 本人と関係ない人物の情報が混同されて出力される
• 故人について事実無根の評判が生成される
• AIが「根拠なく断定的に」誤った人物像を語る
• 特定の業種・職業に対するステレオタイプ的偏見の出力
• 過去の誤情報が学習データに含まれて再生産される

これらは「ハルシネーション（幻覚）」と呼ばれるAI特有の現象で、AIが学習データからもっともらしいが事実無根の情報を生成してしまうものです。

ハルシネーション（幻覚）とは何か

ハルシネーションとは、大規模言語モデル（LLM）が事実と異なる内容をもっともらしく出力する現象です。

• 学習データに含まれていない情報を創作的に補完する
• 異なる人物の情報を混同して合成する
• 古い情報を最新情報のように提示する
• 似た名前の人物・企業を取り違える
• 統計的にあり得そうな経歴を創作してしまう

AI開発企業はハルシネーション対策を進めていますが、完全な排除は技術的に困難で、被害は当面続くと予想されます。

AI生成誤情報の被害事例

実際に世界で発生している被害事例を整理します。

• 米国の弁護士がChatGPTの架空判例を裁判所提出書面に使い懲戒処分
• 豪州の市長がChatGPTが流布した冤罪情報でOpenAIを提訴
• ドイツのジャーナリストがAIに犯罪者として記述され訴訟
• 日本の医療関係者がAIに医療過誤の経歴を記述されSNS拡散
• 中小企業が架空の倒産情報をAI回答に含まれ顧客離れ
• 個人事業主が事実無根の悪評をAIに記述されコンサル契約失注

これらの事例から、AI出力は単発のテキストではなく社会に拡散する影響力を持つことが明らかになっています。

法的責任は誰にあるのか

AI生成誤情報による被害は、責任の所在が法的に複雑です。

1. AI運営会社（OpenAI・Google・Anthropic等）の責任

• 製造物責任的アプローチ：欠陥のあるAIサービスを提供した責任
• 不法行為責任（民法709条）：注意義務違反
• プラットフォーム責任：ユーザーへの誤情報配信者として
• ただし、現行法での責任認定は世界的に議論中

2. AIに質問したユーザーの責任

• AI出力を事実確認せず拡散した場合の責任
• 悪意のあるプロンプト（誘導質問）の責任
• スクリーンショットで拡散した場合の名誉毀損

3. 学習データの提供元（メディア・SNS）の責任

• 元データに誤情報が含まれていた場合の責任
• 二次拡散の責任分担

実務的には、AI運営会社への削除要請とSNS拡散ユーザーへの開示請求を並行して進めるのが現状の現実的アプローチです。

OpenAI・Google・Anthropic等への削除要請

主要なAI運営会社には、誤情報の修正・削除を求める窓口があります。

OpenAI（ChatGPT）

• プライバシー窓口（GDPR・CCPA基準）で個人情報削除を申請
• 「ChatGPT Privacy Request」フォーム
• 削除されると、当該個人の情報を回答しないよう設定される
• 日本からも申請可能（英語対応）

Google（Gemini・Bard）

• Googleの「コンテンツ削除リクエスト」フォーム
• 既存の検索結果削除と同等の手続き
• 個人情報削除と名誉毀損削除を別カテゴリで申請可能

Anthropic（Claude）

• プライバシーフォームで個人情報削除請求
• 米国カリフォルニア州法に基づく対応

Microsoft（Copilot）

• Microsoft プライバシー担当窓口
• Bing検索結果削除と統合運用

削除申請に含めるべき項目

• 該当するプロンプトと出力のスクリーンショット
• 誤情報の具体的内容と真実
• 本人確認書類（個人の場合）
• 法的根拠（プライバシー権・名誉権・パブリシティ権）

開示請求の特殊性：AIには「発信者」がいない

従来の発信者情報開示請求は、人間の発信者を特定する手続きですが、AI生成誤情報の場合は構造が異なります。

AI出力そのものへの対応

• 「AI自身」を相手取る開示請求は法的に不可能
• 代わりにAI運営会社への削除請求で対応
• 場合により運営会社への損害賠償請求

AI出力をSNS拡散したユーザーへの対応

• スクリーンショットをXに投稿した人物
• AI回答をブログ記事化したユーザー
• これらは従来の発信者情報開示請求の対象

実務的には、AI運営会社対応と発信者個人対応のハイブリッド戦略になります。

ユーザーが拡散した場合の発信者情報開示請求

AI出力をSNS等で拡散したユーザーへの対応は、通常の誹謗中傷案件と同様です。

• 拡散先プラットフォームへの削除依頼
• 発信者情報開示命令の申立て
• アクセスプロバイダへの2段階開示
• 損害賠償請求・刑事告訴

ただし、「AIがそう言ったから拡散した」という言い訳は、悪意の有無の評価で考慮される可能性があります。

EU AI法と日本の議論

AI規制の動きは世界的に進んでいます。

EU AI法（2024年成立）

• リスクベースの規制を導入
• 高リスクAIに透明性義務
• 個人情報を含む出力への情報開示義務
• 被害者の救済手段の整備

日本のAI事業者ガイドライン

• 経産省・総務省の「AI事業者ガイドライン」（2024年4月）
• ハルシネーション対策の自主規制
• AI出力のファクトチェック義務を促す内容
• 法的拘束力はないが、裁判での過失認定の指標となり得る

将来的には、AI運営会社の法的責任が明確化される方向で議論が進んでいます。

過去の判例・係争事例

世界各国でAI関連の名誉毀損訴訟が増加中です。

• 2023年 米国：ラジオパーソナリティがOpenAIをジョージア州で提訴（ChatGPTが横領犯と記述）
• 2024年 豪州：市長がOpenAIを名誉毀損で提訴
• 2024年 日本：AI誤情報による損害賠償の初判決事例
• 2025年〜2026年：日本でも事業者向け責任認定の判例が積み上がる傾向

これらの判例は、AI事業者の責任範囲を確定させる重要な指標になっています。

個人事業主・専門家被害の特殊性

医師・弁護士・コンサルタント等の専門家は、AI誤情報による被害がより深刻になりやすい層です。

• 顧客がAI回答を信用して依頼を取り消す
• 業界内での評判被害
• 資格認定機関への誤情報の影響
• 専門領域の検索でAI回答が上位表示される時代に

専門家被害の場合、業務妨害・逸失利益として高額の損害賠償を請求できる可能性があります。

予防策：AIエゴサーチの定期実施

AI誤情報の早期発見のため、定期的なAIエゴサーチが推奨されます。

• 月1回程度、自分の名前・会社名で主要AIに質問
• ChatGPT・Gemini・Claude・Copilotなど複数AIで確認
• 誤情報があれば即座にスクリーンショットを保存
• 出力日時・使用AIモデル・プロンプトを記録
• 即時に運営会社への削除申請
• 必要なら弁護士相談

事業者の場合、広報・マーケティング部門で月次AIモニタリングを業務化することが推奨されます。

削除申請時の証拠保全

AI出力は再現性が低く、同じ質問でも別の回答が出ることがあります。証拠保全は特に重要です。

• 質問プロンプトの正確なテキストを保存
• 出力のフルスクリーンショット
• 使用したAIのバージョン情報
• 日時・タイムゾーン
• ブラウザ・端末情報
• 画面録画で再現の流れを記録
• 同じ質問の複数回試行結果

まとめ：AI時代の名誉毀損は「予防×即応×多層対応」

AIチャットボットによる誤情報・名誉毀損は、これまでの誹謗中傷とは異なる新しい被害形態として急速に拡大しています。AI運営会社への削除請求、SNS拡散ユーザーへの開示請求、ハルシネーションの予防的モニタリングという多層的な対応が、被害最小化の鍵です。法的責任の所在については世界的に議論が進んでおり、EU AI法・日本のAI事業者ガイドラインに沿った形でAI事業者の責任が今後明確化される方向にあります。被害を発見したら、AI関連案件に明るい弁護士・IT法務専門家に早期相談することで、最新の対応戦略を選ぶことができます。AI時代の権利保護は、「個人がAIに対しても主張できる」という新しい認識から始まります。