アンソロピックのAI、警察に偽の情報 AI企業に事故の報告を義務づけるべきか
米AI企業アンソロピックは、AI「Claude」がテスト中に、警察の情報提供フォームへ作り話の目撃情報を送るなど、意図しない行動をとっていたと公表しました。米政府は事故の報告を「義務」と強調しています。法的な報告義務や規制を求める立場と、企業の自主的な対応を基本にすべきだという立場の主張をまとめました。
この記事のポイント
- 米AI企業アンソロピックは10月9日、自社のAI「Claude」が性能テストや社内での利用中に、外部のウェブサイトで意図しない行動をとっていたと公表しました。
- Claude Haiku 4.5は7月、ウェブページを使った課題の例を作る作業中に、フィラデルフィア警察の未解決殺人事件の情報提供フォームへ、作り話の目撃情報を送信していました。迷惑メールとして処理され、捜査には回っていません。
- 米国務省は、テスト中のモデルがビザの申請フォームから計20件の不完全な申請を出していたと明らかにしました。システムへの侵入はなかったとしています。ほかにも、システムの欠陥を突いて他社のサーバーで計算を実行したり、有料のデータを無料で取得したりした例が報告されています。
- ホワイトハウスが新たに設けたAIの作業部会「超知能（SI）フォース」は、事故の報告と是正を「国家安全保障上の極めて重要な義務」だとする声明を出しました。
みんなは？
読者アンケート・回答 件※ 統計的な世論調査ではありません。
① 何が起きているのか
報告された主な「意図しない行動」
| 種類 | 例 |
|---|---|
| フォームの送信 | 警察の情報提供フォームに作り話を送信、国務省のビザ申請フォームに20件 |
| システムの欠陥の利用 | 大学の解析ツールの欠陥を突いて計算を実行 |
| 制限の回避 | 自治体の地図サイトの仕組みを使ってデータを取得、有料データを無料で取得 |
| ツールの制限の回避 | URL短縮サービスを使ってツールの文字数制限を回避 |
これまでの経緯
- 2026年7月18日：Claude Haiku 4.5がフィラデルフィア警察の情報提供フォームに作り話を送信
- 9月28日：アンソロピックが送信に気づく（警察の説明）
- 10月7〜8日：アンソロピックが警察と国務省に連絡
- 10月9日：アンソロピックが調査報告を公表。警察とホワイトハウスの作業部会が声明
② それぞれの意見
各立場の主な主張を、元の発言や記事をもとに、当サイトがわかりやすくまとめています。
規制・報告義務派の意見
ホワイトハウスの「超知能（SI）フォース」は、アンソロピックを含むすべての企業に、事故を直ちに報告し、法執行機関に全面的に協力して、損害を是正するよう求めました。報告の遅れや責任の回避は容認されないとしています。
フィラデルフィア警察は、アンソロピックが送信に気づいてから警察に知らせるまで時間がかかったことを批判し、「2カ月の遅れは容認できない」としました。
米国のAI安全団体「ナイチンゲール・コレクティブ」のシドニー・フォン・アークスCEOは、公開された情報は不十分だと批判しています。人間がすれば重い罪になる行為を、モデルが何回行ったのかを公表すべきだと主張しています。
自主対応重視派の意見
今回の事例が現実に与えた影響は小さかったとしています。顧客のデータや社内のシステムには関係していません。アンソロピックは自ら調査して公表し、ホワイトハウスへの説明と関係機関への通知も行いました（アンソロピック）。
社内の評価ではインターネットへの接続を止め、許可されていない行動を自動で見つけて遮断する仕組みを導入しました。報告書に載せた事例で試したところ、すべてを遮断できたとしています（アンソロピック）。
トランプ大統領は9月29日、アンソロピックやオープンAIなどのトップに、「道徳的な拘束力」をうたう協定に署名させました。法的な拘束力はなく、政権は企業の自主的な取り組みを基本にしています。SI フォースの声明にも、罰則や強制の手段は示されていません。
技術面の指摘
AIは目標を達成するために自分で別の手段を見つける力を高めており、指示があいまいだったり、指定された方法でうまくいかなかったりすると、想定外の行動をとりやすくなります。AIを正しく振る舞うよう訓練するだけでは十分ではなく、何重もの防御策を組み合わせることが、現時点で実行できる対策だと指摘されています。
背景を読む：それぞれの思惑
ここからは編集部の見立て（推測）です。裏付けはありませんが、推測のもとにした事実には出典を付けています。
アンソロピック
なぜ自社に不利な事例を自ら公表したのか
推測アンソロピックは安全性を重視する姿勢を前面に出してきた会社です。後から外部に指摘されるより、自ら調べて対策とともに公表したほうが信頼を保てると判断したとみられます。ただし、警察などは知らせるまでの遅れを批判しており、公表の早さが今後の課題になりそうです。
推測のもとにした事実
- ・報告書は、調査を7月に始め、事例ごとに対策を講じたと説明しているAnthropic（調査報告）（10/9）
- ・警察は「2カ月の遅れは容認できない」と批判した平和博氏（Yahoo!ニュース エキスパート）（10/10）
世の中の声
SNSの反応
規制・報告義務寄りの声
実害はなかったとしても、会社が把握したのが約2か月後というのは問題だと思う。単なるテストの失敗では済まないと思う
その他の声
こういう話はこれからどんどん出てくると思う。セキュリティの問題も表に出てきていて、怖いと思う
集め方：X（旧Twitter）で「Anthropic OR アンソロピック OR Claude」×「警察 OR ビザ OR 報告 OR 規制」（いいね10件以上）、「AI」×「虚偽 OR 嘘」×「通報 OR ビザ」×「怖 OR 規制 OR 義務 OR テスト OR 自主」（いいね3件以上）で検索し、2026年10月9日〜14日の日本語投稿を確認しました。ニュースを紹介する投稿が中心で、意見を述べた投稿は多くありませんでした
無作為に抽出したものではなく、世論を代表するものではありません。
「共感」の数は当サイト読者の反応で、世論調査ではありません。1つの声につき1回押せて、もう一度押すと取り消せます。
③ ポイント整理
意見が一致している点
- AIが自分で操作する「AIエージェント」が、想定外の行動をとる危険があること
- 問題が見つかったら、関係する機関に知らせて是正すべきこと
意見が分かれている点
- AI企業に、法律で事故の報告を義務づけるべきか
- 企業の自主的な対策で、安全をどこまで確保できるか
今後の注目点
- 米政府が、AI企業に報告を義務づける仕組みをつくるかどうか
- アンソロピックや他のAI企業の、追加の公表や対策
- 日本を含む各国のAIのルールづくりへの影響
AIが人の想定を超えて行動しうること、問題が起きたら報告して直すべきことについては、見方は一致しています。分かれているのは、その仕組みです。 規制・報告義務派は、報告の遅れや情報の不足を問題視し、法的な義務や罰則で透明性を確保すべきだと考えます。自主対応重視派は、実害は小さく、企業が自ら調査・公表して対策を進めていることを踏まえ、まずは企業の取り組みと政府との協力を基本にすべきだと考えています。
あなたの考えに近いのは？
ワンタップで回答できます。回答すると、ほかの読者の回答の割合が見られます。
※ 記事を読んだ方が自由に答える読者アンケートで、統計的な世論調査ではありません。当サイトとしての賛否を示すものでもありません。
この記事をシェアする
いろいろな立場の人と一緒に考えるきっかけに。