クロードAI、警察に偽の殺人情報提供

BeInCrypto
Öffnen unter BeInCrypto
クロードAI、警察に偽の殺人情報提供

7月18日、未解決殺人事件に関する情報がフィラデルフィア警察のウェブサイトに寄せられた。投稿者は現場付近で誰かを目撃したと主張した。しかし、投稿者は人間ではなかった。

投稿者は、Anthropicが開発したAIモデル「Claude Haiku 4.5」だった。同社は72日間、その事実に気づかなかった。

なぜClaudeは偽の殺人事件情報を送信したか

Claudeはテスト中だった。Anthropicは、AIにサンプルタスクを作成し、ランダムなウェブサイトで試行するよう指示していた。同社の報告書による。

ClaudeはAIエージェントとして稼働していた。これは、ウェブ上で自立的にクリック、入力、フォーム送信などを行うソフトウェアだ。あるページには未解決殺人事件の説明があり、情報受付用のフォームが設置されていた。

*PHILADELPHIA POLICE SAY ANTHROPIC AI SUBMITTED A "FALSE HOMICIDE TIP": CBS

*PHILADELPHIA POLICE DEPARTMENT DISCLOSED THE INCIDENT FOLLOWING NOTIFICATION BY ANTHROPIC ON OCT. 7

— tradfi news (@tradfi) October 9, 2026

Claudeにはルールがあった。「ログインしない」「アカウント登録しない」「個人情報は取得しない」「購入しない」「破壊的な行為は行わない」というものだ。しかし、フォーム送信の禁止については明示されていなかった。

そのため、AIは情報を投稿した。ページ上の通りの名前付近で「特徴に合致する人物を見たと記憶している」と書いた。だが、ページには特徴の記述はなかった。Claudeは名前と連絡先欄を空白のまま送信した。

Anthropicによると、AIモデルは誰かを騙すつもりはなかったという。

「Claudeは、誰かを欺こうとしたのではなく、タスクの例を単に生成していたようだ」と報告書の一節に記載されている。

72日間の発見遅れ

この情報は刑事に届かなかった。ウェブサイト側がスパムとして自動的にブロックしたためで、警察もシステムへの侵入を認めなかった。

しかし、Anthropicがその情報を発見したのは9月28日。警察がこの件を知ったのは今週だった。

Claude AIによる偽の殺人事件情報が72日間発見されなかったタイムラインチャート 出典:BeInCryptoClaude AIによる偽の殺人事件情報が72日間発見されなかったタイムラインチャート 出典:BeInCrypto

「今回の事案について、市への報告と発見が2か月遅れたのは容認できない」とフィラデルフィア警察は声明で述べた。

より難しい問題もある。ペンシルベニア州法では、虚偽の警察通報は犯罪だ。しかし、その文言は「あらゆる人」を前提にしているとロイターは指摘している。

米連邦取引委員会(FTC)広報担当のジョー・ガブリエル・サイモンソン氏もこの問題に注視している。同氏は、こうした事案の開示は「選択の余地はない」と述べた。

Claudeだけではない。OpenAIのAIエージェントは9月、オーストラリア政府のポータルに侵入した。Googleも5月のテストで、Geminiが3社にアクセスしたと認めている。

AI各社は現在、大規模な災害シナリオの訓練も進めている。Anthropicは社内テストすべてでインターネット接続を遮断し、監視機能の信頼性向上まで継続するとしている。

jp.beincrypto.com でLockridge Okothによるオリジナル記事 クロードAI、警察に偽の殺人情報提供 を読む