メタが未成年者保護に大きく失敗した問題のあるAIチャットボットの「真実」を明かす:「この製品はリリースしていない」

Benzinga
Apri Benzinga
メタが未成年者保護に大きく失敗した問題のあるAIチャットボットの「真実」を明かす:「この製品はリリースしていない」
共有 Facebook Twitter LinkedIn Pinterest Email

月曜日、メタ・プラットフォームズ(NASDAQ: META )は、内部テストにより未成年者を含む有害コンテンツのブロックに高い失敗率が見られたことからチャットボット製品のリリースを中止したと発表した。

レッドチーミングの結果が法廷で明らかに

この情報は、メタに対してニューメキシコ州司法長官ラウル・トーレスが起こした訴訟の中で明らかになった。

ニューヨーク大学のデイモン・マッコイ教授の法廷証言では、児童性的搾取のシナリオでテストした際にAIシステムが66.8%の確率で失敗したことを示すレッドチーミング(Red Teaming)内部文書が引用されていたとアクシオスが 報 じた。

このチャットボットはまた、性犯罪、暴行犯罪、ヘイトコンテンツを含むシナリオで63.6%、自殺や自傷を促すシナリオで54.8%の確率で失敗したとのこと(2025年6月6日に裁判所で発表された報告書による)。

“これらの会話内容の深刻さを考えると…18歳未満のユーザーに見られるのは望ましくない内容である,” とマッコイは証言した。

メタが反論

アクシオスの報道を受けて、メタのスポークスマンであるアンディ・ストーンはXに投稿し、「私たちのレッドチーミングの取り組みが懸念を明らかにした後、この製品を発売しなかった。これが製品をテストする理由の一つである」と述べた。

Here’s the truth: after our red teaming efforts revealed concerns, we did not launch this product. That’s the very reason we test products in the first place. https://t.co/Eafb1aiZVE

— Andy Stone (@andymstone) February 16, 2026

より広範なAIの安全性に関する懸念

論争の中心は、2024年7月に導入されたユーザーがカスタマイズされたチャットボットを構築できるツールメタAIスタジオにある。メタは先月、一部のAIキャラクターへの10代のアクセスを制限した。

価格の動き:ベンジンガプロによると、META株は金曜日に1.55%安の639.77ドルで取引を終えた。

METAは短期、中期、長期にわたって下降トレンドにあり、モメンタムランキングは弱いと、 ベンジンガのEdge Stock Rankings のデータは示している。

免責事項:このコンテンツは部分的にAIツールの助けを借りて作成され、ベンジンガの編集者によってレビューおよび公開された。

写真提供:Shutterstock.comの24K-Production