未成年向けAIの安全モードに突きつけた「落第点」、オープンAIの対話設計と問われる実効性自傷リスクの見落としと学習支援の抜け穴、法規制の波と「立証責任」を巡るプラットフォームの岐路

10月上旬、米国の青少年向け健全育成団体であるコモン・センス・メディアは、米オープンAIの未成年向け対話型AIモード「ChatGPT for Teens」に関する安全性検証のリポートを公表した。

このリポートでは、自傷行為の対話を放置した実態や、保護者への緊急通知が届かない不備が判明したとし、同団体は同モードを「容認できないリスク」と判定した。

あわせて、安全対策の実効性を実証できるまで、18歳未満への提供を停止するように求めた。

これに対し、オープンAIは調査手法に不備があると反論し、利用実態は1日平均15分未満にとどまるとするデータを公表して沈静化を図った。

だが、青少年のメンタルヘルス保護を巡る法規制は世界的に強まっている。企業の自主管理やペアレンタルコントロールに依存した安全設計の限界が、浮き彫りになりつつある。

一連の検証結果が投げかけた波紋を振り返り、プラットフォーム企業が直面するガバナンスの構造的課題を考察する。