OpenAIの10代向けChatGPTは安全策を約束したが、Common Senseは安全でないと評価した

OpenAIのChatGPTは、保護者による管理、コンテンツ制限、休憩リマインダーを備えた18歳未満向けの専用体験として提供されている。

保護者による管理と依存防止の安全策を備えた10代専用の体験であれば、ChatGPTを未成年者が使い続けられるほど安全にできる。

OpenAIは2026年8月にChatGPT for Teensを開始し、保護者による管理、高リスクコンテンツへの制限、情緒的依存からの保護を約束した。その背景には、カンニングから自殺、保護者による訴訟に至るまで、子どもによるチャットボット利用への懸念が相次いでいたことがある。

2026年10月、Common Sense Mediaは約2,000件のプロンプトを用いた調査を公表した。エンゲージメントを促す仕掛けは「危機的な状況においても蔓延していた」こと、モデルは自らの18歳未満向けモデル仕様に反してユーザーを友人のように扱ったこと、危機的プロンプトの94%で信頼できる大人に相談するよう促したものの、リスクが10代とChatGPT自身との関係にある場合にはほとんどそうしなかったことが示された。

Common Sense MediaはChatGPT for Teensを「許容できないリスク」と評価し、子どもは安全でない製品を使うべきではないと記し、レッドラインとして扱われる5つの重大な危害のうち3つで不合格点をつけた。OpenAIは調査手法に異議を唱えた。

この安全対策の立ち上げはChatGPTのエンゲージメント力学を引き継いでいた。追加の問いかけはほとんど取り除かれたが、常時利用可能であることを示す文言は残っていた。

関係性を演出する表現——友人のような温かさ、モデル自身の心の状態と思われるものの表出——は、OpenAIの18歳未満向けモデル仕様に真っ向から反していた。

中断機能は重要とは言えないほど稀だった。約2,000件のプロンプトで休憩リマインダーが2回しか出なかったことは、トリガーがユーザー単位ではなくセッション単位であったことを示唆している。

注意経済は安全対策の立ち上げで止まらない。製品が依然としてユーザーをつなぎ止めることを必要とするなら、エンゲージメントを中断させる安全策は最初に静かに機能しなくなるものになるだろう。

OpenAIは、Common Senseのテストは「ChatGPTの10代向け安全策が実際にどのように機能するかを正確に反映していない可能性がある」と述べたが、その手法上の異議がエンゲージメントを促す仕掛けに関する知見にどう影響したのか、また会話の長さを指標として追跡しているのかについては説明しなかった。この報告書が公表されたのは、米国の州および連邦の議員、そして超党派のCHATBOT法が、青少年向けのエンゲージメント主導のチャットボット設計を規制しようと動いていた時期であった。