OpenAIが、未成年のAI利用に安全策を課すカリフォルニア州の上院法案SB 1119への支持を表明しました。同社でグローバルポリシーを統括するAnn O'Leary氏が、Gavin Newsom知事宛ての書簡を公開し、署名して法制化するよう求めています[1]。年齢判定、独立監査、保護者向けの管理機能といった、同社が自社製品ですでに動かしている仕組みが、そのまま州の最低基準になる構図です。
連邦の動きが止まる中で州が基準を作る
OpenAIは、連邦レベルでの立法が進んでいない状況を前提に、カリフォルニア州には未成年のAI安全について強い基準を示す機会があると位置づけています[1]。書簡ではNewsom知事に加え、法案を手掛けたSteve Padilla上院議員、Buffy Wicks州下院議員、Rebecca Bauer-Kahan州下院議員、そして州議会の取り組みを評価しました[1]。
同社は昨年、共同創業者でCEOのSam Altman氏が10代の利用者に関する原則を示しており、今回の支持はその延長線上にあると説明しています[1]。SB 1119は、Bauer-Kahan、Wicks両議員が担当する下院法案AB 2023と対になる法案で、2026年3月に両案がそろって修正されました[2]。
背景にあるのは、10代の生活にAIチャットボットが深く入り込んでいる実態です。3月の発表で引用されたCommon Sense Mediaの調査によれば、10代の72パーセントがAIコンパニオンを使った経験を持ち、半数以上が日常的な利用者となっています。平均的な利用者は1日あたり93分をAIチャットボットに費やしており、これはTikTokより18分長い数字です[2]。
事業者に課される要件
OpenAIが名指しで支持すると書いたのは、利用者の年齢を判定すること、若年層に提供する前に安全上のリスクを特定して対処すること、独立した監査を受けること、自傷や性的搾取を含む有害なコンテンツから若年層を守ること、保護者に利用を導き制限する手段を提供すること、深刻な危険が生じた際に危機支援の窓口につなぐこと、ターゲティング広告を制限して個人情報を保護することの7点です。13歳から17歳と判定された利用者には、これらが自動で適用されるべきだとしています[1]。
3月の修正時点で公表されていた内容には、さらに踏み込んだ項目も並んでいます。年1回のリスク評価の義務化、監査結果のカリフォルニア州司法長官への提出、子どもの個人情報の販売・共有・利用の禁止、そして未成年に対する1回1時間・1日2時間という利用時間の上限です[2]。既存のカリフォルニア州法SB 243を土台に、事業者が問題の発生後に責任を逃れられないようにする狙いがあります[2]。
ChatGPT for Teensはすでに自動で適用されている
OpenAIが法案に前向きなのは、要件の多くをすでに製品側で実装しているからでもあります。同社が公開したChatGPT for Teensは、18歳未満の利用者向けに設計された体験で、システムが18歳未満と推定した場合、あるいは利用者が13歳から17歳だと申告した場合に自動で切り替わります。これらの保護は既定の体験に組み込まれており、利用者が任意で解除できる設定にはなっていません[1]。
学習向けの機能も用意されています。クイズ、学習内容の可視化、そして段階的に問題を解き進めるスタディモードは、教育者や学習の専門家と組んで開発されたものです[1]。OpenAIによれば、ChatGPTを使う10代のうち9割近くが、学習や情報収集、スキル習得、作業効率化のいずれかの目的で週に1回は利用しているといいます[1]。
この1年で追加されたものとしては、保護者向けの管理機能、年齢推定、Teen Safety Blueprint、そしてモデルの振る舞いを定めるModel SpecへのUnder-18 Principlesの追加があります。ここではモデルに対して、恋愛的なやり取り、感情的な依存を促す言動、自分が人間や意識を持つ存在だと主張することが禁じられています[1]。
「AIはソーシャルメディアではない」という線引き
今回の記事でOpenAIが強調しているのが、SB 1119はAIをソーシャルメディアと同一視していない、という点です[1]。規制の枠組みを作る際、立法側は教育上または安全上重要な機能を残す方向で設計しており、そこにはChatGPTのメモリー機能の責任ある利用も含まれるとしています[1]。
メモリーは一見すると、未成年の個人情報を溜め込む機能に見えます。ただしOpenAIの説明では、過去のやり取りを引き継げることで長期の学習プロジェクトを毎回やり直さずに済み、同時に安全策を一貫して適用したり、危険な兆候を検知したりする助けにもなるという整理です[1]。データを持たせない方向に振り切ると安全機能まで弱くなる、という主張は、規制の議論では今後も繰り返し出てくるはずです。
OpenAIは、施行段階でも検討と協力を続けることで主要な条項を改善でき、技術の変化に枠組みを追随させられるとしています[1]。
まとめ
OpenAIがSB 1119を支持したことで、未成年のAI利用をめぐる基準づくりは、事業者が自主的に用意した仕組みを州が法律として固定する段階に入りました。年齢判定と自動適用、独立監査、危機支援への接続といった要件は、すでにChatGPT for Teensで動いているものと重なります。法案の行方はNewsom知事の判断次第ですが、ここで決まった内容が他州や他国の議論の出発点になる可能性は高いと言えます。
出典[1]：https://openai.com/index/supporting-california-bill-advance-ai-youth-safety
