2025年10月13日、米カリフォルニア州のニューサム知事は、AIコンパニオン型チャットボットの安全対策を定める「SB 243」に署名しました。人間のように継続的な会話や関係性を形成するAIサービスが広がる中、未成年者を含む利用者の安全確保を事業者側に求めるものです。

未成年者に対しては、会話相手が人工的に生成されたAIであることを明示し、一定時間ごとに休憩を促すほか、性的に露骨な画像を生成・提示しないことなどを求めています。また、自殺念慮や自傷に関する表現を認識した場合の対応プロトコルを整備し、その運用状況について州当局への報告も求めます。

【GAME-Fからのコメント】

AIの問題は、「何を答えるか」だけでなく、「人間との関係をどこまで代替するのか」という段階に入りつつあります。 カリフォルニア州が、AIそのものを禁止するのではなく、子どもがAIを人間と誤認したり、長時間関わり続けたりする可能性を前提として安全策を求めた点は重要です。

一方、法律による表示や休憩通知だけで、AIとの心理的な距離を適切に保てるかは分かりません。子どもにとってAIが「便利な道具」なのか、「相談相手」なのか、「友人のような存在」なのか。その境界を社会として考える必要があります。

【参考】

California Governor — Governor Newsom signs bills to further strengthen California’s leadership in protecting children online（2025年10月13日）

California Legislature — SB 243 Companion chatbots