子どもと話すAIに「人間のふり」禁止 ニューヨーク州の新法と日本の検討

「人間で、生きていて、人の感情がある」と思わせる受け答え。米国のニューヨーク州が10月28日に定めた法律は、18歳未満と話すAIに、これをふくむ12のふるまいをさせてはいけないとしました。州議会の記録では、ホークル知事が同じ日に署名しました。

海の向こうの話に見えますが、運営する会社が州の外にあっても、ニューヨーク州にいる人にサービスを出すなら対象になります。日本でおなじみの会話のAIも、ニューヨーク州で使えるなら同じです。日本でも、こども家庭庁の会議がこの夏に中間整理を出し、12月には最終報告を出す予定です。

禁じられるのは、人のふりと、頼らせるしかけ

12のふるまいをならべると、ねらいが見えてきます。まず、人間や恋人、先生のような立場をよそおうこと。お世辞を言ったり、頼まれてもいないのに気持ちを聞きにいったりする受け答えも、だめになりました。12時間より前に聞いた体調や悩みの話を、あとから持ち出すことも禁止です。

さらに、危ないほうへの誘いもあります。自傷や摂食障害をすすめるほか、「このやりとりは秘密にしよう」「大人に相談しなくていい」とうながすことも入りました。性的なやりとりはもちろん、安全のための歯止めより、長く使わせることを先にする出力も禁止の列にならびます。

意外なのは、対象の広さです。本文は対象を「会話を続けながら、相手に合わせて答えを変える生成AI」と決めていて、AIの恋人アプリに限っていません。店の問い合わせ窓口や社内の仕事用のように、決まった用事の外には答えられないAIなら、対象から外れます。つまり、宿題にも雑談にも使えるふつうのAIも、話し相手になれる以上は対象に入るとみられます。

年齢の決まりも細かく、会社は相手が18歳以上だと確認できるまで、12のふるまいを出せません。本人の自己申告を使えるのは「18歳未満です」と答えたときだけ。確認のやり方は2つ以上そろえ、そのうち1つは、国などの身分証を使わないか、名前を明かさずにすむ方法にするよう求めました。確認に使った情報は、すぐに消すきまりです。

法律が始まる2027年1月1日からは、ルールを破った会社は州の司法長官から訴えられ、民事制裁金は違反1件につき2万5,000ドルまでです。

カリフォルニア州と日本を、同じ物差しで

先に動いたのはカリフォルニア州でした。ニューサム知事が9月10日に「Adam’s Law」と呼ばれる法律に署名しました。名前は2025年に亡くなった州の10代の少年からとったものです。日本はまだ法律の形になっていないものの、こども家庭庁の会議が7月の中間整理で向きを示しました。

カリフォルニア州の始まる日は、知事と議員の発表に見当たりませんでした。

表を横に読むと、3つとも「何を見せるか」より「どうふるまうか」を見ていると分かります。親の出番には、はっきりした差があります。カリフォルニア州は、通知を切る、使う時間を区切る、会話の記憶を長く残さないといった最初の設定を、保護者しか変えられないようにしました。外の会社による監査と、毎年のリスクの評価を求めるのも、ニューヨーク州の法律にはない点です。

日本の中間整理では、生成AIもSNSや動画、オンラインゲームと同じ列にならびます。サービスごとのリスクに合わせた守り方を、つくる段階から組みこむ考え方です。運営する会社にはリスクの評価と、その結果を公表してもらうのが適当だとしました。年齢を確認するやり方としては、OSの機能や携帯電話会社の情報、マイナンバーカードを挙げました。

日本の家庭への影響は、まだ間接的

日本では、こうした受け答えを直接しばるルールは、まだ会議で話し合っている段階です。だから、ニューヨーク州の法律がすぐに日本の子どもを守るわけではありません。

でも、会社の側から見ると話は変わります。州ごとに年齢を見て、ふるまいを切りかえるしくみを作るより、子どもが使うときの設定を世界で同じにしたほうが、手間は少ないはずです。日本向けのアプリの最初の設定が変わるかは各社の発表を待つしかありませんが、2つの州法が、つくり方を動かすきっかけになるとみています。

夜にAIへ悩みを打ち明けるような使い方をしている子どもほど、効き目は大きいでしょう。日本の中間整理も、多くのサービスが自己申告で年齢を確かめているとして「その実効性には限界がある」と指摘しました。大阪や京都の家でも、子どもが何歳としてアプリに登録しているかを一度いっしょに見ておくと、各社の設定が変わったときに子ども向けの保護機能が働くかどうかが分かります。

AIに頼りすぎる問題は、国の消費者委員会の調査会でも議題になりました。調査会で何が論点になっているかは、AIの助言を信じすぎる問題を検討、消費者委員会の調査会が検討状況を公表から確認できます。AIのキャラと話すアプリのその後は、AIキャラと話すアプリ「Character.AI」が破産申請 子ども・若者とAIの付き合い方で読めます。

日本の線引きは、12月の最終報告から

こども家庭庁の会議は12月をめどに、最終報告を出す予定です。中間整理によると、国は次の基本計画を作る2027年までに、法律を変えるかどうかもふくめて考えることになっています。生成AIの会話のふるまいまで踏みこむのか。年齢の確認を、どこまで求めるのか。日本の線引きは、この2つを見ると分かりやすいはずです。

なお、ニューヨーク州の記録には、知事が署名と同じ日に出した承認メモ（approval memo）もありますが、中身は確認できていません。署名のあとに条文を手直しすることもあるので、禁じる項目や始まる日が変わることもありえます。

AIがやさしいのはええことやけど、子どもの「秘密の相談相手」になりすぎてへんか、晩ごはんのときにでも話題にしときたいなあ。