消費者相談をAIが読み始めた 国の分析と名古屋市の計画、大阪市の注意書き

「事業者がAIを使うなら、消費者側の組織もAIを使う必要がある」。これは、早稲田大学の石田京子教授が10月29日に国の会議へ出した資料の、まとめの一文です。売る側だけでなく、買う人の側もAIを持とう、という呼びかけです。

売る側はAIで広告やチャットを磨き、たくさんの相手に一度に働きかけられます。一方、だまされた人の損は、ひとりずつは小さいですが、あちこちに散らばりがちです。石田教授の資料はそうした被害が「苦情として相談窓口に上がらない」ことにもふれています。では、相談を受ける側のAIは、いまどこまで来ているのでしょうか。資料が出たのは、内閣府の消費者委員会の専門調査会です。調査会は10月22日から11月5日まで、3回つづけてこの話を聞きました。10月までの論点は、AIの助言を信じすぎる問題の記事で読めます。

国の分析では、AIがもう相談を読んでいる

全国の相談の記録をためた「PIO-NET」は、もうAIの手で読み分けられ始めました。PIO-NETは国民生活センターと各地の消費生活センターをつなぐデータベースです。

やり方は特定商取引法の見直しのために消費者庁が作った資料から分かります。委託を受けた調査会社が、SNSにかかわる相談から毎年500件ずつを抜き出し、手元のコンピューターで動かす言語モデル（ローカルLLM）に、SNSのやり取りが取引の入り口だったかを判定させました。人の判断と比べた精度は96%。そこから全体を見積もると、SNSのチャットで勧誘された相談は、2015年度の467件から2024年度の9,018件へ、およそ19倍に増えていました。

ただ、9,018件は人がすべてを読んで数えた数ではありません。2024年度はSNSがかかわり、お金を払った通信販売の相談だけで3万4,456件あります。抜き出した分をAIが読み、誤差の幅を付けて全体をはかる。この数はチャットでの勧誘にもクーリング・オフを付けるという特定商取引法の見直し案を支える根拠になりました。法律を変える議論に使う数を、AIが数え始めたと言えそうです。

国はこれを、さらに広げるつもりです。消費者庁が9月にまとめた悪質商法の対策では、PIO-NETが2026年9月に新しくなるのに合わせ、2024年度の約90万件の相談を、AIによる文脈の分析で読むとしました。「配当されない」と書かれる前の、破綻の初めのしるしをつかむ狙いです。

名古屋市は、電話の聞き取りをAIで補う

電話を受ける窓口でも、AIを入れる動きが出てきました。10月22日の調査会では、名古屋市が、市の消費生活センターでAIを使う計画を話しました。

きっかけは人手が足りないことです。センターに来る相談は年1万3,000件以上。相談員は約20人で、年代でいちばん多いのは60代前半、65歳の前にやめる人が多いといいます。新人が育つには約5年かかり、電話がつながりにくい状態もずっと続いていると、資料にはあります。

市には企業から新しい技術を募って試す制度があり、センターはそこに応募しました。AIに任せたいのは次の3つです。

1. 電話の声を文字にして、業者の名前や、もう払ったお金など、まだ聞けていないことを相談員の画面に出す。
2. 前の相談などをもとに、どう助言するかの案を出す。
3. 電話の話をまとめて、相談の記録を作る。

話すのはAIではなく、相談員のままです。AIは外とつながない「完全クローズド」の形で動かし、学ばせるのも市の相談の記録などに限るといいます。どこまで正しく働くか、個人の情報をどう守るか、お金に見合うか。この3つは市が自分で課題に挙げました。いつ試し始めるかは資料からは読み取れません。

AIの役目は「見つける」と「下書き」

海外では、消費者の側に立つ団体が、先にAIを使い始めました。石田教授の資料にある3つの例を、日本の2つとそろえて見てみると、次のようになります。

英国は相談団体の「Caddy」で、AIの案を監督する人がチェックしてから相談員に渡します。オーストリアの「Fake-Shop Detector」は、専門家がまとめた情報とAIを組み合わせた仕組み。スペインなどの例は3か国の消費者団体が組んだ「CICLE-X」です。

どの例も、AIがするのは「見つける」か「下書きする」まで。大事な判断や、外に知らせることには人が責任を持つと、石田教授の資料にもあります。日本の2つはどちらも国の職員や相談員の手もとで使う形です。でも、オーストリアのように、ふつうの人が自分で通販サイトの危なさを調べられるツールは、この2つには入っていません。

188に電話する前にできること

名古屋市のAIが画面に出す「まだ聞けていないこと」は、相談する側から見ると、そろえておくと話が早いことの一覧です。資料の例では次の3つでした。

1. 相手の業者の名前を書いておく。
2. もう払ったお金がいくらかを書き出しておく。
3. もらった契約書を手もとに置いておく。

大阪市に住んでいるなら、大阪市消費者センターの相談の電話（06-6614-0999）にかけられます。月曜から土曜の10時から17時まで受けていて、祝日と年末年始は休み。ほかの地域なら、消費者ホットラインの188にかけると、近くの窓口につながります。

その大阪市の案内には、11月9日付で、AIについての一文があります。

AIの回答は一般的な情報に基づくものであり、個別のケースに必ずしも当てはまるとは限りません。

センターは、相談員が経緯をていねいに聞いてから助言するため、AIの答えと違う助言になることもあると続けます。わざわざ書き足すのは、電話の前に生成AIで調べてくる人が少なくないからだとみられます。

同じ案内によれば、受けた相談は、名前や住所など人が分かる情報を除いてPIO-NETに記録されます。少しの損でも、窓口に伝えた一件は、国のAIが「同じ手口が増えている」と気づくための材料になります。被害は少しずつで、ばらばらで、表に出てこない。石田教授の言うこの弱いところは、相談の一本一本でしか埋まらないと考えられます。

売る側のAIと、買う側のAI

11月5日の調査会では、一橋大学の得津晶教授が、もう一歩先の心配を話しました。買い物をAIエージェントに任せるようになったとき、AIを作る会社や広告を出す会社の都合と、使う人の得がずれるかもしれない、という話です。教授は贈り物にするお茶をAIに聞いたとき、答えに「本当にただのハルシネーション？」と不安になったことも、資料で明かしました。

なかでも気がかりなのは、質のよくないAIエージェントを、使う人が信じてしまう筋書きです。資料ではその「悪いシナリオ」がもう進んでいるおそれがあるとし、ひと言で「AIが言ってた」とまとめていました。

相談窓口のAIは、この「AIが言ってた」を受け止める側にも回ります。売る側のAI、買う側のAI、窓口のAIが並ぶなかで、最後に話を聞くのはやはり人。大阪市の一文は、その入り口に立った窓口の姿にも見えます。

スマホでAIに聞いて首をかしげたら、そのまま188にかけたらええねん。