AIで裸の画像を作るアプリ、Appleが締め出しを強化 子どもを守るために家庭でできること

Appleは2026年10月16日(米国時間)、App Storeのアプリの審査の決まり「App Review Guidelines」を改めました。同意のない性的な画像は、AIで作ったものも含めて、アプリが前もって防ぎ、消すべきものだと明記しました。審査のときと違う機能を後から出す「おとり」のアプリへの処分も、はっきり書いています。

日本では、子どもの画像を生成AIなどで性的に加工する被害が続いています。Appleの改定の中身と、日本の被害の状況、家庭でできること、関西の相談先をまとめました(2026年10月17日に各公式ページで確認)。

Appleが改めた3つの決まり

Appleは、ポルノに当たるものは以前からApp Storeで禁止しており、実在の人の性的な画像を同意なく作る「nudification」(脱衣)アプリも含むと説明しています。今回は、その決まりを強め、広げるための改定だとしています。

2.5.19は、審査のときは目的を偽り、承認の後で裸の画像を作るなどの有害な機能を出す手口を指しています。Appleは、こうした手口を「bait-and-switch」(おとり)と呼んでいます。

1.2は、利用者が作ったり投稿したりできるアプリに、次の仕組みを求めています。好ましくない内容を投稿させない仕組み、不快な内容を通報できる仕組みと速やかな対応、迷惑な相手をブロックする機能、連絡先の公開です。

Appleによると、昨年は、安全上の問題がある15万本を超えるアプリが利用者に届く前に止め、詐欺や不正で19万3,000を超える開発者のアカウントを停止しました。悪質な開発者は、承認された後で有害な中身が働くように隠していたと説明しています。

改定した決まりは英語で公開されていて、Appleは翻訳を1か月以内に開発者向けのサイトに載せるとしています。

日本でも続く、子どもの画像を性的に加工する被害

警察庁の資料によると、警察が2025年に把握した「児童の画像を生成AI等により性的に加工し悪用した事案」は114件でした。2024年の110件から少し増えています。対象は、18歳未満の子どもの性的な画像を作った事案のうち、相談や被害の申告のときに被害を受けた人が20歳未満だったものです。

被害を受けた子どもは中高生が約9割で、加工した人は同級生や同じ学校の人が約6割です。警察庁は、事案の内容に応じて、名誉毀損やわいせつ物頒布などの罪での検挙や、指導・警告をしているとしています。資料には、男子中学生が女子生徒のSNSの投稿画像を生成AIで裸の画像に加工し、ほかの男子生徒に売った事例も載っています。

AIで作った顔や声を使う詐欺への備えは、AIで作った顔や声の詐欺に備える 家族と店で決めておくことにまとめています。

家庭と学校でできること

子どものiPhoneは、アプリを承認制にする

Appleのスクリーンタイムには、保護者が子どものアプリの入手を承認する「承認と購入のリクエスト」があります。Appleによると、13歳未満の子どもには既定で有効になっていて、18歳未満の子どもには「成人向けウェブサイトを制限」が既定で有効です。13歳以上の子どもや、家族の共有の設定をしていない場合は、保護者が設定を確かめます。

投稿された画像は、アプリの通報の仕組みを使う

1.2は、利用者が投稿できるアプリに、通報の仕組みと速やかな対応、相手をブロックする機能を求めています。自分や子どもの画像が勝手に使われているのを見つけたら、そのアプリの通報の機能で知らせます。

保存せずに、場所と日時を控えて相談する

画像そのものを保存したり、友だちに送ったりすると、被害が広がります。載っている場所(URL)と、見つけた日時を控えて、次の窓口に相談します。この控え方は編集部の補足です。

加える側にしないために話しておく

警察庁の資料では、加工した人の約6割が同級生や同じ学校の人です。軽い気持ちで作った画像でも、相手を深く傷つけ、罪に問われることがあると、家庭や学校で話しておくことが大切です。

大阪・関西の相談先 府県のワンストップ支援センター

関西の府県には、性犯罪・性暴力の被害を相談できるワンストップ支援センターがあります(2026年10月17日に、内閣府の一覧で確認)。#8891にかけると、最寄りのセンターにつながります。

日本では、App Store以外からもアプリが入る

日本では、スマホソフトウェア競争促進法が2025年12月18日に全面施行されました。Appleは、iOS 26.2から、日本のApp Store以外のアプリのマーケットプレイス(代替アプリマーケットプレイス)からもアプリを配れるようにしています。

今回の改定で、Appleは、子どもの搾取などを助けるアプリについて、App Storeから外すだけでなく、App Store以外からの配信もできなくするとしました。アプリを入れる経路が増えたぶん、子どものスマホの承認の設定を保護者が確かめておく意味は大きくなっています(編集部の見方)。

覚えておきたいこと

• Appleは10月16日、同意のない性的な画像(AIで作ったものを含む)をアプリが防いで消すことを、審査の決まりに明記した。
• 審査の後で機能を変える「おとり」アプリは、アプリの削除と開発者のアカウントの停止の対象。
• 日本では2025年、子どもの画像を性的に加工した事案を警察が114件把握。加工した人の約6割は同級生や同じ学校の人。
• 困ったら、#8891、#8103、法務局(0570-003-110)へ。画像は保存せず、場所と日時を控える。

アプリの決まりが厳しなっても、子どもを守るんは最後は周りの大人や。今夜、スマホの話をちょっとしてみてな。