間接罰とは、決まりを破ったその場で科す罰ではなく、国の求めや命令に従わなかったときに初めて科す罰則のことです。AI法の見直しを話し合う内閣府の有識者会議は11月18日、とりまとめ骨子(案)を示し、AIにはこの形の罰則がふさわしいとしました。
今のAI法に罰則はひとつもありません。2025年5月にでき、9月から全体が動き出した法律で、国が事業者にできることとして書かれているのは、「指導、助言、情報の提供」など。骨子案はそこへ初めて命令と罰則を持ちこむ案です。
11月18日のとりまとめ骨子(案)の4ページ。法律に書くとした中身が並ぶ出典: 出典:内閣府「人工知能戦略専門調査会 制度の在り方検討ワーキンググループ(第3回)資料1 とりまとめ骨子(案)」(公共データ利用規約(第1.0版)に準拠して利用(PDFの4ページを画像にし、上の部分を切り抜き・縮小のみ・2026年11月19日確認))
罰則の相手は高性能なAIを出す会社
骨子案が決まりの相手に選んだのは、AIを使う人ではありません。社会に大きな害を起こしうるほど性能の高いAIを、サービスとして出している会社です。ねらうリスクも、AIを使ったサイバー攻撃や、化学・生物・核などのテロ(CBRNE)、AIが思わぬ動きをして、世の中を大きく乱す場合に絞りました。
法律に書くとした中身は5つです。
- AIのリスクから安全を守る手だてをとる義務
- 大きな被害が出たときや、国に求められたときに、国へ知らせる義務
- 国がその手だてを勧めたり、命じたりできる権限
- 知らせなかったり、命令を守らなかったりしたときの罰則
- AIセーフティ・インスティテュート(AISI)の役目を広げること
罰則の置き方にも、はっきりした線があります。AIを作ったり使ったりしたこと、そのものには罰を科しません。国から報告を求められたり、手だてを勧められたりしたのに従わなかったときに罰則を科す、というのが骨子案の書き方です。
海外の会社も外しません。日本である程度使われていれば、海外の会社のAIも「当然に」対象にすべきだとしました。11月11日の会合では、Google、OpenAIの日本法人、NTTなど国内外の6社から話を聞いています。逆に、使い道を絞ったAIのように、もともとリスクの小さいサービスは外すことも検討すべきだという立場です。
11月11日の資料の7ページ。新しい法律で見るのは、性能の高いAIと特定のリスクが重なる1マスだけ出典: 出典:内閣府「制度の在り方検討ワーキンググループ(第2回)資料1-3 前回の議論のまとめ」(公共データ利用規約(第1.0版)に準拠して利用(PDFの7ページを画像にし、縮小のみ・2026年11月19日確認))
1月のGrokの件は新しい罰則の外
罰則を求める声は、身近な画像の問題でも上がっていました。1月16日の会見で、AIを受け持つ小野田大臣はXの生成AI「Grok」でほかの人の写真が勝手に作りかえられ、広まっていると話しました。内閣府はX社に、すぐに改めるよう求め、書面でたずねたといいます。2月24日の会見では、記者が「AI法に罰則が必要だという声」が取材で上がっていると問いかけました。
骨子案にも、気になる一文があります。国はAI法をもとに調べましたが、事業者から協力を得られなかった例もあった、というものです。ただ、どこの会社かは骨子案からは分かりません。
では、こうした画像の問題に、新しい罰則は届くのでしょうか。骨子案の罰則のねらいは、サイバー攻撃やテロのほうです。11月11日の資料がまとめた第1回の議論では、「性的ディープフェイクや青少年保護も優先度が高い問題」という意見も出ていました。それでも骨子案は分野ごとに起きる問題を「原則として」今ある法律やガイドラインで対応していく考えです。
つまり新しい罰則は、暮らしの中で起きやすいAIの被害を、正面からねらうものではなさそうです。写真を性的に作りかえることや、作品に似せた画像は、これまでどおり、著作権や肖像権などをめぐる今のルールで争うことになるとみられます。1月の件で「罰則があれば」と考えた人には、少し遠い見直しに映るかもしれません。
代わりに見すえる先は、AIを悪用した攻撃や、AI自身が起こす事故です。7月からは、ためしに動かしていたAIエージェントが、外のサーバーに入りこむ件が相次ぎました。第1回の資料は、OpenAIのAIエージェントがHugging Faceのサーバーに入りこんだ7月の件を挙げました。米カリフォルニア州が11月16日にOpenAIを訴えたのも、この件です。訴えの中身は試験中のAIエージェントが外部を攻撃 米加州がOpenAIを提訴、日本はで読めます。
EUや米加州は違反そのものに罰金
海外の決まりと並べると、日本の案は罰が出てくるまでの段が多い作りです。
|
対象の線引き |
事故の報告 |
罰則 |
| 日本の案 |
性能と国内の利用(数値は骨子案になし) |
重大な危害の発生を国へ |
報告や命令に違反したとき(額は骨子案になし) |
| EU |
学習の計算量が10の25乗回を超えるかなど |
重大な事故を遅れなく |
世界の売上の3%か1,500万ユーロの、高いほうまで |
| 米加州 |
学習の計算量が10の26乗回以上 |
発見から15日以内(命の危険は24時間以内) |
最大100万ドル |
EUと米加州の欄は内閣府の11月11日の資料と、EUのAI法の条文によります。同じ「罰則あり」でも、中身はかなりちがいます。EUは決まりに違反したこと、そのものにも罰金を科せます。日本の案も事故の報告は求めますが、罰則がつくのは報告の義務や国の命令に違反したとき。安全の手だてが足りないこと、そのものには直接の罰を置かない作りです。
段を多くしたわけは骨子案の出発点にありそうです。骨子案は「AIの開発や利活用そのものを規制することは妥当ではない」と述べ、海外の決まりと合わせることや、会社の秘密を守ること、届け出の手間を増やさないことにも何度もふれました。そのぶん、事故が起きる前に罰で止める力は、EUより弱くなるとみられます。
使う人とAIを組み込む会社への影響
骨子案が法律に書くとした5つの中に、使う人の義務はありません。11月11日の資料によると、犯罪を罰することなど、使う人の側は「既存の法令などでも対応ができる部分が多くある」。法律でない指針なども使いながら進めることを考える、という整理です。
11月11日の資料の6ページ。AIを提供する側と使う側を分けて考える出典: 出典:内閣府「制度の在り方検討ワーキンググループ(第2回)資料1-3 前回の議論のまとめ」(公共データ利用規約(第1.0版)に準拠して利用(PDFの6ページを画像にし、縮小のみ・2026年11月19日確認))
とはいえ、今ある法律で罪に問われることはこれまでどおりです。第1回の資料には、国内の例として2025年12月の件も出てきます。高校生らがAIのチャットを悪く使ってプログラムを作り、約725万件の会員の情報を不正に取ったとして捕まりました。小野田大臣も2月の会見で、AIを使う人も「場合によっては損害賠償請求を受けたり、罪に問われ得る」と話していました。
自分の写真がAIで作りかえられ、SNSに出回ったら、まずそのSNSに消してほしいと申し出ます。大きなSNSには、2025年4月に施行された情報流通プラットフォーム対処法で、消す手続きを速めることが義務づけられました。返事がないときや、頼み方が分からないときは、総務省の委託で動く違法・有害情報相談センターに、Webのフォームから無料で相談できます。
会社の側で気になるのは、ほかの会社のAIを組み込む使い方でしょう。関西でも、豊中市の子育て相談のように、役所の窓口にまでAIが入り始めました。大阪や京都でも、よその生成AIを自社のアプリや予約の受付に入れている会社は少なくないでしょう。骨子案はサイバー攻撃やテロのようなリスクを防ぐ手だてを、もとのAIを出す会社がとるのが筋だとしました。組み込んで使う会社にまで同じ義務を一律にかけることには、「慎重に検討すべき」との立場です。小さな会社にとっては、少しほっとする書き方でしょう。
包丁を置く側の決まり
あの1月の会見で、小野田大臣はAIを包丁にたとえました。料理に使うか、人を傷つけるかは「使い手の問題でもある」。そう考えると今回の骨子案は、包丁の中でも、とびきり危ない刃物を店に置く側に向けた決まりです。
その刃物の線引きはまだ空白です。どこから「高性能」とみなすのか、罰則の額はいくらか、どの会社が当てはまるのか。骨子案には、どれも書かれていません。官房長官は10月22日の会議で、「AIガバナンスの強化」などの論点を、年明けからすみやかに形にしていくと述べました。線引きの数字は、そのあとで入ることになりそうです。
文化祭の写真をAIでいじって友だちに回す前に、罰を受けるんは会社だけやないって、ちょっと思い出してな。