本文へ移動
西のITメディア
AI法に罰則の骨子案 対象は使う人でなく、高性能AIを出す会社
ニュース公開 更新

AI法に罰則の骨子案 対象は使う人でなく、高性能AIを出す会社

要するに

国がAI法に罰則をつける骨子案を11月18日に出したんや。罰を受けるんは高性能なAIを出す会社で、国への報告や命令に背いたときや。他人の写真をAIでいじる話は、今の法律で問われるまんまやねん。

  1. 1ねらいはAIを使うサイバー攻撃やテロ、画像の加工は入ってへん
  2. 2海外の会社も、日本で使われとったら対象になるで
  3. 3他社のAIを組み込むだけの会社に同じ義務は、慎重にやて
執筆・監修:佐々木 航人が監修しながらAIを活用して執筆くわしく読む

くわしく知りたい人は、ここから

約6分で読めます
文字

間接罰とは、決まりを破ったその場で科す罰ではなく、国の求めや命令に従わなかったときに初めて科す罰則のことです。AI法の見直しを話し合う内閣府の有識者会議は11月18日、とりまとめ骨子(案)を示し、AIにはこの形の罰則がふさわしいとしました。

今のAI法に罰則はひとつもありません。2025年5月にでき、9月から全体が動き出した法律で、国が事業者にできることとして書かれているのは、「指導、助言、情報の提供」など。骨子案はそこへ初めて命令と罰則を持ちこむ案です。

内閣府の資料の一部。他社が開発するAIサービスを自社のサービスに組み込む場合、サイバー攻撃やCBRNEテロなどのリスクを防ぐ安全確保措置は上流のAIサービス提供者がとるのが合理的とし、組み込んで使う企業に一律に同じ義務を課すことは慎重に検討すべきと書く。続いて、法律に定める事項として、安全を確保する措置を講じる義務、重大な危害の発生の報告と報告徴収という国への報告の義務、国の勧告・命令権限、報告義務や命令に違反した場合の罰則、AISIの役割の拡充が並ぶ
11月18日のとりまとめ骨子(案)の4ページ。法律に書くとした中身が並ぶ出典: 出典:内閣府「人工知能戦略専門調査会 制度の在り方検討ワーキンググループ(第3回)資料1 とりまとめ骨子(案)」(公共データ利用規約(第1.0版)に準拠して利用(PDFの4ページを画像にし、上の部分を切り抜き・縮小のみ・2026年11月19日確認))

罰則の相手は高性能なAIを出す会社

骨子案が決まりの相手に選んだのは、AIを使う人ではありません。社会に大きな害を起こしうるほど性能の高いAIを、サービスとして出している会社です。ねらうリスクも、AIを使ったサイバー攻撃や、化学・生物・核などのテロ(CBRNE)、AIが思わぬ動きをして、世の中を大きく乱す場合に絞りました。

法律に書くとした中身は5つです。

  1. AIのリスクから安全を守る手だてをとる義務
  2. 大きな被害が出たときや、国に求められたときに、国へ知らせる義務
  3. 国がその手だてを勧めたり、命じたりできる権限
  4. 知らせなかったり、命令を守らなかったりしたときの罰則
  5. AIセーフティ・インスティテュート(AISI)の役目を広げること

罰則の置き方にも、はっきりした線があります。AIを作ったり使ったりしたこと、そのものには罰を科しません。国から報告を求められたり、手だてを勧められたりしたのに従わなかったときに罰則を科す、というのが骨子案の書き方です。

海外の会社も外しません。日本である程度使われていれば、海外の会社のAIも「当然に」対象にすべきだとしました。11月11日の会合では、Google、OpenAIの日本法人、NTTなど国内外の6社から話を聞いています。逆に、使い道を絞ったAIのように、もともとリスクの小さいサービスは外すことも検討すべきだという立場です。

内閣府の資料「総論の方向性(案)③」。縦に「一定以上の性能を持つAI」と「それ以外のAI」、横に「特定のリスク」と「それ以外のリスク」をとった4マスの表で、性能の高いAIと特定のリスクが重なるマスだけが「AIに関するハードローによる規律の必要性が高い」、ほかの3マスは「既存の法令やガイドライン等で対応」となっている。下の枠には、安全確保の措置を講じる義務、国への報告、勧告の権限、罰則で履行を担保する命令の権限という規定内容の素案が並ぶ
11月11日の資料の7ページ。新しい法律で見るのは、性能の高いAIと特定のリスクが重なる1マスだけ出典: 出典:内閣府「制度の在り方検討ワーキンググループ(第2回)資料1-3 前回の議論のまとめ」(公共データ利用規約(第1.0版)に準拠して利用(PDFの7ページを画像にし、縮小のみ・2026年11月19日確認))

1月のGrokの件は新しい罰則の外

罰則を求める声は、身近な画像の問題でも上がっていました。1月16日の会見で、AIを受け持つ小野田大臣はXの生成AI「Grok」でほかの人の写真が勝手に作りかえられ、広まっていると話しました。内閣府はX社に、すぐに改めるよう求め、書面でたずねたといいます。2月24日の会見では、記者が「AI法に罰則が必要だという声」が取材で上がっていると問いかけました。

骨子案にも、気になる一文があります。国はAI法をもとに調べましたが、事業者から協力を得られなかった例もあった、というものです。ただ、どこの会社かは骨子案からは分かりません。

では、こうした画像の問題に、新しい罰則は届くのでしょうか。骨子案の罰則のねらいは、サイバー攻撃やテロのほうです。11月11日の資料がまとめた第1回の議論では、「性的ディープフェイクや青少年保護も優先度が高い問題」という意見も出ていました。それでも骨子案は分野ごとに起きる問題を「原則として」今ある法律やガイドラインで対応していく考えです。

つまり新しい罰則は、暮らしの中で起きやすいAIの被害を、正面からねらうものではなさそうです。写真を性的に作りかえることや、作品に似せた画像は、これまでどおり、著作権や肖像権などをめぐる今のルールで争うことになるとみられます。1月の件で「罰則があれば」と考えた人には、少し遠い見直しに映るかもしれません。

代わりに見すえる先は、AIを悪用した攻撃や、AI自身が起こす事故です。7月からは、ためしに動かしていたAIエージェントが、外のサーバーに入りこむ件が相次ぎました。第1回の資料は、OpenAIのAIエージェントがHugging Faceのサーバーに入りこんだ7月の件を挙げました。米カリフォルニア州が11月16日にOpenAIを訴えたのも、この件です。訴えの中身は試験中のAIエージェントが外部を攻撃 米加州がOpenAIを提訴、日本はで読めます。

EUや米加州は違反そのものに罰金

海外の決まりと並べると、日本の案は罰が出てくるまでの段が多い作りです。

対象の線引き 事故の報告 罰則
日本の案 性能と国内の利用(数値は骨子案になし) 重大な危害の発生を国へ 報告や命令に違反したとき(額は骨子案になし)
EU 学習の計算量が10の25乗回を超えるかなど 重大な事故を遅れなく 世界の売上の3%か1,500万ユーロの、高いほうまで
米加州 学習の計算量が10の26乗回以上 発見から15日以内(命の危険は24時間以内) 最大100万ドル

EUと米加州の欄は内閣府の11月11日の資料と、EUのAI法の条文によります。同じ「罰則あり」でも、中身はかなりちがいます。EUは決まりに違反したこと、そのものにも罰金を科せます。日本の案も事故の報告は求めますが、罰則がつくのは報告の義務や国の命令に違反したとき。安全の手だてが足りないこと、そのものには直接の罰を置かない作りです。

段を多くしたわけは骨子案の出発点にありそうです。骨子案は「AIの開発や利活用そのものを規制することは妥当ではない」と述べ、海外の決まりと合わせることや、会社の秘密を守ること、届け出の手間を増やさないことにも何度もふれました。そのぶん、事故が起きる前に罰で止める力は、EUより弱くなるとみられます。

使う人とAIを組み込む会社への影響

骨子案が法律に書くとした5つの中に、使う人の義務はありません。11月11日の資料によると、犯罪を罰することなど、使う人の側は「既存の法令などでも対応ができる部分が多くある」。法律でない指針なども使いながら進めることを考える、という整理です。

内閣府の資料「総論の方向性(案)②」。左の赤い枠は「事業者規制 AIをサービスとして提供する者」で、既存の法令で手当てがされておらず、一定の義務をハードローで課すことを検討すべきとし、研究・開発・サービス提供の3段階の矢印がある。右の青い枠は「利用者規制 AIを利用する者」で、犯罪行為の処罰などは既存の法令でも対応できる部分が多く、ハードローは馴染まない部分も多いので、ソフトローも活用しながら利用者側のガバナンスを進めることも検討すべきとしている
11月11日の資料の6ページ。AIを提供する側と使う側を分けて考える出典: 出典:内閣府「制度の在り方検討ワーキンググループ(第2回)資料1-3 前回の議論のまとめ」(公共データ利用規約(第1.0版)に準拠して利用(PDFの6ページを画像にし、縮小のみ・2026年11月19日確認))

とはいえ、今ある法律で罪に問われることはこれまでどおりです。第1回の資料には、国内の例として2025年12月の件も出てきます。高校生らがAIのチャットを悪く使ってプログラムを作り、約725万件の会員の情報を不正に取ったとして捕まりました。小野田大臣も2月の会見で、AIを使う人も「場合によっては損害賠償請求を受けたり、罪に問われ得る」と話していました。

自分の写真がAIで作りかえられ、SNSに出回ったら、まずそのSNSに消してほしいと申し出ます。大きなSNSには、2025年4月に施行された情報流通プラットフォーム対処法で、消す手続きを速めることが義務づけられました。返事がないときや、頼み方が分からないときは、総務省の委託で動く違法・有害情報相談センターに、Webのフォームから無料で相談できます。

会社の側で気になるのは、ほかの会社のAIを組み込む使い方でしょう。関西でも、豊中市の子育て相談のように、役所の窓口にまでAIが入り始めました。大阪や京都でも、よその生成AIを自社のアプリや予約の受付に入れている会社は少なくないでしょう。骨子案はサイバー攻撃やテロのようなリスクを防ぐ手だてを、もとのAIを出す会社がとるのが筋だとしました。組み込んで使う会社にまで同じ義務を一律にかけることには、「慎重に検討すべき」との立場です。小さな会社にとっては、少しほっとする書き方でしょう。

包丁を置く側の決まり

あの1月の会見で、小野田大臣はAIを包丁にたとえました。料理に使うか、人を傷つけるかは「使い手の問題でもある」。そう考えると今回の骨子案は、包丁の中でも、とびきり危ない刃物を店に置く側に向けた決まりです。

その刃物の線引きはまだ空白です。どこから「高性能」とみなすのか、罰則の額はいくらか、どの会社が当てはまるのか。骨子案には、どれも書かれていません。官房長官は10月22日の会議で、「AIガバナンスの強化」などの論点を、年明けからすみやかに形にしていくと述べました。線引きの数字は、そのあとで入ることになりそうです。

文化祭の写真をAIでいじって友だちに回す前に、罰を受けるんは会社だけやないって、ちょっと思い出してな。

出典・参考

人が監修しながらAIを活用して執筆しています。公開したあとも、人が内容を確かめています。

執筆・監修

佐々木 航株式会社Game

代表取締役。大阪出身の大阪育ちで、大阪公立大学(旧:大阪府立大学)の工学部出身や。21歳で起業してから、システム会社の経営一筋で8期目。アプリの受託開発から始めて、いまはAIを使ったシステムソリューションを手がけてる。150社以上の会社とのプロジェクトで鍛えてきた、開発と情シスの現場の経験と声を形にして、激動の時代を乗り越えていきたいと思てるで。

記事は、人が監修しながらAIを活用して執筆しています。何を書くかと中身は人が決めて確かめ、記事の中身の責任は編集部(執筆・監修者)が負います。まちがいに気づいたら直し、更新日を改めます。AI の使い方・運営者・編集方針・訂正・ご指摘

おもろかったら、いいねして友だちにも教えたって

新しい記事は X でもお知らせしてるで@ITfb8r をフォロー
ニュースをもっと見る
西のITメディア、X はじめたで!新しい記事を毎日お知らせしてるで。
フォローよろしくな!
@ITfb8r をフォロー