さくらインターネットなど、生成AIの評価基盤実装へ 誤情報を継続点検

さくらインターネット、Preferred Networks、情報通信研究機構(NICT)が、生成AIを継続的に評価・改善する「能動的評価基盤」の社会実装に向けた取り組みを始めました。AIの誤情報や差別的表現などを調べ、問題の改善につなげる仕組みです。現段階では、基盤の一部を構成するシステムの試作版が稼働を始めたところです。

決まった質問だけでなく、評価を更新

NICTによると、固定したプロンプト集、つまりAIへの質問・指示の集まりだけでは、新たなリスクを捉えにくいとしています。開発中の基盤では、日本語Webデータや複数のAIを使い、評価用の質問を自動で作り、更新する手法を改良します。

評価対象は、差別的表現や誤情報、日本の文化・法令との不整合などです。問題を改善するための学習データも自動生成します。

Webの情報と照合して、もっともらしい誤りや偏りの可能性を検知する「WISDOM-CE」と、危険性の高い質問を作って応答のリスクを判定する「WISDOM-AR」などを、将来統合する予定です。さくらインターネットは来年度中の運用開始を目指しています。

暮らしと仕事への影響

仕事で生成AIを選ぶ際は、文章の自然さだけでなく、どんな問題を、どのような方法で評価しているかも確認したいところです。今回の取り組みの注目点は、一度の点検で終わらず、評価を更新し、改善につなげようとしていることです。

ただし、社会実装に着手したことと、完成した基盤が使えることは別です。導入を検討する際は、試験的な適用と本運用を分けて確認する必要があります。評価結果の妥当性を継続して確保する方法も、さくらインターネットが検討する段階です。

大阪・関西では

大阪市に本社を置くさくらインターネットは、自社サービス「さくらのAI Engine」で扱う国内外の大規模言語モデル(LLM)への試験的な適用検討を開始する予定です。その検討を基に、評価基盤の課題を洗い出し、評価が妥当かを確かめます。

同サービスでは、2026年8月4日から「PLaMo 3.0 Prime」を提供中です。Preferred NetworksはNICTと国産LLMを開発し、その後継モデルにつなげる方針です。さくらインターネットは後継モデルなどを同サービスで展開する予定で、既存の提供サービスと評価基盤の実装を結ぶ役割を担います。