NVIDIA、英国のAI安全研究を支援へ 自律的に動くAIの対策を後押し

NVIDIAは、英国のAI安全・セキュリティー研究に計算資源を寄付すると発表しました。人の指示を受けて自律的に作業を進める「AIエージェント」の安全対策を支える計画です。5年間で総額2億5000万ドル相当の計算資源を提供する予定です。

現金ではなく、研究用の計算資源を提供

年間5000万ドル相当の計算資源へのアクセスを提供する予定です。支援の大半は、英国の幅広いAI安全・セキュリティー研究コミュニティーに充てます。一部はBOLD、SOFAIR、Imperial College Londonとの研究を支援します。

NVIDIAによると、オックスフォード大学主導のBOLDは、人と共に学習・適応・活動するAIを研究しています。UCL主導のSOFAIRは、設計などを公開するオープンソースのAIの仕組みや、開発・導入をより利用しやすくする方法を探ります。Imperial College Londonでの研究には、安全工学とロボティクスを含む予定です。

計算資源は英国拠点のNVIDIA Cloud Partnersを通じて提供し、計算基盤も英国内に設置する計画です。提供事業者、技術構成、商業条件は未定です。発表日は資料に記載されていません。日本での提供は発表には書かれていません。

暮らしと仕事への影響

研究では、安全なAIエージェント、公開されたAIモデルのセキュリティー、現実の脅威への対策に取り組む予定です。外部への影響を抑えて試す「サンドボックス」や、同じ条件で結果を確かめられる研究、安全性を比べるための評価基準も支援します。

今回の発表は、利用者向けの新機能や、安全性が確認された製品の提供を知らせるものではありません。AIに作業を任せる際の安全を、研究段階から確かめるための支援です。研究への支援と、手元のAIが安全に使えるかどうかは分けて考える必要があります。

関西の暮らしと仕事での使いどころ

例えば、店の問い合わせ対応や、家族の予定整理をAIに任せる場面を考えてみます。文章の案を作るだけなのか、送信や予定変更まで任せるのかで、確認したい点は変わります。

導入を考えるときは、AIができる操作の範囲と、人が確認する場面を整理しておくとよいでしょう。今回の安全性評価や、隔離した環境での研究は、そうした使い方を考えるうえで注目するポイントです。