NEDO、産総研など5者 「AIセーフティ基盤」を構築、ガイドラインを公開

国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）、産業技術総合研究所（産総研）、Citadel AI、コーピー、琉球大学の5者は、AIシステムの安全性確保のための共通基盤となるガイドラインや評価プロトコルなどを開発・策定し、公開した。NEDOによる「AIの安全性確保に関する研究開発・検証等の推進事業／AIセーフティ強化に関する研究開発」の成果。AIシステムの企画・設計段階から評価・運用における安全性確保に重点を置き、AIを活用したシステムを開発・導入する事業者がリスクの洗い出しや適切な対策の検討を行うための考え方や基本的な手順を整理したものだ。2026年5月28日に発表した。

背景には、2023年のG7広島サミットで発足した広島AIプロセスなどを契機に、各国でAIセーフティに関する議論や体制整備が進んでいることがある。日本でもAIセーフティ・インスティテュート（AISI、月刊事業構想2025年4月号参照）が設置され、国際的な議論に参画。人とAIが協調して判断・行動する場面が増加するなか、AIセーフティをいかに設計・評価・運用するかという共通課題への対応が求められていた。同事業では、安全性の「ものさし」となる評価・管理技術の開発、応用領域別の評価・実装技術の開発、企業実務で活用可能な形で整理・体系化したガイドライン類の策定を一体的に進めた。

中核成果として、産総研は、画像とテキストを受け取り、主にテキストで応答するマルチモーダルAIを対象とした「マルチモーダルAI品質マネジメントガイドライン」を策定した。異なる形式の情報の対応関係を見分ける「クロスモーダル照応能力」に着目し、これを4段階に分類。求められる水準に応じてライフサイクルの各段階で実施すべき対応を体系的に整理した。画像キャプション自動生成、インフラ老朽化の画像診断、SNSなどでのコンテンツモデレーションの3事例を取り上げ、人による判断や監督が関与する場面の留意点も示している。

企業現場での実装に向けては、Citadel AIが「生成AI実践ガイドと企業事例集」を体系化し、開発者向けに行政手続き情報を扱うチャットボットを実装・公開した。コーピーは、ISO/IEC 42001（AIマネジメントシステム規格）に整合した生成AIの安全性評価を実務として実施するための「AIマネジメントシステムに基づく生成AI安全性評価プロトコルとその実装ガイド」および評価用テンプレートを整備した。

実環境を想定した取り組みとして、産総研と琉球大学は共同で、医療画像診断においてAIと医師の判断が一致しない場合を想定し、合意形成の在り方やリスク回避策を整理。人とAIの協調における意思決定プロセスの安全性を確保する設計指針として体系化した。また産総研は、家庭や介護施設などの日常生活環境を対象に、見守りAIシステムを題材として実・仮想融合環境を整備し、転倒やふらつきなど実計測が困難な行動を含むデータセットを構築。社会実装に向けた議論の場として「人間中心AIライフテックコンソーシアム（HAIL）」を2026年4月に発足させ、6月から活動を開始する。

5者は今後、今回の事業で得られたAIセーフティに関する共通の考え方に加え、具体的な評価・実装手法を、人とAIが協調する社会に向けた実践的なAIセーフティの共通基盤として体系的に整備していく方針だ。