サイバー攻撃13秒に1回　総務省、アンソロピックなど対策共有　月刊事業構想セミナー

大阪大学DXの事例にみる信頼設計とAI活用

最初に登壇したのは、事業構想大学院大学客員教授の釜池聡太氏である。釜池氏はIT企業でセキュリティのマーケティング業務に約25年携わり、日本ベリサインや日本マイクロソフト、トレンドマイクロなどでの実務を経て、現在は大阪大学のDX推進を担当している。講演では、生成AIの個人利用が1年で27%から51%へとほぼ倍増した一方、正式な許可がないまま利用する、いわゆるシャドーAIの利用も54%に上るという調査結果を紹介し、組織としての活用は依然として道半ばであると指摘した。

活用が停滞する要因として、ガイドラインが厳しすぎて実質使えなくなるケース、共有はしたものの現場に浸透せず一部の職員しか使わないケース、公式ツールの機能が不足して結局は外部サービスに流れてしまうケースなど、複数の型があると整理した。曖昧なリスクを理由に禁止事項を積み重ねると、かえって現場でのシャドーAI利用が広がり、それを防ぐためにさらに統制を強化するという悪循環に陥りかねないとし、大阪大学のように部局ごとの縦割りが強くトップダウンの統制が難しい組織ほど、この悪循環に注意する必要があると述べた。そのうえで、セキュリティは制約ではなく、安心して使える通り道を用意する「信頼設計」であるべきだとし、担当者は変革を支える存在になる必要があるという考えを示した。

総務省が示す自治体サイバー対策の要点

総務省自治行政局住民制度課サイバーセキュリティ対策室サイバーセキュリティ専門官の米井雄一郎氏は、国立研究開発法人情報通信研究機構(NICT)が観測したサイバー攻撃関連通信数が2015年の632億パケットから2024年には6862億パケットまで年々増加し、各IPアドレスに対して約13秒に1回の割合で攻撃が試みられている状況を紹介した。

具体的な攻撃事例が紹介され、活発な質疑応答が行われた

あわせて、米コロニアルパイプラインの業務停止や、国内の医療センター、港湾における業務停止など、サイバー攻撃が質・量ともに深刻化している事例を挙げた。地方公共団体で実際に発生したインシデントとしては、テレワークシステムへの不正アクセスによる情報漏えいや、卒業アルバムの印刷を請け負う委託先へのランサムウェア攻撃、USBメモリの紛失による大規模な個人情報流出などを具体的に示した。制度面では、国の政府統一基準の改定内容が総務省の「地方公共団体における情報セキュリティポリシーに関するガイドライン」に反映される仕組みを説明し、マイナンバー利用事務系の記録媒体を廃棄する際の物理破壊の方法や、委託先作業への職員立ち会いを求めない見直しなど、実務に即した改定内容も紹介した。

さらに、境界防御だけに頼らず、ネットワークの内外を問わずアクセスの都度検証する「ゼロトラストアーキテクチャ」の必要性を説き、ID・認証管理、端末管理、検証・有効性評価、ログ・事跡管理の4要素を、自治体が備えるべき必要最低限の要素として提示した。

CYLLENGEのISMAP認定製品で防御

株式会社CYLLENGE取締役の大西良慶氏は、自治体に求められるISMAP対応サービスについて紹介した。大西氏は2004年に同社の前身である株式会社プロットに入社し、受託システム開発やサイバーセキュリティ事業の営業責任者を経て役員に就任した経歴を持つ。ISMAPは政府機関が利用するクラウドサービスについて、セキュリティ基準への適合性を評価する日本政府の制度であり、同社が提供するメールセキュリティ製品「Mail Defender」、ファイル共有サービス「Smooth File」、ファイル無害化エンジン「Fast Sanitizer」は、いずれもこの認定を取得している。誤送信防止とPPAP代替のソリューションとしては、送信者がメールにファイルを添付するだけで、システム側が自動的に添付ファイルを引き剥がしてクラウドサーバーに格納し、受信者にはダウンロード用の安全なURLが記載されたメールが届く仕組みを紹介した。

また、LGWAN系の端末からクラウドサービスへ直接アクセスするローカルブレイクアウトの経路では、ダウンロードするファイルがそのまま脅威を持ち込むおそれがあるとし、セキュアゲートウェイ機器と連携してダウンロード時にファイルを自動で無害化する仕組みを説明した。この無害化エンジンは、900以上の自治体・公的団体で導入されてきた実績があるという。

渋谷区と三豊市に学ぶ両立策

HENNGE株式会社の赤瀬礼旺氏は、渋谷区と香川県三豊市におけるクラウドセキュリティの取り組みを紹介した。三豊市は人口約6万人、職員数約600人の自治体で、内線業務のクラウド化を機に全職員へスマートフォンを支給し、あわせてグループウェアもクラウド版へ移行した。

この際、パスワードの使い回しや、スマートフォン紛失時に第三者に中身を見られてしまうリスクが課題となったため、庁内のパソコンにはデバイス証明書を、貸与したスマートフォンにはエコモット社が提供する「moconavi」の指紋認証をそれぞれ組み合わせ、パスワードを一切入力しない認証基盤を構築した。これにより、職員の利便性向上に加え、パスワード忘れの問い合わせから解放された情報システム担当者の負担軽減、そして許可端末以外からのアクセスを完全に遮断できるセキュリティの確保という、三つの効果が生まれたという。渋谷区は2019年の新庁舎移転を機にマイクロソフト365を全庁的に導入し、その後、パスワード付きZIPファイルを送るPPAPを廃止する国の方針を受けて対応を検討した。

添付ファイルを自動でクラウドに退避し、ダウンロード用URLを記載したメールを送る仕組みを採用し、送付方法をURL変換にするか従来の暗号化方式にするかを職員自身が選べる柔軟な設計としたことで、職員側の送信操作そのものは変わらず、導入後の問い合わせはほとんど発生しなかったという。両自治体に選ばれた理由として、国産製品としての手厚い導入支援と、マイクロソフト365やGoogleワークスペースとの親和性の高さを挙げた。

アンソロピックが語る憲法AIと行政の未来

アンソロピック・ジャパン合同会社で公共事業責任者を務める七尾健太郎氏は、AIモデル「Claude」の開発の中核にある「憲法AI」の考え方を紹介した。これは、AIに守らせる原則をあらかじめ憲法のような文章として定め、その内容に照らして学習や修正を重ねる仕組みであり、患者保護と研究目的といった相反する状況でどちらの回答を優先すべきかといった判断にも用いられているという。

続けて、デジタル庁が公表したガバメントAIの展開スケジュールに触れ、性能の高い基盤AIを使うことよりも、AIを中心に業務フローやデータ体系そのものが再構成されていく「AIネイティブ行政」という将来像を紹介した。具体例として、委託契約の変更に関する決裁書を作成する職員がAIに相談し、必要なシステムの権限申請から上長への確認連絡、過去の類似案件の参照、関連システムへの反映までを対話の中で進めていく想定の業務フローを、紙芝居形式で示した。既存の人事や財務、契約管理などの基幹システムがなくなるわけではなく、AIが職員との対話窓口として機能し、複数のシステムを横断してつなぐ形に変わっていくとの見方を示した。

F5が説くAI防御の入口と内部

F5ネットワークスジャパン合同会社の田邊淳一氏は、生成AIの導入・利活用に伴う新たなセキュリティリスクへの対策を解説した。総務省の情報通信白書のデータを引きつつ、日本のAI開発・活用が国際的に遅れている現状に触れ、その背景には現行の規制や法律でAIを安全に利用できるのかという国民の不安があるとし、昨年成立したAI法や人工知能基本計画において、AIガバナンスの徹底が重視されていることを説明した。

AIアプリケーションへの通信は、ユーザーからの入口部分と、AIモデル内部という二つの層で保護する必要があるとし、入口側では大量アクセスによるサービス停止を防ぐWAAPの活用を、内部では脆弱性を確認する「レッドチーム」と、想定外の回答を制御する「ガードレール」の実装を挙げた。

脆弱性が見つかってから実際の攻撃が発生するまでの期間は年々短縮しており、現在は約8時間にまで縮まっているというデータも示した。攻撃者側が巧妙な言い回しでAIから攻撃に使える情報を引き出す手口や、一度に核心を尋ねず段階的に誘導する「マルチターン攻撃」への対応も必要だとし、防御側もAIを活用したリスクベースの検知や、自然言語でポリシーを設定できるガードレールで対応していく必要があると述べた。

郡山市に見るDXと統制の両輪

郡山市政策開発部DX推進監の二瓶浩之氏は、1995年に一般行政職として同市に入庁して以来、情報関連部署に3度配属された経験を持つ。同市は2001年に副市長をトップとするDX推進本部を、2003年には別の副市長を責任者とする情報セキュリティ会議を設置し、両組織の事務局をいずれも同じDX戦略課が担うことで、車の両輪のようにバランスを取ってきたと説明した。

具体的な対策としては、マイナンバー利用端末のハードディスクを物理的に破壊する運用や、USBメモリの使用を原則禁止としてパソコンのポート自体を使えなくする取り組みを紹介した。生成AIについては2024年2月に業務専用のチャットツールを導入し、その際には推進本部で機械的に決めるのではなく、若手職員によるワークショップを経て活用の是非を検討するプロセスを踏んだ結果、利用者数を前年の4倍に伸ばしたという。ペーパーレスやキャッシュレスなど複数の指標を定期的に最高デジタル責任者へ報告して進捗を管理しているとし、情報セキュリティは「止めるための壁」ではなく「安全に楽して進むためのガードレール」であるという考えを結びに示した。

さいたま市が語る人材育成の要諦

さいたま市情報統括監の鈴木宏保氏は、平成3年に旧大宮市に入庁して以来、基幹システムの構築や2000年問題への対応、番号制度の整備など、長年にわたり同市のデジタル化に携わってきた。講演では、生成AIを活用する上でのプロンプトの工夫として、役割を明確に指示するだけで回答の質が大きく変わることや、「間違いは間違いと指摘してほしい」という一言を添えるだけで誤りを認める回答が返ってくるようになることを、自身の経験として紹介した。

生成AIの回答は機械だから正しいと思い込むのではなく、近くの同僚に相談する程度の感覚で受け止め、専門知識を持つ人に確認するように、正しい情報かどうかを判断できる職員を育てることが重要だと述べた。ネットワークではゼロトラスト型のベータダッシュモデルを採用し、内部監査と外部コンサルタントによる監査の両方を組み合わせて運用している。最後に、セキュリティはブレーキではなく前提条件であるとし、人事異動が多い自治体では、前例をそのまま踏襲するのではなく、経緯や本質を理解した上で時代に合わせて引き継ぐ「知財の継承」こそが、持続可能な行政デジタル化の鍵になるという考えを示した。

講演がすべて終わった後には、会場で名刺交換を兼ねた交流会が開かれた。登壇者と参加者、あるいは参加者同士が、互いの自治体や組織におけるセキュリティ対策の悩みや工夫について語り合う輪が随所でできており、参加者からは「新しい人のつながりができてとても素晴らしい集まりと思いました」といった感想も聞かれた。