第2回：自治体向けAIガバナンスガイドラインとは

自治体向けAIガバナンスガイドラインが策定された理由・背景

本ガイドラインを策定した「AIガバナンス自治体コンソーシアム」は、一般財団法人行政管理研究センターが主催する「公務部門ワークスタイル改革研究会」の下で、2024年3月1日に発足しました。このコンソーシアムでは、自治体の行政現場において、AIの利用が過度に制限されることなく、その特性を理解して最大限に活用されることにより、自治体職員の働き方を変革し、行政サービスの向上やイノベーションの創発を達成し、住民の暮らしの質の向上につなげることを目指しています。

AIの普及に取り組むうえでは、AIに関するリスクをステークホルダーが受容可能な水準で管理しつつ、便益を最大化するためのAIガバナンスの構築が重要です。総務省・経済産業省は2024年4月にAI事業者ガイドラインを取りまとめ、多様な事業活動におけるAIの安全かつ安心な活用を促進するために、統一的な指針を示しました。

これを踏まえ、「AIガバナンス自治体コンソーシアム」では、AI事業者ガイドラインをベースにしつつ、地方自治体におけるAIガバナンスの構築に向け、AIの提供および利用に関する倫理原則と自治体AI関係者の留意点を示すことを目的として本ガイドラインを策定することとなりました。地方自治体が提供する行政サービスや保有する情報等を踏まえ、より地方自治体に特化した具体的な内容を記載しているのが特徴です。

本ガイドラインの対象者

本ガイドラインでは、自治体においてAI活用に関わる関係者を明確に定義し、それぞれの立場に応じた留意点や責任を示しており、自治体サービスの提供や、自治体内部の業務やデータを活用した施策立案（以下、あわせて「自治体業務等」という）において、AIの提供・利用を担う者を対象としています。AI事業者ガイドラインの対象者に照らし合わせると、「AI提供者」および「AI利用者」の2つに着目していることになります。

AI提供者

AI提供者とは、AIシステムをアプリケーション、既存のシステム、行政サービスの提供プロセス等に組み込んだサービスとして、AI利用者または業務外利用者に提供する立場の者を指します。具体的には、当該サービスの導入を検討する、自治体内の情報システム部局の職員やCDO（最高デジタル責任者）等がAI提供者として想定されています。

AI利用者

AI利用者とは、自治体職員のうち、AIを業務に活用する立場の者を指します。具体的には、実際に行政サービスの提供や、施策立案を担う職員がAI利用者として想定されています。

なお、自治体職員のみならず、自治体職員と共同でシステム等を導入する外部ベンダーや、自治体向けの情報システムを整備する各機関（各府省や独立行政法人）等、AIを活用する自治体の全ての関係者についても、AI提供者およびAI利用者として地方自治体に求められる事項を理解することが必要になるため、本ガイドラインの内容を理解することが期待されています。

自治体向けAIガバナンスガイドラインの内容

自治体特有の業務や保有する情報の性質などを踏まえ、本ガイドラインでは「自治体AI倫理原則」および自治体における「AI提供者」および「AI利用者」が留意すべきリスクとその対策例が記載されています。それぞれについて特徴的な点を解説します。

自治体AI倫理原則

本ガイドライン第4部では、自治体がAIを利用する上で、行動基準となる基本的価値観として自治体AI倫理原則（以下「倫理原則」という）を定めています。

倫理原則に記載されている10項目については、AI事業者ガイドラインの10項目の「共通の指針」と重なる要素が多くありますが、「住民第一」という特徴的な項目も見られます（図表1）。自治体におけるAI関係者は、人間中心の考え方をもとに、人間の尊厳を守りながら、住民の利益を第一とした行政サービスの提供、自治体事務の効率化等のために、住民第一のAIシステム・サービスの導入・利用を検討することが求められています。

また、類似する項目についても自治体特有の視点が追加されており、例えば「人間中心」において、本ガイドラインでは「住民自治」という内容が記載されています。一般的に、住民自治は地域の住民が地方政治に参画して地域のことを自ら決定することを意味しますが、住民代表による議会議決を通じて制定される例規の範囲を逸脱しないようにAIを活用することに留意し、AI活用によって本来公務員のみが執行可能である住民・事業者への行政処分などの公権力の行使や自治体重要施策の決定などにAIを利用しない、あるいは、利用する際には十分に留意することが求められています。

図表1：自治体AI倫理原則とAI事業者ガイドラインの「共通の指針」の項目比較 

AI関係者における留意点

倫理原則を踏まえ、本ガイドライン第5部では自治体においてAIを利活用する際の留意点をAI提供者およびAI利用者の立場ごとに記載しています。

AI提供者は、AIシステムやサービスをAI利用者に提供する役割を担い、社会へのAIの普及と発展、そして社会経済の成長に貢献する存在であることから、以下の点に留意することが求められています。

• 地域特有の課題に対応する、住民の安全や福祉を優先したAIシステムの設計・運⽤
• 地域行政の課題や社会環境の変化、住民ニーズに合わせた柔軟なAI利用環境の整備
• AI利用者へのAIシステムの提供やサポート
• 合理的な範囲でのインシデント事例などの関連情報の共有

AI利用者は、住民に対する公共サービスの質を向上させ、地域課題の解決に資するためにAIを適切に活用することが期待されることから、以下の点に留意することが求められています。

• 人間の判断を介在させることで、人間の尊厳および自律を守りながら予期せぬ事故を防ぐこと
• 住民に対して透明性を確保し、利用目的やシステムの限界を明確にすること
• 住民からAIの能力または出力結果に関して説明を求められた場合の対応
• 地域特性や住民ニーズを反映させながら、持続可能で信頼できる運用の実現

また、各原則に記載されている観点ごとに留意すべきリスクとその対策例も示されており、対策例はAI提供者およびAI利用者の立場ごとに記載されています。

一例として、「人間中心‐①住民自治」での記載内容を（図表2）に示します。

図表2：（例）自治体向けAIガバナンスガイドライン記載内容（人間中心-①住民自治）

最後に

自治体におけるAI活用は、今後ますます重要性を増していくと考えられます。他方、AIも単なる技術としての導入ではなく、住民の利益を第一とした行政サービスを提供するため、現在の課題に対してAIをどのように適切に活用するかを検討し、効果的に課題を解決することが重要となります。

本ガイドラインは、その実現に向けた第一歩として参考になるものです。自治体は本ガイドラインを守るべきルールではなく、活かすべき知見として捉え、現場での実践に結びつけていくことが望ましいと考えています。

第1回はこちら

第3回はこちら