条例の背景と制定に至る経緯
神戸市が2024年3月29日に公布した「神戸市におけるAIの活用等に関する条例」は、いわゆる生成AI（ChatGPTなど）に関するルールだけではなく、より広範囲なAI技術全般に対応しうる“包括的”な条例として大きな注目を集めています。AIといえば「ChatGPT」などの生成AIがまず話題になりがちですが、神戸市の条例は、それに限らず幅広いAI技術に対して「安全に、そして積極的に活用していくための仕組みを整えよう」という姿勢を打ち出しているのです。
AI活用をめぐる社会情勢と国際動向
2022年末にOpenAI社のChatGPTが一般公開されてから、AI技術は一気に世界規模で注目を浴びるようになりました。文書の作成や要約、画像の自動生成など、従来のコンピュータ技術よりもさらに高度な「思考支援」「アイデア創出」を人間の代わりに行ってくれる可能性が見えたからです。
一方で、データ漏えいや誤情報（ハルシネーション）、著作権侵害、個人情報の扱いなど、多くのリスクや法的な課題も同時に指摘されるようになりました。海外を見渡すと、欧州連合（EU）が「AI規制法」を整備しようとする動き、米国では大統領令による生成AIへの対策など、世界各国でルールづくりが急務となっています。日本でも総務省や経済産業省が「AI事業者ガイドライン」を公表し、国としてAI開発者・提供者・利用者の3者それぞれが留意すべきポイントをまとめました。
神戸市が条例化に踏み切った理由
神戸市では、庁内での文書作成をはじめとした業務効率化のために生成AIを試験導入しようという機運が高まり、実際に2023年頃から試行利用を行いました。その中で、
- 生成AIに職員が「個人情報」や「機密情報」を入力するリスク
- AIの回答を安易に信用してしまい誤った情報を行政文書に反映させるリスク
- 条例や要綱で定める行政処分にAIを活用する際に生じる不当な差別・バイアスリスク
といった懸念を解消するためには、職員一人ひとりの自助努力だけでは足りないだろう、という考えに至りました。さらに、AIによる誤判定が重大な結果を引き起こした海外事例（オランダの児童手当システム誤判定により約2万6000世帯が経済的困窮に陥り、内閣総辞職にまで至ったケースなど）も踏まえ、「神戸市として早めに独自のルールを作り、市民の権利利益を守りつつ行政サービスを推進する必要がある」という結論を得たのです。
条例制定までの経緯
神戸市の取り組みは大きく3つの段階がありました。
- 生成AI制限の条例を2023年に制定
まずは、生成AIに対して個人情報を入力することを禁じるなど、簡易的なルールを条例レベルで定めることで、職員が萎縮せずに安全に利用を試行できる環境を構築しました。 - 有識者会議を設置し、広範なAI活用ルールを検討
東京大学などの専門家や技術ベンダーの意見を聞きつつ、実際に庁内での試行利用の結果を分析し、問題点やガイドラインの方向性を整理しました。 - 今回の包括的なAI活用条例を提案・可決
生成AIだけでなく、今後あらゆる分野でのAI活用が見込まれるため、公平性や透明性の確保、情報漏えい対策、さらにリスクアセスメントの仕組みづくりまでを含む総合的な条例としたのです。
こうした段階を経て、2024年3月29日に「神戸市におけるAIの活用等に関する条例」が公布され、同年9月末までに完全施行とされています。条例の一部は既に施行中で、さらに安全性確認済みの生成AI一覧を公表するなど、庁内のAI利用環境を順次整備しているところです。
条例制定の目的
神戸市としては、AIを「ただ規制する」のではなく、「ルールを守りながら積極的に活用していく」ことが重要だと考えています。人手不足や行政の財政的制約が叫ばれる中で、効率化や新しいアイデア創出にAIは欠かせません。その一方で、市民の権利利益への配慮を怠れば、オランダのように行政運営自体が深刻なトラブルを招きかねません。条例は、この「積極利用」と「安全性確保」の両立を図るための手段として機能します。
条例の概要・ポイントと基本指針
ここでは、条例本文（全11条）の概要と、2024年9月に策定が予定されている「神戸市におけるAIの活用等に関する基本指針」について解説します。
条例の対象と構成
- 正式名称
「神戸市におけるAIの活用等に関する条例」（令和6年3月29日 条例第25号） - 対象
神戸市の内部組織（市役所）および、市から業務委託を受ける事業者（指定管理者など） - 目的（第1条）
AIの活用が市民の権利利益に重大な影響を与える場合があることを踏まえ、市の責務を定めることで「人間中心の社会の実現」に寄与する、と明記しています。 - 定義（第2条）
「AI」とは人工知能関連技術全般を指し、特に生成AI（文書や画像を自動生成する仕組み）も定義しています。 - 基本理念（第3条）
人間の尊厳やプライバシー保護、公平性の確保、情報セキュリティの担保、職員のリテラシー向上など、計8つの理念を掲げています。 - 市の責務（第4条）
安全かつ効果的な活用を市が率先して実行する責務を負うことが明記されています。
こうした条例の冒頭部分では、AI活用そのものを否定するのではなく、「社会に必要不可欠な技術であるからこそ、きちんと責任体制を整えましょう」という方針を示しています。
リスクアセスメント（第6条）
この条例の最大の特徴は「リスクアセスメント」という仕組みを制度化した点です。具体的には、市民にとって重要な行政処分（たとえば課税や許認可、給付認定など）にAIを利用しようとする場合には、事前に
- AIがどんな学習データを使っているのか
- そのデータが偏っていないか
- AIの判定や提案が不当な差別やバイアスを生まないか
- AIの出す結果を誰が最終的にチェックするのか（職員か？ 自動化なのか？）
などを詳細に確認し、危害や不利益が生じないよう検討することを市の職員に義務付けています。さらに「緊急時には後からリスクアセスメントを行う」などの例外規定も設け、非常時でも柔軟に対応できるよう配慮しています。
生成AIの取り扱い（第7条）
条例の第7条では、いわゆるChatGPTのような生成AIを活用する際の注意点として、
- 「職務上知り得た個人情報など機密情報を生成AIに入力（プロンプトとして与える）してはならない」
- 「議会での答弁を生成AIに丸投げしてはならない」
という2点が大きく規定されています。一方で、たとえば文献や事例の要約・整理など答弁の“参考資料”を作る目的であれば、生成AIの使用は認められています。ただし、その場合でも必ず職員自身がファクトチェックを行う責任を負います。これは、民主主義の基盤である議会答弁はあくまで人間自身が責任を持って行うべきだという考え方にもとづくものです。
受託事業者の責務（第9条）
市が業務を委託・請負した相手（指定管理者など）にも、AIを活用する場合や機密情報を生成AIに入力する場合には事前に市と協議のうえ同意を得るよう義務づけました。行政サービスの実務は、現在では多くの場合民間との協働で行われるため、こうした規定により条例の実効性を確保しています。
AI活用アドバイザー（第10条）
AIに関する技術や法律に詳しい専門家を「神戸市AI活用アドバイザー」として市長が任命し、市のAI活用に助言を行う仕組みです。条例や基本指針を策定するとき、あるいはリスクアセスメントを実施するときなどに必要に応じて意見を聴取することで、技術的・法律的なバランスを保とうとしています。
基本指針の策定とその内容
この条例を実際に機能させるためには、より細かな運用ルールを示す「基本指針」が不可欠です。条例第5条の規定にもとづき、この基本指針が2024年9月までに定められる予定です。
- [1] 「神戸市におけるAIの活用等に関する基本指針」
すでに公開されている案では、リスクアセスメントの対象範囲や手順の詳細、生成AI以外のAI活用上の留意点などが示されており、実際の業務に則したワークシートの開発も進められています。
現在の課題・問題点と論点整理
先述した条例や基本指針はとても意欲的な試みですが、現段階でいくつかの課題や検討すべき論点も指摘されています。以下に主なポイントを挙げます。
リスクアセスメントの実効性
条例ではAIを用いる前にリスクアセスメントを行うことを義務付けていますが、実際の庁内業務は多種多様です。課税や許認可業務のように非常に重大な処分もあれば、ただの案内や文書作成といった比較的軽微な業務もあります。
そのため、どの業務をどの程度までリスクアセスメントの対象とすべきか、誰がどのようにチェックするか、審査体制はどうするかなど、具体的な運用ルールをどこまで細かく整備するかが大きな課題です。単に書面手続きが増えただけでは「形骸化」しかねず、担当部署に大きな負担を強いるおそれもあるので、バランスが重要です。
技術進歩への対応
AI技術は日進月歩であり、特に生成AIは毎月のように高性能な新モデルが登場しています。条例やガイドラインを細かく定めすぎると、新技術が出てきた際に対応しきれなくなる懸念もあります。神戸市は基本指針を必要に応じて改正するとしていますが、テクノロジーの進化に置いていかれないように「常に見直しを行うフレキシブルな運用」が求められます。
職員のAIリテラシー
どんなに条例やガイドラインを整備しても、現場で実際にAIを使う職員がリテラシーを十分に身につけていなければリスクは下がりません。逆に言えば、一定の教育を実施し職員がAIの仕組みやバイアスの問題点を理解するようになれば、あまり「過剰な規制」をしなくても適切な利用が行える可能性があります。
条例でも「職員の育成に努める」ことや「市民および事業者の知識普及」といった文言を盛り込んでいますが、これらがどこまで具体化されるかが成功のカギの一つと言えるでしょう。
受託事業者との連携
自治体業務の一部は民間事業者による受託・請負や指定管理によって行われています。条例では「神戸市が同意を与えた範囲内」でのAI活用を義務づけていますが、実際には委託先が独自のAIを活用するケースなど多岐にわたる可能性があります。契約段階でのルール設定、情報漏えい防止策、緊急時の連携など、自治体と事業者が協調してルールを運用できる体制づくりが課題となります。
緊急時対応との両立
条例第6条では、公共の安全に関わる緊急時にはリスクアセスメントを省略可能としていますが、その後に速やかに「準じた評価・検討を行うよう努める」と定めています。自然災害や大規模事故などで即座にAIを使って解析・判断しなければならない状況では、どう運用していくかが今後の実務上の課題です。緊急時こそ人力よりもAIを活用したほうが有効な場合がある一方、誤った判断をしてしまうとより大きな被害を招くリスクもあるため、慎重さとスピードの両立が必要とされます。
国との整合性
国は今後「AI事業者ガイドライン」をさらに詳細化していく方針を打ち出しています。そのガイドラインとの整合性をどのように図るのか、あるいは「自治体単位での条例」が増えた場合に統一性は保たれるのか、などの点も注目されます。神戸市は「国のルールと条例を上手に調和させる」ことを意識しつつ、他自治体のモデルケースになりうる存在といえるでしょう。
今後の展望とまとめ
最後に、この「神戸市AI活用条例」をめぐる今後の展望や、どのようにAIを使っていくべきかを考察しつつ、中学生でも理解しやすい言葉でまとめます。
AI活用のメリットとリスクのバランス
AIは、人間の作業を短時間でこなし、より多くの可能性を広げてくれる道具です。行政業務では、多岐にわたるデータ分析や市民からの問い合わせ対応、複雑な書類チェックなどに活用すれば、時間や労力の削減だけでなく、全く新しいアイデアを生み出すチャンスにもなるでしょう。
一方で、AIはまだ完全無欠ではありません。間違った回答をすることもあれば、プログラムの偏り（バイアス）によって特定の人々を不利に扱ってしまう可能性もあります。神戸市が条例を策定したのは、まさにそうした「メリットとリスクのバランスを取りながら、市民の権利利益を守ろう」という狙いなのです。
責任の所在
行政がAIを使うときの最大のポイントは「最終的に誰が責任をとるのか」という点です。神戸市の条例では、AIの提案や判定がどんなに優れたものであっても、最終的な責任は人間（市の職員）にあるとしています。これは、AIがまだ不確実性を抱えているということと、人間の判断を完全に機械に任せるのは民主主義の原則にそぐわないという考えに基づきます。
まるで自転車に乗るときにヘルメットをかぶるようなもので、「ヘルメット（AIのリスク対策）をきちんとするからこそ、安全に速く移動できる」というわけです。
教育・リテラシーの充実
職員や市民がAIについて知識を深めない限り、条例だけでは十分とは言えません。将来的に、今よりもはるかに高度なAIが普及している可能性が高いでしょう。神戸市の条例第8条では、市民や事業者がAIを効果的に活用できるよう広報活動や教育に努めるとされています。
他自治体への広がり
神戸市の条例は「日本で初めての包括的なAI条例」と言われています。今後、他の自治体が同じような条例を整備する可能性は十分考えられます。AI活用が進むほどリスク管理も必要となるため、国のガイドラインと自治体の条例がどう住み分けるか、相互にどのように影響を与え合うかが注目されます。
まとめと筆者の考察
神戸市のAI活用条例は「リスクを恐れてAIを排除するのではなく、ルールを定めて安全に上手く使っていく」ことを制度として示した画期的な例といえます。
実際に施行されるまでには、リスクアセスメントの手続きが煩雑化しないか、職員の教育が十分に行き届くか、などの運用上の課題が残っています。しかし、AIによる効率化や新しい価値創造は避けられない流れの中で、行政こそが率先してルールを作り、市民の権利や利益を守りながら技術を活用していくことは大切です。
道具を使うときにルールがあるのは当然ですが、それを決めるのが遅れれば混乱を招きます。神戸市が条例レベルで先行してルールを整えたことは、ほかの自治体や企業にとっても重要な参考例となるはずです。
条例の目的は、AIを禁止するのではなく、安全対策を整えた上で積極活用していくことにあります。技術発展のスピードが速い分、条例や指針も柔軟にアップデートされる必要がありますが、“人間の尊厳を守りながらテクノロジーの力を最大限に生かす”という理念を軸に、今後も神戸市が先進的な事例を示していくのではないでしょうか。
