久元喜造委員「ChatGPTをはじめとした生成AIの自治体での利用について」（令和5年7月5日）
関西広域連合 久元喜造委員（神戸市長）からのメッセージ
「ChatGPTをはじめとした生成AIの自治体での利用について」
神戸市長の久元喜造です。
生成AIは、先日開催されたG7広島サミットでも議題となり、国においてもAI戦略会議で議論が進むなど、そのルール作りと活用に大きな注目を集めています。
生成AIの特徴として、文章の要約や翻訳、文章の草案作成やアイデア出しなど様々な用途で利用できる可能性がある一方で、虚偽情報の拡散や個人情報の流出、著作権の侵害といったリスクや、AIの回答を使用することにより責任の所在が不明確になるといった問題が指摘されるなど、様々な議論がなされているところです。
神戸市においても、5月にはChatGPTについての庁内デモンストレーションを実施しました。
ChatGPTは、指令に沿って短時間で使えるような材料を提供してくれたり、アイデアの着想や新たな気づきの機会を提供してくれたりすることに魅力を感じると同時に、限界や制約も見て取れました。例えば、神戸市には存在しない行政区「神戸市南区」の公園の情報を求めたところ、あたかもその「神戸市南区」やそこにある公園が存在するかのような回答が返ってきました。これは質問の仕方の問題ではあるものの、こうして間違った質問に基づく回答が学習されることによるリスクもあると気づかされたところです。
このように生成AIは市民の権利・財産を侵害することにもつながりかねないリスクを孕んでいるものの、新しい技術であることから社会的なルールの整備も追いついていない状況にあることから、市民を守る最前線である自治体として、まずは個人情報をはじめとした市民の権利・財産をしっかりと守ることが必要であると考えました。
そこで、神戸市では生成AIについて条例及び関係規定を整備し、「安全性が確認されたもの」として市長が定めた生成AI以外には、個人情報等の非公開情報はもちろんのこと、公開情報であっても職員が入力して利用することを禁止すると定めました。
その上で、可能性とリスクをしっかり押さえながら、どのような活用が効果的なのかを考えるため、条例に基づき「安全性が確認されたもの」として、Azure OpenAI Serviceと職員が独自開発したTeams上の連携アプリで構成される神戸市独自の利用環境を指定し、職員がChatGPTを試行利用できる環境を構築しました。
6月23日からは職員約100名が3か月間にわたる試行利用を開始し、活用方法のアイデア収集や知識・経験の蓄積、業務利用にあたっての課題等の収集を行います。試行利用を通じて、プラスマイナス両面でのノウハウを蓄積して生成AIの適切な利用を検討していきたいと考えています。
現在、生成AIはさまざまな分野で大きな関心が集めていますが、私たちにとって、まだまだ未知の部分があるのも事実です。さまざまなリスク、可能性に配慮しながら、みんなで開かれた議論をし、利活用に向けて検討していくことが重要です。神戸市では、試行利用にあたり作成したガイドラインや職員が独自開発したアプリを公開しています。こうした神戸市の取組みが参考の一つとなり、社会全体のルール整備が進んでいくことを期待しています。
- この記事に関するお問い合わせ先
-
関西広域連合本部事務局企画課
〒530-0005
大阪市北区中之島5 丁目3 番51号
大阪府立国際会議場11階
電話番号：06-4803-5587 ファックス：06-6445-8540本部事務局企画課へのお問い合わせはこちら
