皆さん、こんにちは。
練馬区議会議員の石黒たつおです。
本日は、石黒たつおチャンネル、そして石黒たつおラジオ、ご参加いただきましてありがとうございます。
今日はですね、生成AI、便利さと安全を両立するというようなテーマでですね、ちょっとスライドを作らせてもらったんですけれども、練馬区議会の決算委員会の中で提案をしてきた内容でもありますので、ご報告したいと思います。
生成AIの活用をですね、練馬区の職員の皆さんたちだったり、石黒たつおチャンネル、石黒たつおラジオの方でもご紹介させていただいたように、教育の現場の中でもやっぱり生成AIの活用というものがどんどん入っています。
私たちの生活の中もそうですよね、生成AIの活用というものがどんどんと活かされているわけでありますけれども、活かされているものの、まだ練馬区の職員さんであったり、または練馬区が今取り組んでいる業務の中身であったりというところで、活用が一歩進んでいないということがわかりましたので、そこについてご報告したいなと思っております。
そこについてね、この間質疑を交わしておりますのでご報告したいと思います。
区に確認することとして、利用できる業務ですね。
まずこのAIをどこまで利用できるということを確認してきているわけですよ。
AIを使って何ができるのかというところ。
ここ確認してきたところですね、やっぱりいろんな業務で今AI活用し始めています。
活用はしているものの、まだ分野で止まっているようなところもあるんだなということがわかっているわけですね。
よく書類を作ったりというところ、報告書を作ったりというところで、何故かこのAI活用されているんだなということがわかってきているわけですよ。
ただ入力禁止情報もやっぱりあるんですね、まだ。
ここはやっぱりね、ちょっと少し役所ならでは、やっぱり役所だからこそ、役所だけじゃなく、私たちもそうなんですけども、特に役所としては個人情報であったり機密情報、ここがですね、多いわけですよ、基礎自治体特に。
なので、生活ってやっぱり密接な関係がある練馬区基礎自治体だから、やっぱり個人情報や機密情報を、どこまで入力できるかっていうところが、非常にここがクリアができてないような状況なんですね。
なので、仕事としても、例えば介護の現場であったりとか、医療の現場であったりとか、例えばね、税金の収入であったり、または福祉の分野なんか、特にね、いろんな個人情報いっぱいあるでしょうから、こういった情報、機密情報などを、どんどんどんどんAIに飲み込ませて、それを入れちゃって本当にいいかどうかっていう判断が、なかなかこれ、つきづらさ、多いんです。
こういった機密情報や個人情報が多いからこそ、ここの整理をしないと、なかなか活用しきれないっていうような現状なんですよね。
教育の現場もそうですよね。
やっぱり、ここの個人情報、機密情報の扱いのルールっていうものが、大きな鍵になってしまってるっていう、大きなハードルになってしまってるっていうような実情があります。
これは私のね、委員会の質疑の中でも明らかになってきたわけですよね。
これ、人による確認ということで、やっぱり誤情報を見抜くっていうこと、最終的な判断していくっていうこと、やっぱり役所の仕事として最終決定して、じゃあこれを公表していこうとか、この情報で、この内容でいいだろうっていうことを、ジャッジしていくところの部分、ここの情報、やっぱりAIも間違った認識をしてしまうようなことも、まだまだありますので、ここをしっかりとジャッジしていけるような環境のルールも、まだ整ってないということが現実なのかなということでもありました。
なので、ルールの整備と庁内の周知というものが、やっぱりこの出発点に立ちながら、ここのルールをちゃんともっとね、厳格化していくことは厳格化してきながら、そして活用していくべきところは活用していく、ここをですね、少し整理する必要性があるのではないかということが分かったわけですね。
私、石黒が今回提案をしたものは何かというと、個人情報を除きできる業務から始めるということ。
まずはね、今も活用されていらっしゃるような個人情報を含まないような情報ですね。
まあこういったものはどんどんとAI活用していくべきだと思うんですね、業務効率として。
で、個人情報を含むやつはじゃあAI使えないのかということになっちゃうと、仕事が停滞してしまうことになり得ますので、匿名化して使ったらどうですかっていうことを言っているんですよ。
氏名や住所を除き、要約、分類、論点、抽出などにおいては、やっぱり個人情報を個人情報としないようなやり方でAIに読み込ませて、そこをしっかりと成果物を作ってもらうというようなことをやっていくというようなことをしたらどうでしょうか。
Aさん、Bさん、Cさんとかにしていくとか、そこも取り除いたものでAIに読ませて、で、そこで後で出てきたものに対して、そこから個人情報を載せていきながら成果物を作るとか、やっぱりこういったルールをね、ちゃんと区役所って大きいからこそ、やっぱりちゃんとここをね、ルール化していかないといけないということであれば、匿名化していきながら使っていけば、業務効率化にもつながりますよねということを。
で、そこと並行してやらなきゃいけないものとしては、やっぱり安全な環境を整えるということ、個人情報を扱う条件や仕組みというものを、やっぱり練馬区の方でも、ここは慎重に取り組みをしていきながら、最終的にAIにどこまでの情報を読み込ませて、成果物を作っていくかというところをしていく。
じゃないと、今、その個人情報をどこまで読ませますか、機密情報をどこまで読ませましょうか、読ませられないんですね、ここまではちょっと怖いからということで、今、二の足を踏んじゃってるような状況があるから、ここはこの3点の部分を今回提案をさせていただいたわけでもあります。
やっぱり、活用の経験をしっかりと職員の皆さんたちも積みながら、安全性も高めるというようなやり方をちゃんとしていかないと、せっかくAI入っているにも関わらず、そこで二の足を踏み続けていて、業務効率化にならなくて仕事が停滞してしまうような状況があるのであれば、ここをちゃんと作っていくことが必要ではないかということ。
特にですね、今回介護現場のところでも私も質疑をさせていただいたわけですけれども、介護の現場の中で、例えばケアプランを使うとか、こういった個人情報が多いわけですよ。
なので、そこの現場で働く人たちが、せっかくAIがあっても業務効率的なものができなくなってしまって、不安が強い状況というものがたくさんあることが分かりましたので、介護や医療や福祉、こういったところでもやっぱり匿名化していきながら、どんどん効率化していきながら、そして後でできた成果物を個人情報に乗せていきながら、成果物を作っていくとかいうところをやっていかないと、やっぱりいくら働く現場を効率化していこうとやっていたとしても、やっぱりそれも絵に描いた餅になっちゃいますので、ぜひここを練馬区としても旗を振ってあげることが必要だということ、それは練馬区の中であったり、練馬区の外で働く人たちも含めて、やるべきじゃないかということを提案させていただきました。
区の方もですね、ここ非常に前向きな答弁もいただいておりますので、ぜひ今後のAI活用に対してもご注目いただければなと思っております。
それでは本日の石黒たつおラジオ、そして石黒たつおチャンネル、これをもちまして終了させていただきますので、何かありましたら、DMやコメントなどでいただければと思いますので、よろしくお願いします。