――子供たちがAIを使い始める前に、リテラシー教育も必要かと思います。

渡邊　手紙の一部が携帯やメールに置き換わったように、日常生活の中でAIを使うようになるでしょう。学校だけでなく家庭でもAIについて教える機会が増えると思われます。AIを含むデジタル技術について、親の世代にも子世代とともに理解を深めていただく必要があります。

　社会全体でリテラシーを高めていくためには、家庭や学校だけでなく、各職場や自治体等においても研修や教育を積極的に行い、メディア等も啓発に協力していただくのが望ましいと思います。講師や教材の不足が心配されますが、AI開発者・提供者にも協力していただく必要があると思います。

　学校教育の現場では、児童・生徒が安全なAIの使い方や偽情報の見抜き方などのリスクを学んでいくことも大切です。

――AIの発信に関し、メディアの信頼性も問われるところですね。

渡邊　私は好きな表現ではありませんが「オールドメディア VS ニューメディア」のような論調もあり、「ニューメディアは第三者によるチェック機能は弱い」、「オールドメディアは画一的・保守的」などの批判を聞くことがあります。重要な情報に関しては、情報源の確認や他のメディアとの比較も必要でしょう。多くの人が見ている新聞やテレビの情報は、間違いがあれば修正が求められる可能性も高く、一定の信頼感はあると思います。

　同様に、AIの回答に関して、原典の情報を確認したり、単一のAIだけに依拠せずに複数のAIの回答を比較することは有意義だと思います。AI教育においては、そういった考え方の涵養を期待したいですね。

　またAI教育では、全員のリテラシーの底上げのほかに、大学等の高等教育機関において、数学や情報工学等の高度専門人材も育成していくべきです。

業務における利活用頻度が課題

――地方自治体におけるAI活用の現状については、どう捉えていますか。

渡邊　総務省が発表しているデータ等によると、都道府県や政令指定市では職員の９割ほどがAIを使っているようですし、例えば愛知県では県と市町村が共同でAIチャットボットを導入する動きが進むなど、AI導入は進みつつあります。デジタルガバメントは、国が共通基盤的な部分を用意し、各自治体が実装する形で、効率良く進んでいくと期待しています。

――県が主導して市町村への導入を推進するというのは、進め方としては効率的かと思います。

渡邊　職員のパソコンでAIを使えるようになっているということと、職員が実際に業務でAIを使っているということは同一ではなく、各自治体がどのように使いこなしていくかが課題です。

　例えば、外国人が多い地域では、AIで言語の壁を越えられれば非常に利便性が高く、自治体にとっても効率化につながります。また、かつてはできなかった過去の書類のデジタル化が高精度にできるようになります。

　使いやすいAIを構築するために、組織の情報をAIに学習させる場合もありますが、これが続くと、他のAIに変更できなくなる「ロックイン」の懸念もあります。また、行政としての判断や住民との対話にAIを活用する場合には、判断の根拠や誤りのチェック等も必要です。

――防災・減災に関して、もっとAIを活用する可能性等は。

渡邊　避難計画や避難訓練の計画の作成、多言語による住民へのメッセージ等にAIを使える可能性があります。また、被災時にどこの避難所に何人避難しているか、探している人がいるか等を、避難所を撮影した写真から判読できるくらい、現在のAI技術は進んでいます。写真に避難者の顔が写り込んでしまうという個人情報保護に関する論点がありますが、必要以上にデータを収集しないようにAIを使って制御したり、法律上の「生命、身体又は財産の保護のために緊急に必要がある場合」の例外や使用済みデータの確実な消去などで対処するということかと思います。

パーソナルAGIが広がる世界は

――そうしたプライバシー意識など、日本ならではの国民性や社会意識がAI利活用の阻害要因となり得る可能性についてはいかがでしょうか。

渡邊　情報法の第一人者である堀部政男先生から私がかつて伺った話ですが、欧州は過去２００年間、プライバシーの議論を続けてきたそうです。日本は近年まで電話帳を配布していましたし、家には表札を掲げていましたが、２００３年５月の個人情報保護法施行を機に、一気に制度が切り替わった、やや極端な状況かもしれません。確かに個人情報は慎重に取り扱う必要がありますが、同時に国民にとって有益なデータの活用も進めた方がよいでしょう。

　今後、安全・安心なAIの開発が進んでいくと思いますが、AIの安全性が高まると、AIを疑わない人が増えて、かえってAIの安全性が損なわれるリスクがあると私は考えています。信頼性の高いものを流通していただきたいですが、そうなると、どうしても「油断」が生じるのも現実です。

――AIへの過度な依存は、突き詰めるとその先にある、AIと人間との関係性にも発展すると思います。

渡邊　現在、〝エージェントAI〟の開発が盛んになっています。AGI（Artificial General Intelligence ＝ 汎用人工知能）の実現時期が前倒しになるという予測や、各ユーザー向けに訓練されたパーソナルAGIの開発の議論も見られます。個人がパーソナルAGIを持ち、思考はAGIが行う、会話も議論も人間同士ではなくAGI同士で交わされる、そんな未来の可能性もありますが、それが望ましい姿なのか、疑問を持つ人も多いと思います。AGIによって悪質な言動を見つけることもできるかもしれませんが、逆に、悪質なAGIによる監視や犯罪のリスクも懸念されます。日本は２０１９年に「人間中心のAI社会原則」を打ち出しました。自然と人間との関係では、人間は自然に畏敬の念を持って共生すべきであり、人間中心ではないと私は思いますが、AIと人間との関係では、人間は人間が作り出した人工物であるAIに翻弄されてはならないと思います。

　パーソナルAGIが普及したとして、もし、高度なパーソナルAGIは高所得者あるいはITリテラシーの高い人しか使いこなせないということになると、持てる人と持てない人の間で新たな格差が生じる可能性も危惧されます。

　つまり、AI技術の進歩に伴い、より一層の倫理的・道徳的な思考が私達には必要になるのではないでしょうか。この問題は、AI政策に関わる人だけが考えればよいことではなく、AIを使うさまざまな分野の方々も考えるべき問題です。論点の提示や議論の喚起・集約も、AIに携わる人の役割の一つだと思います。

――AI政策の推進に関し、霞が関の各省庁間の連携等についてご提言などあれば是非。

渡邊　これまでのAI政策は、関連する産業やサービスの発展、AIの悪用や依存症等のリスクへの対応、不当な独占・寡占の抑止等に重点が置かれてきましたが、今後は、教育や福祉の在り方、メディアやコミュニケーションの変化、安全保障への影響など、さらに視野を広げる必要があるでしょう。用途が広がっていくので、AI政策を扱う官公庁と各業を所掌する官公庁の連携、産学官の連携がますます重要になります。また、AI政策はデータ政策やサイバーセキュリティ政策等とも関係するため、これらの政策担当者間の連携もとても大切だと思います。

　現在のAIの大半は外国企業製ですが、日本企業も一定の地歩を固めていただきたい。その上で日本ならではの信頼できるAIの使い方等が発信されれば何よりです。

――本日はありがとうございました。
　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　(月刊『時評』2026年5月号掲載)