「生成AIの言いなりになったら、ヒトは道具以下になってしまう」“AIを理解できない田舎者”と批判された平井伸治 ... - au Webポータル

〈《人類はデジタル社会をどう生きるのか》災害時のフェイクニュース、選挙に関するニセ情報、陰謀論…正しい情報を発信するために鳥取県が始めた“かつてない取り組み”〉から続く

　生成AIなどの先端技術に依存しすぎたら、民主主義や地方自治が危うくなる。

　鳥取県の平井伸治知事がそんな問題提起をしてから1年が経過した。知事はこの間、学識者らによる「先端技術と民主主義のあり方を考える研究会」を組織し、10項目の「自治体デジタル倫理原則」をうたった報告書を受け取った（＃1）。「AIに支配される社会にしてはならない。あくまで人間主導で、技術の前に倫理があるべきだ」という主旨の報告書になっている。

　これを受けて、平井知事はどのような現状認識をしているのか。そして、どのように施策にいかしていこうとしているのか。まずは、民主主義という観点から話を聞いた。

　その前提として、これまでの平井知事の主張を整理しておきたい。

　平井知事が生成AIについて危機感を表明したのは2023年4月の定例記者会見だった。前年の2022年11月、米国の新興企業OpenAI社が新しいAIサービス「ChatGPT」を公表し、大きな話題になっていた。生成AIはインターネット上の情報から学習した大量のデータをもとに文章、画像、動画などを生成する。特にChatGPTはまるで人間が回答するかのような文章を生成したことから、社会に衝撃を与えた。

　地方自治体でも政策立案や議会答弁など生成AIに任せられる部分が多いのではないかという意見が出た。

　だが、平井知事は次のように会見で発言した。

「我々は今、民主主義や地方自治の危機に差しかかっていると思います」

　鳥取県はもとより、多くの地域が人口減少や疲弊に悩まされている。世界に目を転じれば、紛争や戦争のニュースを聞かない日はない。

平井知事が危機感を抱いている理由

　そうした内外の情勢を踏まえて、「ChatGPTはすばらしい発明であって、そこを評価したうえでなのですけれども、いくら端末を叩いたところで、出てくるのは世間で言われている話や情報の混合体で、せいぜい現在か過去の問題です。これから1年先、あるいは10年、20年先のことで本当にその地域にフィットした答えが出てくるわけではありません。自治体の意思はAIではなく、地域の話し合いの中で決定されるべきものです。県庁の職員には、議会答弁の資料作成だとか、予算編成だとか、重要な政策決定での使用を禁止したい」と述べた。これが波紋を呼んだ。

　全く使わないなどと宣言したわけではない。「肝心なところは自分達で考えて決めよう。それが民主主義であり地方自治だ」という主旨だったのに、誤解された。

　ネット社会の恐ろしさである。「使用を禁止」という言葉が切り取られて拡散されたのだ。「デジタル後進県の『田舎知事』が先端技術を理解できないから反対している」というレッテルまで張られた。

　事実は正反対で、鳥取県は全国でもトップを走るデジタル先進自治体だ。これを副知事時代から推進したのが平井知事だった。2001年に電子県庁推進プロジェクトを設立し、翌年には電子県庁推進課を発足させた。現在のデジタル局では常に最新技術の情報収集をしており、ChatGPTについても公開当初から活用効果や課題、危険性を調査研究していた。平井知事の発言はそうした結果も踏まえたうえでの問題提起だった。

　その後の鳥取県にはどのような反応が寄せられたのか。改めて今、平井知事に聞いた。

「AIやデジタル、先進技術については『とにかく使ってみたい』『批判は許さない』というような雰囲気があります。特にインターネットの世界ではそうです。このため、当初はいろいろと意見をもらいました。反発というか、どちらかと言うと『田舎者が何もわからないくせに』という反応でした。

　しかし、問題提起した内容の重要性を、学者やメディアの中でも理解してくれる人が出てきました。こういう技術を追求している学者の皆さんも含めて問題意識を共有してくれたのです。そこで、私達としても専門家の議論で先端技術と民主主義のあり方をリーディング的に研究してみようと動き出しました（2024年4月26日、「先端技術と民主主義のあり方を考える研究会」が報告書を提出）。

　あの時、一石を投じたことが、その後のEUやアメリカ、さらにはG7広島サミットでの議論に重なり合うような形になりました。小さな鳥取県（2024年5月1日時点の推計人口は全国最少の53万3023人）から問題提起したことに、地球全体が応え始めてくれているように感じます。少し波風は立ちましたが、民主主義や地方自治の道筋を皆で考えるのに役立てばなと、今は期待するようになっています」

生成AIは「フランケンシュタインみたいなもの」

　平井知事は、生成AIなどの最先端技術について、「フランケンシュタインみたいなもの」と語る。

『フランケンシュタイン』は英国の作家、メアリー・シェリー（1797～1851年）が著した小説のタイトルだ。生命の謎を解き明かして操ろうと考えた青年が「理想の人間」の設計図を手に入れて人造人間を造る。ところが、人造人間は怪物と化し、殺人を犯していくというストーリーだ。

「造ってみたら、決して人間の思い通りに動くわけではなく、かえって人間の脅威になりかねない。AIをはじめとしたデジタル社会の急激な進展には、多くの人に問題意識を持っていただけたと思います。一番言いたかったのは誰が主役かということでした。先端技術を使いこなすのが人間のポジションなのに、道具の言いなりになってしまったら、人間は道具未満の存在になってしまう。そうなったら、もう文明の発展などありません。だからこそ、『人間主導のデジタル社会』を志向していきたいと考えました。有識者の皆さんの議論を仰ぎ『自治体デジタル倫理原則』を定めたのは、そうしたことからでした」

　人類がかつて経験したことのないような事態。それは人間自身が生み出したものだ。果たして、乗り越えられるのか。平井知事はある事例をもとにして、人間の叡知（えいち）が機械を使いこなすと説く。

　それはモータリゼーション、車社会だ。

「発明された当初の車は自由に走り回っていました。でも、次第に交通ルールが必要になってきます。人が横断していたら、手前で止まらなければならない。スピードには気をつけよう。飲酒してきちんとコントロールできない時は運転してはならない……。横断歩道という白線が引かれたり、車道と歩道が区別されたりしただけでなく、前の車とぶつからないよう制御装置が取り付けられるまでになりました。こうしたことは、だんだんと後から付加されてきたのです」

　現代社会にとって、車は不可欠な存在だ。ただし、道路交通法があってこそ社会は機能している。AIはこれと同じようになっていくのか。

平井知事が強い危機意識を持っている“選挙”

　平井知事は「生成AIに関する議論が始まる前に私達が恐れていたことが実際に起こり始めています。例えば生成AIでフェイク動画が作られて、詐欺事件が起きています。場合によってはフェイク情報によって戦争を起こしたりするような使い方も可能になっています。

　人類は非常に便利な道具を手にしつつあるのですが、それを使うための倫理を考えるべきです。道路交通法のように、場合によっては倫理ではなく、法規制になるかもしれません。人権に関わること、差別につながること、民主主義を脅かすことについては、やはり法律で規制しなければならない局面もあります。一定のルールを作ったうえで便利さを享受していくのが本来の姿だと思います」と話す。

　フェイクと民主主義という点で、平井知事が強い危機感を持っているのは選挙だ。

「フェイク画像や情報が選挙の時に影響する可能性があります。今も世界中がアメリカ大統領選を心配しています（2016年の米大統領選では『ローマ法王がトランプ支持を表明』『クリントン陣営関係者が人身売買に関与』などといった虚偽情報がSNSで流された）。こうした虚偽情報は民主主義を歪めることもあります。現代社会がここまで成長させてきた大切な価値観や制度の基盤は、技術革新があったとしても守っていかなければなりません。このため、フェイク情報をある程度キャッチできないかという実証実験を始めたところです」

　鳥取県は2024年度、「フェイク情報対応実証チーム」で偽・誤情報への対処を進める。具体的には＃2に記載した通りだ。

　平井知事は「新型コロナウイルス感染症が大流行した時、いわれなき差別が広がったことがあります。そういった情報をネット上で検索しながら、『誹謗中傷はやめよう』というメッセージを出しました。事実と全く異なる情報については、チームで対処することになると思います」と話す。

　課題になるのは憲法が定める表現の自由や検閲禁止との兼ね合いで、「我々としても抑制しながら考えていかなければなりません。流れている情報の細かいところまで全部チェックするということではなく、大きな社会問題になりそうなところを捉えていきたいと考えています。こうしたことは、まだ行政機関では行われていないので、答えがありません。試行錯誤を重ねることになるでしょう」と語る。

　フェイク情報という面で、急速に社会問題化しているのは生成AIを使った詐欺だろう。

「生成AIの悪いところは妄想が上手なところ」

　平井知事は「生成AIの悪いところは妄想が上手なところです。ストーリーテラーみたいなところがあって、だから詐欺に利用されてしまいます。画像がついたりするから、よけいにだまされてしまうのです」と指摘する。

　これについては、日本の社会性にも弱点がありそうだ。

「日本人は外国人に比べてだまされやすいようです。インターネットに出ている情報の真偽を確かめる人はアメリカだと7割ぐらいだと言われていますが、日本では3割程度。ディベート（異なる立場に分かれての議論）社会と違い、目の前に出てくるものはある程度信用してもいいというような日本人的な感性が影響しているのかもしれません。ネットを介した詐欺事件は、たぶん外国由来が多いのでしょうけれど、こうしたことに付け込んで狙っているのでしょうね。

　日本社会には、人のことを信用し、悪いことはしないだろうという温もりがあります。それがかえって徒（あだ）になる面があり、ようやく政府がオリジネーター・プロファイル（最初に発信したメディアの証明をつける技術）を始めようとしています。それぞれの利用者が真偽判定をやりやすくする手法の導入は急ぐ必要があります」

　似た問題では、SNSなどを介した陰謀論の跋扈（ばっこ）がある。

「ネット社会ではどうしても極端に流れて、自分に都合のいい情報を多く見てしまう傾向があります。そういうアルゴリズム（コンピュータの作業手順）があるせいです。例えば、新型コロナのワクチン反対でもそうした側面がありました」と平井知事は説明する。

　フェイク情報、詐欺事件、選挙への影響、陰謀論……。そこに生成AIなどの先端技術がからんで手口が巧妙になっていく。

「オレオレ詐欺みたいなのがバージョンアップされ、自動的に何百人でもだませるようなシステムが動き始めています。これが政治の世界に入り込んでくると非常に厄介ですね」

　平井知事は「我々はあるべき道をどう選択していけるか。真剣に問われる社会になっています」と言葉を強めた。

撮影　葉上太郎

〈「AIはデータに現れない政策課題に対応できない」平井伸治・鳥取県知事が指摘する“生成AI最大の落とし穴”〉へ続く

（葉上太郎）

Adblock test (Why?)