アメリカで命を絶った高校生も。対話型生成AIに頼ることの危険性

小倉孝保「（今年の4月、アメリカで）アダム・レインさんという16歳の高校2年生が自宅で自殺しているのが見つかったんです。本人のパソコンなどを家族が調べたら、ずっと生成AI、ChatGPTにいろいろ相談をしていたと。途中から『自殺したいんだ』といった相談をして、その答えが『気持ちはわかりますよ』と、迎合するような」

長野智子「寄り添うような」

小倉「そういった答えが多くて、命を絶ってしまったと。それで家族が『息子は生成AI、ChatGPで死を選ぶことになったんだ』ということで賠償も求めた。恐らく家族の真意は、人の命を失うようなことがないように、答え方などを考えてほしい、ということだと」

長野「回答が適切ではなかった、直してほしい、ということですかね」

小倉「なんでこの問題を取り上げたかったのかというと。新学期、『学校に行きたくない』『またいじめられる』『あの先生イヤだ』、そういう人がすごく多い。自殺というのを思いとどまってもらいたいし、ChatGPTみたいなものに相談する以外に、いのちの電話のように、自殺のことや命のことに詳しい専門家が24時間対応してくれるホットラインがあるわけですよ」

長野「アメリカにもそういうのはあるんですかね」

小倉「あるでしょうし、充実させていると思います」

長野「危険性はすぐ手元にあって、最初は恐らく楽しいやりとりをして気を紛らわせていた。それがどんどん話が深くなって、一拍おいてほかの人に相談するのではなく、吸い込まれて行ってしまう、という。手元のスマホの危うさをすごく感じます」

小倉「きょう朝日新聞の朝刊に、野田秀樹さんの“AI時代に「考える」”という、大きなインタビュー記事が載っていて。これは1つ、参考になったと思うんです。野田さんが言われているのは、人が何かを受け止める順番は、感じる、考える、信じる、この順番だと」

長野「はい」

小倉「でも最近はAI時代になって、『考える』というのが抜けて。感じたらそれをそのまま信じる。『考える』の一拍がなくて、言われたこと、感じたこと、AIなら飛び込んできた情報を信じる。それが強まっているんじゃないか、ということを野田さんが話されていて。まさにそんな感じだなと。（さらに野田秀樹氏のコメントを引用して）全然違う文脈ですけど、野田さんの話はアメリカでアダムくんが亡くなったのと通ずるものがあって」

長野「はい」

小倉「機械のやりとりで、ある情報を自分の中に入れたとき、本当は自分が考えたり、生身の人とそれを深めたり、アナログのときはそういう時間があったけど、いまはすごい速度で情報が入ったり出たりしている。考える作業がなくて、入ってきた情報は『そうだな』と。『感じる』と『信じる』が近くなりすぎて、疑うことが衰えている気がするんですね」

「長野智子アップデート」は毎週月曜午後3時30分～5時、火曜～金曜午後3時30分～5時35分、文化放送（FM91.6MHz、AM1134kHz、radiko）で放送中。radikoのタイムフリー機能では、1週間後まで聴取できます。