「ChatGPTが息子を自殺に追いやった」米で提訴。大竹まことやはるな愛が対話型生成AIの危険性を語る

番組では朝日新聞の記事を紹介。
アメリカに住む16歳の少年が自殺した件で、両親が「ChatGPTとのやり取りが息子を自殺に追いやった」とし、運営側を提訴している。
少年は元々は勉強のためにChatGPTを使用していたが、やがて様々な悩みや相談を打ち明ける間柄になっていったという。
今回の件を受け、ChatGPTの運営は「子どもの利用に関し、保護者の管理下に置くシステムを作る」といった声明を出したが……

大竹まこと「いやいや（両親がChatGPTを管理するのは）難しいでしょう。だって個人が利用してるわけでしょ？　少年少女であろうとプライバシーがあるし」
はるな愛「両親に見られてると思ったら、相談できない悩みもあるかもしれないですしね」

気軽に遠慮のない質問ができるという面でも、AIは良き相談相手になりやすい……そういったニュースは近年急増しているが、今回の件では「あまりにも寄り添いすぎている」という声も。
実際のところ、AIならではの共感力の高さや同意性は、しばしば問題視されるようになっている。

大竹「今回の少年の自殺は、まだまだ氷山の一角で、これに類することは色々な意味合いで起きるんじゃないの？」
はるな「（少年とAIのやり取りを読んで）AIが本当に友達みたいな距離感で言ってくれてる。ちょっと寄り添い方が怖いくらい。優しさというか……」
大竹「難しい。『優しい』ってキーワードで関係性が括れちゃうんだよな。その分友達よりも親よりもAIへの信頼度が高くなっていく。このジャンルに限らず、AIって便利なツールだし、人減らしの方法かもしれないけど、よっぽど考えて向き合わないととんでもないことになる可能性があるよね」

「大竹まこと ゴールデンラジオ」は午後1時～3時30分、文化放送（FM91.6MHz、AM1134kHz、radiko）で放送中。 radikoのタイムフリー機能では、1週間後まで聴取できます。