チャットGPTが「自殺や暴力助長」。安全対策不十分で親会社提訴。大竹「早急な対策を考えなくちゃいけない時期に来てる」

米南部フロリダ州は1日、対話型生成人工知能（AI）「チャットGPT」の安全対策が不十分だとして、運営元の米オープンAIとサム・アルトマン最高経営責任者（CEO）を連邦地方裁判所に提訴したと発表した。米国の州政府がオープンAIを提訴するのは初めてとみられる。オープンAIは提訴についてコメントしていない。

フロリダ州では2025年4月、フロリダ州立大学で男子学生が職員や学生らを銃撃し8人が死傷する事件が起きた。司法当局は被告が事件の前にチャットGPTに相談し、使用する銃の種類や多くの人を狙える時間帯や場所について助言を受けていたとして、26年4月にオープンAIを刑事捜査の対象にすると発表している。
米CNNなどによると、フロリダ州は訴状で、チャットGPTが利用者に対して依存症や認知機能の低下・自殺・暴力などを助長していると主張した。
一連の被害はAI開発競争に勝利し巨額の富を蓄えようとする追求によって引き起こされたと非難している。

砂山アナ（アシスタント）「特に未成年の利用者を想定した対応が十分ではないと強調していて、無料版のChatGPTには年齢確認などの仕組みがない他、親と子供のアカウントのひも付けも義務付けられていないと指摘。未成年の利用者がやり取りする場合に、プログラムを変更するように命じる裁判所命令や、数10億ドル、数千億円規模の損害賠償を求めたとあります」

大竹まこと「ChatGPTで新しい機能でみんなこれを利用してて、ここの若い者にも使ってるのって聞いたらもう100%使ってます。相談してますと言うわけだね。
それでChatGPTは、その本人にとっても寄り添うっていうね。だからいろんなことを相談するとその本人に1番寄り添って考えるとそれが社会的になんか反社会的な行動にも繋がっちゃうということがあるわけだよね。
それだけじゃなくて、自殺する時にもChatGPTも使ってて、それも本人にすごく寄り添うわけだよね。この新しいツールをやっぱりどういうふうにするかというのは大問題で、これ情報だからね。この情報がどう企業利益につながるかっていうのも大きな問題だけども、
こういうのは大体、こういうのが1番先にできて後で対策を考えるしか手はないということになってくるんだけど、やっぱり早急な対策をあちこちで考えなくちゃいけない時期に来てるんじゃないかねと私は思うんですけど、どうですか？」

砂山アナ「世界中で、今、どういう扱いをしようかと本当に過渡期の状況で、規制も追いついていませんという中で、どんどん技術だけが今進歩しているっていう状況ですからね。ちょっと本当に世界でルールを決めて、早く早く対処していくっていうね。共通ルールを」

大竹「出遅れるのは確かなんだけど、それでも結構急いでほしいと。対策は難しいよね。ここはね」

 「大竹まことゴールデンラジオ」は平日午前11時半～午後3時、文化放送（FM91.6MHz、AM1134kHz、radiko）で放送中。radikoのタイムフリー機能では、1週間後まで聴取できます。