将来、AIは人類の脅威になるのか。国連総会での各国首脳らによる提言

ロバート キャンベル「今日24日のニュースピックアップの中にもありましたけれども、国連総会で次々と各国の首脳が、今の国際情勢はどういうふうに自国の視点から見えるかということと、どういうふうに提言をするのか、課題解決に向けたいろんな提案ということが続いていて、ある意味私たちのその時代、毎日個別に見て考えているニュースの、全体の断面図として認識することができていて、この2日間3日間はずっといろんな国の首脳の演説を聞き、ちょっと翻訳したりしながら考えてきたわけですけれども、今日はその中で彼ら彼女たちが特に今回主張していることが『国際法、主権』そして『AIの開発競争をめぐる発言』ということが相次いでいたわけですね。
今日は特にそのAIの開発競争について、どういうふうに各国首脳が見ているのか、言っているかということを少しサンプリングをしながら、そして少しずつ翻訳をしながら直接話法で紹介したいと思います」

武田砂鉄「はい」

キャンベル「このAIが人類を脅かすものとしてあるということは、これ以前も十数年前から言われてはいるけれども、本当に今月にわかにですね、アメリカのAI開発企業『アンソロピック』のダリオ・アモデイCEOが、AI暴走の脅威に対するために開発のペースを減速させたり、『政府が関与する規制が必要だ』というふうに、非常に興味深い論文を発表しました。
それに続いてオープンAI、Google社、それからイーロン・マスクの『xAI』など、競合する幹部たちが相次いでやっぱり歯止めをかけないといけないということ、それに対してトランプ大統領が『規制は不要である』と言い放って……すいません、これは私の言葉ですけど、野放図、つまり競争開発ということを言いました。
その背景には『とにかく中国に勝て』という対立構図というものがあるわけですね。
今回最もはっきりと鮮明に立場を出したのが、年末に任期が終わるグテーレス国連事務総長の開会の演説だったんです。
これなんとAIが、本当にこの演説の真ん中にあったわけで、いろんなことを歴史的な背景を含めた非常に興味深い演説だったので、ぜひ皆さんにできればその全文を読んでいただきたいと思うんですけれども、グテーレス事務総長の演説は現状についての2点を挙げ、その後にどうすべきかという1点、この全部で3点で演説を構成しているわけですね」

武田「はい」

キャンベル「『AIが全く歯止めなく競合している』ということが『Race to the bottom』。まあ、『泥沼への競争』というふうに定義をしていて、それが冷戦時代の核軍拡の競争になぞらえているということですね。
これは企業による単独、あるいは任意の一時停止措置だけでは根本的に不十分であるということと、それからもう一つはAIの台頭によって主権国家から一握りの民間企業などの富豪たちへと、巨大な権限が委譲されつつある、ということを指摘しているわけですね。
それに対して、ルールの策定を個々の国に委ねるのではなく、暴走を防ぐために国連が支援する監視・監督の枠組みというものを作らないといけないと、集まった各国の指導者に強く求めたということですね。
これ、少しだけ実際のグテーレス事務総長の演説を読みたいと思うんですけども、権力の歴史の移り変わりを振り返りながら、人類に対するAIの脅威を描いていて、これは結構面白いものなんですね」

武田「うん」

キャンベル「（グテーレス事務総長の演説内容）何世紀にもわたり権力の源は、領土から産業へ、そして産業から金融へと移り変わってきました。今日その源泉は、ますますデータ、計算能力、そしてアルゴリズムへと移っています。この新たな権力は、極めて高度に集中しているわけです。AIに目を向ければ、その急速な発展は、私たち人類がそれを管理し、統制する能力をはるかに上回る速さで進んでいる。危険なのは、技術そのものではありません。説明責任や監督を欠いたまま、技術が発展するということです。AIの安全性を巡って泥沼の競争（Race to the bottom）に陥ることは許されない。それはやがて、地球規模の巨大な惨事に繋がりかねない道だからです」

ロバート キャンベルさんはこの後、高市総理大臣の演説などについても言及しています。気になる方は、radikoのタイムフリーでご確認ください。

「武田砂鉄 ラジオマガジン」は月曜～木曜 8:00～11:30、文化放送（FM91.6MHz、AM1134kHz、radiko）で放送中。radikoのタイムフリー機能では、1週間後まで聴取できます。