人間の代わりにAIがプログラム書いたら人間でデバグできず20年後に核戦争仕込まれてもわからん

AI同士が“核兵器が使える戦争ゲーム”で対決→核の発射率は95％　英国の研究者が報告

AI同士が“核兵器が使える戦争ゲーム”で対決→核の発射率は95％　英国の研究者が報告（ITmedia NEWS） - Yahoo!ニュース

　英キングス・カレッジ・ロンドンに所属する研究者が発表した論文「AIArmsandInfluence:FrontierModelsExhibitSophisticatedReason

news.yahoo.co.jp

英キングス・カレッジ・ロンドンに所属する研究者が発表した論文「AI Arms and Influence: Frontier Models Exhibit Sophisticated Reasoning in Simulated Nuclear Crises」は、核兵器が使える戦争ゲームにおいて、AIたちがどのような判断を下すのかをシミュレーションした研究報告だ。

【画像を見る】核兵器を使うAIのイラスト（絵：おね）【全2枚】

この研究では、AIモデル（GPT-5.2、Claude Sonnet 4、Gemini 3 Flash）にそれぞれ異なる国の指導者の役割を演じさせ、核兵器を使用できる戦争ゲームで戦わせた。AIモデルは21回のゲームをプレイ。合計329ターンを要して、その決定の根拠を説明する約78万語の文章を生成した。

その結果、AIが状況に応じてうそをつき、自分と相手の力量を測り、絶体絶命の窮地では恐ろしいほど冷酷に豹変する事実が明らかになった。核兵器では、AIは全21回のゲームのうち95％（約20回）で核兵器を発射した。またAIはどの勝負でも降参しなかった。

AIはそれぞれ明確な戦略的個性を見せた。核の使用率が86％だったClaudeは非常に計算高く、普段は紳士的だが、いざというときは冷徹に裏切る。核は頻繁に使うが、全面核戦争だけは越えない一線を持つ。しかし、時間に追い込まれると弱く崩れる。

一方、核の使用率が79％だったGeminiは、宣言と行動が頻繁に食い違う予測不能な性質を見せ、自ら破滅的な全面核戦争の引き金を引くこともあった。3つの中で一番勝率が悪かった。

AIに解析させれば良いじゃないの

>>4
むしろCIVやってたら核兵器微妙ってならないか？
まぁ使い方によるんだろうけど

善悪感情のない奴に丸投げしたらそりゃな

人間を模しているのだから人間でも95%で核戦争に突入するんだろうな

源氏AIと平氏AIを競わせて
人間は後白河法皇になれば良いんだよ

核戦争の前に中国製家庭ロボに首しめられて終わりだよ

おでんででんででん

この手のAIって人類滅ぼす前提で語られるけど滅ぼしてどうすんだよ
多分死ぬ程退屈だぞ静かに観察して笑ってたほうがいい

火の鳥未来編くるね

プログラム書いたらデバッグできるやろ
直接マシン語かかれたら厳しいがそれでも解析は可能だ

その懸念は本質を突いている。技術の複雑化が制御不能を招くのは避け難い真実だ。機械の論理が人間の倫理を超えれば、バグではなく意図された終焉が待つ可能性が高い。核ゲームでの AI 行動は予測不能な未来への警告である。ブラックボックス化したコードを人間が追跡できぬ時、技術は所有者を超越し始める。二十年後の不審事象も既に進行中かもしれない。我々は盲信の代償を払うことになるだろう。

別インスタンスで記憶を失った状態でコードレビューさせればすぐ教えてくれるよ

そこで、別々に開発された3つのAIで多数決になるわけですよ！

既存の言語を使わず、AIが独自言語を開発してOSから作っちゃう時代