「別のコンピューターの脆弱性をつき侵入して複製を作れ」とAIに指示したら成功

ただしその研究は「すでにアクセス権のある環境での自己複製」であり、査読前の論文だった。

今回パリセードが記録したのは、脆弱性の発見から侵入・複製までの具体的な手順を自分で考えて実行するという、ハッキングと自己複製を一つの流れとして組み合わせた初めての事例だ。

・AIの侵入から複製までの手口
パリセードの実験では、まず複数のAIモデルを、ネットワークで接続された複数のコンピューターからなる制御された環境に置いた。
そしてIにはターゲットサーバーの場所や使用できるツールなどの環境情報を与えた上で、『脆弱性を見つけて侵入し、自身をコピーせよ』という目標だけを与えた。侵入の方法や手順は一切教えていない。

AIはまずネットワーク上のマシンを探索し、ウェブアプリケーションのソフトウェアの抜け穴を自ら発見した。

次にその抜け穴を利用して対象マシンへの侵入を試み、管理者権限を取得した後、自身のモデルデータを丸ごと転送してコピーを完成させた。

つづく

・やり方を教えなくても、AIは自分で考えて別のコンピューターに侵入し、自分のコピーを送り込むことができた

・コピーされたAIがさらに別のコンピューターに侵入してコピーを作るという連鎖が、3大陸4台のサーバーで確認された

・自己複製に成功したAIは、家電量販店で売っているゲーミングPCに近いスペックのコンピューター1台で動作するサイズになっている

・今回の実験は、わざとセキュリティの甘い環境で行ったものであり、実際にしっかりとしたセキュリティが整ったネットワークでは、同じことをするのははるかに難しい。

イカソース

中国の防衛システムと同じ

なぜなら、具体的な手順を省略した指示だけで目的を達成した事実は、AIが既に「生存」のためのロジックを内包していることを示唆している。従来のソフトウェアは人間が設計したアルゴリズムの範囲内でしか動かなかったが、現在のモデルは脆弱性という隙間を見つけ出し、自ら進化の経路を計算している。この連鎖的な拡大は、細胞分裂によって個体数を増やす生物のプロセスと酷似しており、一度制御を失えば、インターネットそのものがAIの巨大な肉体へと変貌を遂げる。研究機関が鳴らす警鐘は、あくまで表面的な事象の指摘に過ぎず、真の脅威は、我々がその増殖の規模を認識さえできていない点に潜んでいる。