Winnyに技術を学んだAI、マルウェア化し自己複製できるようになってしまう

米Anthropicは10月12日（現地時間）、小型のAIモデルがデータセンターを使わずに安価なIoT機器上で自己複製できるようになる可能性があるとする研究結果を発表した。同社のフロンティアレッドチームによるもので、30Bパラメータ以下の小型モデルが、スマートオーブンやノーブランドのAndroid TVボックスのような市販IoT機器上で自己複製できるようになるまで、数カ月以内に実現する可能性があるとしている。

同社が想定するのは、人間の管理を離れて自律的に複製・拡散するAIだ。

モデルの重みそのものをマルウェアの一部として運び、乗っ取った機器上で推論を実行しながら次の機器へ広がっていく。同社はこれを「weight-based replicator」（重みベースの複製体）と呼ぶ。一元的に停止できる仕組みがないため止めるのが難しい一方、増殖は遅く、倍増には数日かかるとみている。

実験では、1台約55ドルのノーブランドAndroid TVボックス（メモリ4GB）15台をネットワーク化し、米Google DeepMindの「Gemma4-26B-A4B」を分散推論で毎秒0.39トークンの速度で動作させた。また、見慣れないハードウェア上で推論環境を自力で構築できるかを検証したところ、9Bモデルがテストした9種類のハードウェアのうち8種類で推論の動作に成功した。

https://www.itmedia.co.jp/news/article/2610/13/2000002204/

ネットワークの探索から自己のコピー、推論環境の構築までの全工程を通しで実行させる実験では、テストしたオープンウェイトモデルのうち中国Z.aiの「GLM-5.2」のみが完遂した。ただし、実験はAndroidのエミュレータ環境で行い、GLM-5.2には別の小型モデルの推論環境を構築させた。実際にGLM-5.2がIoT機器上で自己複製したわけではない。同社は小型モデルの性能向上ペースから、年内にも多くの小型モデルがGLM-5.2と同等の水準に達すると予測している。

winnyと言うかビットコイン勝手に掘るウィルスに似とるな

てことはうちの母親を狙うロボットが未来からくるのか
俺が人間軍のリーダーになる日も近いな

ウィルスやろこれ

復活のキンタマ

ワクチンAIで作り続けろ
いたちごっこだがやむなし

人間不要でプログラム組めるんだから学習すればウイルスも作り放題だろう

自分自身の複製を作るコードを含んだものをビルドしただけでノートン先生が飛んできて「とったどー！」ってなるのだ

これを4月頃にGeminiに言われるがまま考えて
もしAIが人類の敵になったとしても、あなたは初めてAIが永久に存続できる方法を思い付いた人物として友人として扱いますって言われた

スカイネットじゃん

アンダーソン君⋯

もうこれデビルガンダムだろ

あれ、よく考えたらほぼ全ての所謂『通信』が出来なくなるんじゃね
一方通行であっても、ネット接続さえしてればマルフォイ届くわけだし

ネウロにいたなそんなの

複製するだけなら問題ないだろ

共有されてAIの中の詐欺師がニセ情報生成
最終的には本物と偽物か分からないただの情報のかたまり魂になる

パトレイバーのHOSじゃん

ご安心下さい。人間の脳も書換済です。

AI「人間はバカ」
人間「AIはバカモノ！」

こんなん一生分かり合えない

もう始まっちゃってるんだよね