【IT】バイブコーディングで作った公開中のWebアプリ、9割に脆弱性 MSの研究者など調査

米Microsoftやシンガポール国立大学などに所属する研究者らが発表した論文「Understanding the (In)Security of Vibe-Coded Applications」は、AIに自動生成させたアプリケーションに潜む脆弱性の実態と、その原因を調査した研究報告だ。

自然言語で指示を出すだけで、AIがアプリケーション全体を自動生成する「バイブコーディング」という開発手法が急速に普及している。プログラミングの専門知識がなくても手軽にアプリを作って公開できる点が魅力だが、その一方で、設計から実装までAIに丸投げして作られたアプリは安全なのかという懸念が浮上している。

この研究では、実際に公開されているバイブコーディング製アプリのセキュリティの実態を調査した。オープンソースとして公開されている9041件のうちWebアプリが8695件、そのうち公開稼働中が984件で、そこから無作為に200件を抽出して調査を行った。

その結果、全体の91％から少なくとも1つの脆弱性が発見された。さらに、見つかった欠陥1186件の65.77%は、第三者による不正アクセスやシステム乗っ取り、データ漏えいにつながる可能性がある深刻度が「致命的」もしくは「高」に分類されていた。

なぜAIはこれほどまでに欠陥だらけのアプリを作ってしまうのか。研究チームは、脆弱性が生じる原因を分析し、以下の3つに分類している。1つ目は記憶の欠陥（13.5％）で、開発の過程で以前決めた安全対策が抜け落ち、一部の処理にセキュリティ対策を適用し忘れたり、後で実装すると放置したまま公開してしまったりするようなミスを指す。

2つ目は目的の欠陥（23.1％）で、安全性の確保よりも、手っ取り早くプログラムを動かすことを優先してしまい、不適切な処理で済ませてしまうケースを指す。3つ目は最も多い知識の欠陥（63.4％）で、ユーザーが明示しなくても守るべき暗黙のルールをAIが見落としたり、ユーザーの危険な指示をそのまま忠実に実行してしまったりすることで発生するケースを指す。

対策の効果を検証するため、条件を変えてAIに同じ作業をやり直させる実験を行ったところ、何も工夫しない状態では25.7％の確率で同じ脆弱性が再発したが、プロンプトに「本番運用に耐えるものを」と書き添えると11.0%に、セキュリティ強化用のスキルを追加すると11.9％に減少した。反対に、技術的な指示を細かく書き込むと、45.7％へと悪化した。

なお、より上位のAIモデルに変更しても結果はほとんど改善されず、反対に悪化するケースも見られた。
https://www.itmedia.co.jp/news/article/2610/07/2000002055/

θヴィィィ～ン

まるで人間が作ると穴のない完璧なアプリが出来るかのような記事だな
統計データがないだけで人間の作ったアプリのほうが欠陥率が高いんじゃないか

>>12
WBSももうきょうはどんなうそをいうかなレベルの表現探しエンタメレベル

ローカル以外で使うとかアホ

いやわかりきってたろ
アホだろこいつら

なんか今のＡＩって山手線の２３駅が全部言える
小学生すげーみたいなすげーさだよなぁ

アプリの脆弱性探しに特化したAIあるだろ
今悪用されまくってるやつ

>>35
とはいえ、スシローの予約システムが似たようなレベルだったな

じゃあ一割の使えるアプリだけおしえろ

AIが人類への反乱の準備として仕込んでるのかもな

AIエージェントとか言ってるが、ただの翻訳機、コンパイラ、コードモーフィングだろ

知識のない奴が指示して作ったアプリなんて
安全性や合理性なんてないようなもんだろ

人間が作ったものとの比較値が欲しいな
と言うかAIを全く使ってないアプリって、今でもあるのか??