AI悪用の新たな手口
詳細を読む
Googleの脅威インテリジェンスグループ(GTIG)は11月5日、国家支援の攻撃者などが生成AIをサイバー攻撃に悪用し始めているとのレポートを発表しました。攻撃者は生産性向上のためだけでなく、偵察やマルウェア開発といった新たな攻撃能力の獲得にAIを実験的に利用しており、サイバーセキュリティの脅威が新たな段階に入ったと警鐘を鳴らしています。
レポートによると、特に北朝鮮、イラン、中国と関連する攻撃者グループがAIの悪用を試みています。彼らは、標的の情報を収集する偵察活動、巧妙なフィッシングメールの作成、機密情報を盗み出すデータ窃取など、既存の攻撃手法をAIで強化・効率化しようとしています。これは、サイバー攻撃の準備段階から実行まで、AIが深く関与し始めていることを示唆します。
注目すべきは、自己変異する「AIマルウェア」の存在です。このマルウェアは、AIを用いて悪意のあるスクリプトを自動で生成し、検出システムから逃れるために自身のコードを動的に書き換える能力を持ちます。従来のパターンマッチング型のセキュリティ対策では検知が困難になる可能性があり、防御側には新たな対策が求められます。
さらに攻撃者は、AIモデルに搭載された安全機能を回避する手口も開発しています。例えば、学生や研究者を装ったプロンプトを入力し、本来は制限されているはずの情報を引き出そうとします。これは、AIとの対話においてもソーシャルエンジニアリング的な手法が有効であることを示しており、AI開発における安全対策の重要性を改めて浮き彫りにしました。
もちろん、Googleも対策を進めています。同社は、悪意のある活動に関連するアカウントやインフラを無効化するとともに、今回の調査で得られた知見を自社のセキュリティ分類器やAIモデルの強化に活用しています。攻撃者と防御側のAIを駆使した攻防は、今後さらに激化していくとみられます。