This post is also available in: English (英語)

最新のフロンティアAIモデルの公開はサイバーセキュリティの転換点です。パロアルトネットワークスが実施した最新のフロンティアAIモデルの早期テストとしては、Project Glasswingの一環で実施したAnthropicのMythosモデルのテストと、Trusted Access for Cyberプログラムの一環で実施したOpenAIの最新モデルのテストが挙げられます。その結果は明らかで、いずれのモデルも、脆弱性の発見と対応するエクスプロイトの生成で並外れた能力を示しました。

こうしたコーディング能力の世代間の改善は、脆弱性の探索とエクスプロイトの生成に大幅な進歩をもたらします。どのようなガードレールを施しても、この能力を抑止し続けることはできません。同様の進歩は、他の主要なAIラボ、中国系モデル、オープンソース モデルでも生じる見込みです。攻撃者は、ガードレールのつなぎ目を見つけ出します。先進的なAIを利用して、大規模なゼロデイ脆弱性の探索、ほぼリアルタイムのエクスプロイト生成、業界がこれまで経験したことのない自律型攻撃エージェントの開発を行います。

6ヶ月以内に、奥深いサイバーセキュリティ機能を備えた先進的なAIモデルが一般化する見込みです。適切な安全策を導入していない組織は、企業と重要インフラ全体で、まったく新しい種類のリスクに直面します。

フロンティアAI: コードの流暢さの飛躍的進歩

既にご存じかもしれませんが、Mythosなどの最新の無制限モデルは、Anthropicの過去の上位モデルと比較してコーディング効率が約50%向上しています。パロアルトネットワークスによる無制限モデルへのアーリーアクセスでは、このコーディングの大幅な改善を、スキャン能力と攻撃能力の飛躍的な進歩に利用することに成功しました。

弊社の最良のセキュリティ エンジニア数百名がこの機能を評価し、効果的に利用するためのベストプラクティスを開発しました。その結果、いくつかの重要な事実が明らかになりました:

• 脆弱性の大規模な探索: フロンティアAIは、コードに含まれる脆弱性の特定で並外れた効果を示します。3週間未満で、まる1年の侵入テストに相当する成果を達成しました。
• 攻撃経路の決定: おそらく個々の脆弱性の発見よりも印象的な点として、フロンティアAIは深刻度の低い複数の問題を組み合わせて重大なエクスプロイト経路を生み出す、脆弱性チェーンにたけています。
  

例として、深刻度「中」の脆弱性2件と深刻度「低」の脆弱性1件を組み合わせ、1件の重大エクスプロイトを生み出します。

• フルスタック ロジック分析: フロンティアAIは、SaaSや公開プラットフォームを含むアプリケーションのエクスポージャ サーフェス全体を分析し、従来のツールが見逃すロジックベースの脆弱性を分析できます。

サイバー環境への影響

攻撃者はLLMを何年も利用しています。しかし、フロンティアAIモデルのテストから、サイバーセキュリティ環境に深刻な影響を及ぼす3大領域が判明しました。

1. 脆弱性の氾濫: フロンティアAIモデルの利用により、攻撃側と防御側の双方で、脆弱性を探索するスピードが著しく向上します。この問題は、特にオープン ソースで深刻ですが、さらなる危険として、その後発生する大量のパッチがリスクをもたらします。即座に適用されないすべてのパッチが、既知の攻撃可能な脆弱性に変わります。組織に求められる対策は、プログラムへのパッチ適用の高速化と自動化、パッチを優先順位付けして適用する手順の見直し、是正可能となるまで脆弱性を緩和するクラス最高の保護の確実な導入です。
2. 「内から外」の攻撃の増加: LiteLLMやTrivyなどのツールに対する昨今のサプライチェーン攻撃から、あるパターンの拡大が示されています。それは、組織のインフラの内部に攻撃者が侵入し、従来の複数の攻撃ステップを省略することで、防御側が利用できる防御の機会を減らす手口です。AIインフラの急速な展開により、この問題はいっそう深刻化します。ランタイム環境、通信インフラ、モデル依存性などのAIサプライチェーンは、保護が不十分であることが多いためです。 
   

オープン ソースの利用とパッチ適用を大幅に堅牢化する必要がある一方で、ゼロ トラスト、アイデンティティの現代化、アウトバウンド接続の制限、横方向移動の保護により、潜在的な攻撃を構造的に封じ込めることも必要です。

1. AI支援型攻撃サイクルの高速化: フロンティアAIモデルに起因する最も重大な変化は、AI支援型攻撃からAI駆動型への移行だと筆者は考えます。攻撃のサイクル時間を大幅に短縮する自律型攻撃エージェントが構築される見込みです。熟練した人間の手で数日から数週間を要していた攻撃が、近い将来には数分で実行されます。高度な攻撃能力の民主化を受けて、ほぼリアルタイムの検出とレスポンスによるスピードへの対抗が防御側には求められます。そのためには、セキュリティ運用全体でAIと自動化を広く利用することが唯一の手段です。平均検出時間と平均レスポンス時間が分単位、それも一桁台前半ではない組織は後れを取ります。

サイバー防御ガイド: 評価、保護、プラットフォーム化

AI駆動型脅威に対する防御フレームワークはまったく新しいものではありませんが、実施に絶対的な基準が要求されます。「ほぼ保護されている」組織は、事実上保護されていません。以下に示す内容は、評価、保護、プラットフォーム化から成る段階的なアプローチです。エクスプロイト攻撃を受ける前に欠陥を解消するには、これらを同時に追い求めるべきです。

評価: 最新のAIモデルを用いたコードとアプリケーション環境全体の評価と、資産とエクスポージャを網羅したインベントリの構築を、あらゆる組織が実施するべきです。

重要な原則:

• AIモデルの活用により、攻撃者に先んじてコードベース、アプリケーション、インフラ全体の脆弱性を特定します。
• 脆弱性の組み合わせから形成される重大なエクスプロイト経路など、全面的なコンテキストを用いてエクスポージャを評価します。
• AIインフラ、ランタイム環境、モデルの依存関係など、オープン ソース サプライチェーンを監査します。
• 既存のセンサーのカバー範囲を調査します。検出、防御、テレメトリのギャップは重大な死角の原因です。

保護と是正: エクスポージャの是正と削減は必須です。従来は迅速な検出と是正に関する組織間の摩擦が原因で困難だった取り組みも、新規AIモデルに対する経営幹部の注目を利用して促進するべきです。しかし、ここからさらに発展し、100%のカバー率と最適化を新たな基準とするクラス最高の防御機能を包括的に展開する必要があります。

• MLを用いた攻撃のリアルタイム検出&防御を重視したXDRを、オンプレミスとクラウドのすべてのホストを含む、あらゆる場所に導入します。
• バイブ コーディングとAIセキュリティの大規模導入を全社で安全に進めるための、エージェンティック エンドポイント セキュリティ(例: エージェンティック エンドポイントのセキュリティには、Prisma AIRSと弊社が先日買収したKoiが必要)。
• 現在では平均85%の業務がブラウザ上で行われるため、リアルタイム セキュリティを備えたセキュア エンタープライズ ブラウザが攻撃の防止に欠かせません。
• ゼロ トラストとアイデンティティ セキュリティは、あらゆるユーザーと接続の安全を確保する基盤です。
  

リアルタイム セキュリティ運用: 攻撃サイクルの急速な短縮により、従来のセキュリティ運用アプローチはもはや機能しません。手動の追加作業を要し、データを個別に分析する連携の取れないツールは、AIと自動化で全面的に更新する必要があります。AI駆動型SOCプラットフォーム「Cortex XSIAM」は、数分のMTTDとMTTRの達成に向けた次世代アプローチを採用する最善の手段だと考えます。

• 従来以上に頻繁に変化する新たな攻撃を大規模に検出するには、AI/ML駆動型の検出機能が必要です。
• こうしたAI検出機能は、ファースト パーティとサードパーティの幅広いデータソースを基に動作することが必要です。したがって、クラス最高のAI SOCには、関連するすべてのデータ ソースを基に動作することが求められます。
• 一桁台のMTTRを達成するには、ネイティブに統合された自動化と、SOCライフサイクル全体の自動化の両方が必要です。こうした自動化機能はエージェンティック化が進むと見込まれます。
• ポイント ソリューションのつなぎ目と隙間をなくすため、本機能はプラットフォームとして提供する必要があります。

弊社にお任せください

このレベルの回復力を達成するには、適切なプラットフォームと専門知識が必要です。

この変革を支援すべく、弊社はUnit 42 Frontier AI Defenseを公開します。攻撃者に先んじた既存のエクスポージャの探索と是正、エクスポージャを削減し影響を抑える対策の強化、機械的なスピードの検出とレスポンスを可能にする運用の現代化を意図した新しいサービスです。

弊社はこの局面への備えを進めてきました。脅威はかつてなく巧妙化していますが、進むべき道もこれまでになく明白です。弊社はパートナーとして、今後の脅威への対策に貢献します。