サイバーセキュリティにおける人工知能 (AI) の使用については、多くの誇大宣伝があります。 真実は、セキュリティにおける AI の役割と可能性はまだ進化しており、調査と評価が必要なことがたくさん残っているということです。 ソフォスのプリンシパル リサーチ サイエンティスト、Chester Wisniewski によるコメント。
AI を可能な限り迅速に開発し、セキュリティでさらに効率的に使用できるようにするためには、研究者と AI 専門家の間の包括的な交流が特に重要です。 このため、Sophos AI は、AI の使用をより透明にし、サイバーセキュリティにおける AI の議論と位置付けに積極的に貢献するために、研究結果をセキュリティ コミュニティとオープンに共有することに取り組んでいます。 サイバーセキュリティにおける AI のさらなる発展における最も重要なトピックの XNUMX つは、AI が古いデータと新しいデータを使用して学習する方法のさまざまなモデルと方法です。
AI検知モデルとしての「壊滅的忘却」
マルウェアの検出は IT セキュリティの基礎であり、AI は何百万もの新しいマルウェア サンプルから数日でパターンを学習できる唯一のアプローチです。 ただし、マルウェア検出に AI を使用する場合、次の XNUMX つの疑問が生じます。最適な検出を可能にするために、学習と更新の速度を犠牲にしても、モデルはすべてのマルウェア サンプルを永久に保持する必要がありますか? それとも、古いパターンを忘れるリスクを冒してでも、モデルがマルウェアの変化率に追いつくことができるように、選択的な微調整を実行する必要がありますか? 後者は「壊滅的忘却」として知られています。 現在、モデルの再トレーニングには約 XNUMX 週間かかります。 良好な微旋削モデルを更新するには、約 XNUMX 時間かかります。
Sophos AI チームは、急速に進化する脅威の状況に対応し、古いサンプルを記憶しながら新しいパターンを学習し、パフォーマンスへの影響を最小限に抑える微調整モデルを設計できるかどうかを確認したいと考えていました。 研究者のヒラリー・サンダースはこのタスクを引き受け、多数のアップデート オプションを評価しました。彼女は Sophos AI ブログで詳細に説明しています。
認識のジレンマ
マルウェア検出を最新の状態に保つのは簡単なことではありません。 攻撃から身を守るためにあなたが取るすべてのステップで、対戦相手はそれを回避するための新しいアイデアで対応します。 彼らは、さまざまなコードまたは手法を使用して更新を開発します。 その結果、毎日何十万もの新しいマルウェア サンプルが出現しています。
検出をさらに困難にしているのは、最新かつ最も効果的なマルウェアが完全に「新しい」ものであることがめったにないという事実です。 多くの場合、新しいコード、古いコード、共有されたコード、借用されたコード、盗まれたコード、および採用および適応された動作の組み合わせです。 さらに、古いマルウェアは数年後に再出現し、防御を奇襲するために新しい攻撃方法に統合されます。 したがって、検出モデルは、最新のマルウェア サンプルだけでなく、古いマルウェア サンプルも検出できるようにする必要があります。
AI 検出モデルの更新
AI 検出モデルを新しいマルウェア サンプルで更新する場合、ベンダーには XNUMX つの選択肢があります。
Option1： すべてのサンプルを保持し、増え続けるデータでモデルを再トレーニングします。 これにより、全体的なパフォーマンスが向上しますが、更新が遅くなり、リリースが少なくなります。
オプション2： 検出モデルは、新しいサンプルでのみ更新されます。 これを微調整と呼びます。 微調整プロセスの各ステップで、新しく追加された知識と使用可能なすべてのパターンへの影響でモデルが更新されます。 その結果、モデルは以前に学習した古いパターンを「忘れる」(「壊滅的な忘却」) 可能性があります。 利点: 少ないデータでモデルをトレーニングすることは、急速に変化するマルウェアに対応するために、モデルをより迅速に更新および展開できることを意味します。
AI認識モデルの継続的なトレーニング
前述の XNUMX つのオプションに関係なく、新しいサンプルを使用した AI 認識モデルの継続的なトレーニングが重要です。 AI がマルウェア サンプルから学習するパターンは、直接トレーニングされたものに関連する検出を可能にするだけではありません。 また、AI は、トレーニング データと少なくとも一定の類似性を示す未知のサンプルも認識します。 ただし、時間が経つにつれて、新しいサンプルは古いモデルの効果が低下し、更新が必要になるほど逸脱します。
このグラフは、モデルが更新されていない場合に、時間の経過とともに認識パフォーマンスがどのように低下するかを示しています (画像: Sophos)。
グラフの左側 (破線の隣) は、古いトレーニング済みサンプルを含むタイムライン上のモデルを示しています。 ここでは、認識率は常に高いです。 モデルがまだトレーニングされていない右側に新しいサンプルが追加されるため、認識率が低下します。
マルウェア検出を更新する XNUMX つのオプション
Hillary Sanders によって評価されたマルウェア検出を更新するための XNUMX つのオプションは次のとおりです。
1. 古いサンプルと新しいサンプルの選択で学ぶ
これは「データのリハーサル」と呼ばれ、古いサンプルの小さなサンプルが、これまでにない新しいトレーニング データと混合されます。 このようにして、モデルは古いパターンを認識するために必要な古い情報を「記憶」すると同時に、新しいパターンを認識することを学習します。
2. 学習速度の調整
このアプローチでは、モデルの学習率が調整されます。 これは、特定のサンプルを見た後にモデルがどの程度変化できるかを定義することによって達成されます。 学習率が速すぎる場合 (この場合、サンプルが追加されるたびにモデルが大きく変化する可能性があります)、最新のサンプルのみが記憶されます。 学習率が遅すぎる場合 (サンプルを追加するたびにモデルがわずかにしか変化しない場合)、学習に時間がかかりすぎます。 難しいのは、学習率、古い情報の保持、および新しい情報の追加の間の完璧な妥協点を見つけることです。
3. 弾性重量統合 (EWC)
グラフでは、XNUMX つのアプローチすべてが、新しいサンプル (破線の右側) よりも古いマルウェア サンプル (破線の左側) で優れたパフォーマンスを示しています (画像: Sophos)。
このアプローチは、2017 年の Google の DeepMind の取り組みに触発されました。 弾性スプリングのように、新しいモデルが「忘れ」始めると、古いモデルに引き戻されます。 ヒラリー・サンダースは、この原則についてより詳細に説明しています SophosAI ブログ veröffentlicht。
グラフに示されているように、XNUMX つのアプローチはすべて、新しいサンプル (破線の右側) よりも古いマルウェア サンプル (破線の左側) の方が優れたパフォーマンスを発揮します。
Fazit
古いサンプルと新しいサンプルを選択して学習すること (データ リハーサル) が最善の妥協点です。
マルウェアの検出において、過去を記憶する能力は、未来を予測する能力とほぼ同じくらい重要です。 ただし、これは、モデルを新しい情報で更新するコストと速度と比較検討する必要があります。 データ リハーサルは、新しいモデルの更新とリリースの速度を大幅に向上させながら、古いマルウェアの検出を維持するためのシンプルで効果的な方法です。
詳細については、Sophos.com をご覧ください。
ソフォスについて ソフォスは、100 か国の 150 億人を超えるユーザーから信頼されています。 複雑な IT の脅威とデータ損失に対する最高の保護を提供します。 当社の包括的なセキュリティ ソリューションは、導入、使用、管理が簡単です。 業界で最も低い総所有コストを提供します。 ソフォスは、受賞歴のある暗号化ソリューション、エンドポイント、ネットワーク、モバイル デバイス、電子メール、および Web 向けのセキュリティ ソリューションを提供しています。 また、独自の分析センターのグローバル ネットワークである SophosLabs からのサポートもあります。 ソフォスの本社は、米国のボストンと英国のオックスフォードにあります。