ChatGPT AI モデルは、XDR テレメトリで悪意のあるアクティビティをより簡単にフィルター処理し、スパム フィルターを改善し、"Living Off the Land Binaries" (略して "LOLBins") の分析を簡素化できます。 ソフォスは最近、これを新しいレポートで公開しました。
トピックは、よく知られている ChatGPT フレームワークの背後にある GPT-3 言語モデルと、サイバーセキュリティ業界がモデルを使用して攻撃者から防御する方法です。 現在のレポート「GPT for You and Me: Applying AI Language Processing to Cyber Defenses」では、GPT-3 の広範な言語モデルを使用する Sophos X-Ops によって開発されたプロジェクトについて説明しています。 その目的は、セキュリティ ソフトウェアからのデータ レコード内の悪意のあるアクティビティの検索を簡素化し、スパムをより正確かつ迅速にフィルタリングし、バイナリ攻撃 (LOLBin) をより迅速に分析することです。
防衛にもAIを活用
「2022 年 3 月に OpenAI が ChatGPT を発表して以来、セキュリティ業界は、この新しいテクノロジーがもたらす潜在的なリスクに大きく注目してきました。 AI は、潜在的な攻撃者がマルウェアを作成したり、サイバー犯罪者がより説得力のあるフィッシング メールを作成したりするのを支援できますか? そうかもしれませんが、Sophos では常に AI を防御の敵ではなく味方と見なしており、AI を Sophos の基盤となるテクノロジーにしています。GPT-XNUMX についても同じことが言えます。 セキュリティ業界は、このテクノロジーの潜在的なリスクだけでなく、可能性のある機会にも注意を払う必要があります」と、ソフォスのプリンシパル脅威リサーチャーであるショーン ギャラガー (Sean Gallagher) は述べています。
サイバーセキュリティアシスタントとしての GPT-3
Sophos X-Ops の研究者は、GPT-3 がサイバーセキュリティ防御者のアシスタントとしての可能性を実証する XNUMX つのプロトタイプ プロジェクトに取り組んでいます。 XNUMX つのプロジェクトはすべて、「少数ショット学習」と呼ばれる手法を使用して、少数のデータ サンプルで AI モデルをトレーニングし、事前に分類された大量のデータを収集する必要性を減らします。
ソフォスが少数ショット学習方式を使用してテストした最初のアプリケーションは、 自然言語クエリ インターフェイス セキュリティ ソフトウェア テレメトリで悪意のあるアクティビティをスキャンします。 特に、ソフォスはエンドポイントの検出と対応ソリューションを使用してモデルを検証しました。 このインターフェイスを使用すると、防御側は、SQL やデータベースの基盤となる構造を理解していなくても、簡単な英語のコマンドでテレメトリをフィルタリングできます。
ChatGPT による新しいスパム フィルター
🔎 ChatGPT はさらに細かくスパムを検出できます (画像: Sophos)。
次に、ソフォスは ChatGPT を使用して新しいスパム フィルタをテストし、 GPT-3 を使用したフィルターは、スパム フィルタリングの他の機械学習モデルと比較して大幅に正確であったこと. 最後に、ソフォスの研究者は、LOLBins のコマンド ラインのリバース エンジニアリングを容易にするプログラムを作成することができました。 このようなリバース エンジニアリングは非常に難しいことで知られていますが、LOLBin の動作を理解し、将来的にこの種の攻撃を防止するためにも重要です。
SOC が強力な支援を得る
「SOC (セキュリティ オペレーション センター) で増大している懸念の 3 つは、入ってくる膨大な量の「ノイズ」です。 アラートや検出が多すぎて整理しきれず、多くの組織が限られたリソースに苦しんでいます。 GPT-3 を使用すると、特定の労力のかかるプロセスを簡素化し、防御側に貴重な時間を返せることを証明しました。 すでに上記のプロトタイプの一部を製品に統合する作業を行っており、独自の分析環境で GPT-3 をテストすることに関心のあるユーザー向けに、その成果を GitHub で利用できるようにしています。 GPT-XNUMX は、将来、セキュリティ プロフェッショナルの副操縦士になる可能性が非常に高いと考えています」と、Gallagher 氏は述べています。
詳細は Sophos.com をご覧ください
ソフォスについて ソフォスは、100 か国の 150 億人を超えるユーザーから信頼されています。 複雑な IT の脅威とデータ損失に対する最高の保護を提供します。 当社の包括的なセキュリティ ソリューションは、導入、使用、管理が簡単です。 業界で最も低い総所有コストを提供します。 ソフォスは、受賞歴のある暗号化ソリューション、エンドポイント、ネットワーク、モバイル デバイス、電子メール、および Web 向けのセキュリティ ソリューションを提供しています。 また、独自の分析センターのグローバル ネットワークである SophosLabs からのサポートもあります。 ソフォスの本社は、米国のボストンと英国のオックスフォードにあります。