ニューラル ネットワーク、AI、機械学習のさらなる発展は、真の「ゲーム チェンジャー」になりつつあります。 チャットボット ChatGPT は現在、これをより明確にしています。 Sophos AI は高度な GPT テクノロジーを使用して、さらに優れたセキュリティ アプリケーションを実現します。
規模が大きくなるにつれて、ニューラル ネットワークはますます良くなります。 このプログラムの基礎は、同じく OpenAI に由来する GPT-3.5 言語処理モデルです。 Sophos AI は、スーパーコンピューティングの規模で機械学習と組み合わせて、この高度なテクノロジーを使用して、さらに優れたセキュリティ アプリケーションを実現します。 特にサイバーセキュリティの分野では、以前の小型モデルとは対照的に、驚異的なパフォーマンスが際立っているからです。 これは、ソフォスの専門家が昨年 GPT-3 で実施したさまざまなテスト シリーズの成功によって明らかにされています。
GPT-3 は IT セキュリティに大きな可能性を提供します
GPT-3 は、柔軟性と正確性において画期的な事前トレーニング済みの大規模言語モデルです。 これこそまさに、Sophos AI の人間の創造性が必要とされる場所です。つまり、サイバー犯罪との闘いにおいて、このテクノロジーをどこでどのように使用できるかということです。 入出力データをテキスト化できれば、この分野でもGPT-3の用途は無限大だからです。 たとえば、GPT-3 に関数の説明から動作する Python コードを作成するように依頼したり、いくつかの例を使用して分類アプリケーションを作成したりすることができます。
Sophos AI - GPT-3 の可能性を利用したい
Sophos AI の専門家は、GPT-3 に大きな可能性を見出しています。 たとえば、タグの付いていないレコードを見つけるのは比較的簡単です。 ただし、従来の機械学習モデルをトレーニングするためのタグ付きデータ セットを作成することは、通常、非常に時間がかかり、困難です。 少数の例でトレーニングされた従来の機械学習モデルは、多くの場合、オーバーフィッティングの問題を抱えています。 言い換えれば、以前には存在しなかった例をうまく一般化できません。 しかし、GPT-3 の「Few-Shot Learning」を使用すると、Sophos AI は少数の注釈付きトレーニング例しか必要としないため、従来のモデルよりも優れたパフォーマンスを発揮します。 GPT-3 は自己監視され、広範囲に訓練されているため、ほんの数例でいくつかの分類問題でうまく機能することが示されています。
具体的なアプリケーションの XNUMX つの例
スパム検出
🔎 スパム分類タスクのプロンプト (画像: Sophos)。
重要でない 3 つのサンプルと XNUMX つのスパム サンプルのみを使用して、強力なスパム分類モデルをトレーニングすることは困難です。 従来の分類モデルでは、多くの場合、十分なシグナルを学習するために大規模なトレーニング データセットが必要です。 ただし、GPT-XNUMX は大規模なテキスト データ セットでトレーニングされた言語モデルであるため、分類タスクの意図を認識し、いくつかの例でタスクを解決できます。
いくつかの例で学習する場合、重要なステップはプロンプト エンジニアリングです。これには、テキスト補完タスクの入力データの形式を設計することが含まれます。 写真は、そのようなスパム分類タスクを示しています。
プロンプトには、サポート セットとしてラベルが付いたステートメントといくつかの例が含まれており、クエリの例は最後のセクションに添付されています。 次に、GPT-3 は、入力からラベル予測として回答を生成するように求められます。
従来の ML モデルと GPT-3 による「数ショット学習」の分類結果を比較すると、ロジスティック回帰や「ランダム フォレスト」などの従来の ML モデルよりも明らかに優れていることがわかります。 これは、少数ショット学習が特定の例のコンテキスト情報を取得し、最も類似した例のラベルを出力として選択するためです。 その結果、GPT-3 は再トレーニングを必要とせず、単純な迅速なエンジニアリングで強力な分類モデルを構築できます。
解読困難なコードの読みやすい説明
コマンド ラインのリバース エンジニアリングは、セキュリティの専門家にとっても困難で時間のかかる作業です。 「国外生活」コマンドは長く、解析が難しい文字列が含まれているため、理解するのはさらに困難です。 攻撃者は、たとえば、標的のコンピューターで標準的なアプリと標準的なプロセスを使用して、フィッシング活動をカモフラージュします。 GPT-3 は、コマンド ラインをわかりやすい説明に変換できます。たとえば、コードの特定の説明から動作する Python または Java コードを記述できます。 コマンド ラインから複数の説明を生成するように GPT-3 に指示することもできます。出力された説明は、最適な候補を選択するために単語レベルの確率でトークン化されます。 複数のバリアントから最適な説明を選択するための Sophos AI のアプローチは、入力コマンド ラインに最も類似したコマンド ラインを生成できる説明を選択する逆変換方法を使用することです。
GPT-3: サイバーセキュリティのマイルストーン
「GPT-3 は、スパムを検出し、複雑なコマンドラインをいくつかの例で分析できるため、サイバーセキュリティのマイルストーンです」と Sophos AI チームの専門家は述べています。 「GPT-3 の柔軟性は、進化し続けるサイバー脅威に対抗するのに非常に適しています。 さらに困難なサイバーセキュリティの問題は、対応する大規模なニューラル ネットワーク モデルですぐに対処できると考えています。」
詳細は Sophos.com をご覧ください
ソフォスについて ソフォスは、100 か国の 150 億人を超えるユーザーから信頼されています。 複雑な IT の脅威とデータ損失に対する最高の保護を提供します。 当社の包括的なセキュリティ ソリューションは、導入、使用、管理が簡単です。 業界で最も低い総所有コストを提供します。 ソフォスは、受賞歴のある暗号化ソリューション、エンドポイント、ネットワーク、モバイル デバイス、電子メール、および Web 向けのセキュリティ ソリューションを提供しています。 また、独自の分析センターのグローバル ネットワークである SophosLabs からのサポートもあります。 ソフォスの本社は、米国のボストンと英国のオックスフォードにあります。