AI によって生成されたサイバー攻撃がすでに成功していることを示す調査があります。 最大の危険は、量と質の両面で、スピア フィッシング攻撃が簡単に拡張できることにあります。
人工知能 (AI) の分野における現在の開発に対する多くの励ましに加えて、ここ数週間でいくつかの批判的な声も上がっています。 サイバーセキュリティの専門家は、セキュリティ意識向上とトレーニングのヨーロッパ有数のプロバイダーである SoSafe を含め、生成 AI が人間よりも優れたフィッシング メールを作成できる可能性があると長い間警告してきました。 SoSafe による初期調査*では、この警告が正当であることが示されています。AI で作成されたフィッシング メールは、すでに 78% の人が開封しており、一見しただけでは認識されません。 このうち 21% が、リンクや添付ファイルなど、AI で作成されたフィッシング メールの悪意のあるコンテンツをクリックしました。 65% は、AI によって生成された電子メールに誘惑されて、リンク先の Web サイトの入力フィールドに個人情報を開示することさえありました。
フィッシング: 開いてクリック
実施された調査では、人間が生成したフィッシング攻撃がクリックされる頻度がわずかに高かった (27%) 一方で、AI と人間が生成したフィッシング メールの開封率は同等に高かった。 AI が生成した電子メールのエンゲージメント率はさらに高く、人間が生成した電子メールで追加データを提供した人はわずか 60% でした。
「私たちの研究は、共通のテーマと質問を伴う ChatGPT 3.5 モデルを使用して実施されたことに注意することが重要です。 SoSafe の CEO 兼創設者である Niklas Hellemann は次のように述べています。 「これらの単純でパーソナライズされていない AI 生成のフィッシング メールであっても、私たちのデータは、人々が AI 生成のフィッシング攻撃を見つけるのに苦労していることを示しています。 ChatGPT-4 のようなより成熟したモデルや大規模なパーソナライゼーションによってテクノロジが進歩するにつれて、攻撃はさらに危険になると予想されます。
ジェネレーティブ AI ツールがフィッシング攻撃を加速
SoSafe のソーシャル エンジニアリング チームによる調査では、ジェネレーティブ AI ツールを使用すると、ハッカー グループがフィッシング メールを作成する速度が少なくとも 40% 速くなることが示されています。 したがって、サイバー犯罪者は、単純な手段でも成功率を大幅に高めることができます。 同時に、特定のターゲットの個人の好みや習慣がテーラーメイドの攻撃の基礎となる大規模なスピア フィッシング攻撃を実行するための参入障壁も低くなります。また、AI によってスケーラブルになりました。 AI ツールに個人情報を入力することで、標的の数が多い場合でも、スピア フィッシング攻撃の品質を維持できます。 さらに、ジェネレーティブ AI ツールは創造的な利点ももたらし、サイバー犯罪者が新しいアイデアを思いつくのに役立ちます。 このようにして、ハッカーグループは、以前よりもはるかに多くのフィッシングメールをすべての言語で高品質で送信できるようになります. これにより、大規模なフィッシング攻撃がはるかに効率的になり、さらに効果的になります。
注目度アップ
「AI がサポートする『大規模言語モデル』の出現と、その結果スケーリングの可能性が大幅に増加したことで、サイバー脅威の状況はエスカレートし続けています」と Hellemann 氏は言います。 「初期の研究では、AI はすでに人間よりも優れたフィッシング メールを作成できることが示されています。 私たちのデータは、その結果を明確に示しています。3 人に 4 人が AI によって作成されたフィッシング攻撃に陥っています。 テクノロジーは進化し続け、サイバー犯罪者により多くの選択肢が与えられます。 ChatGPT-XNUMX から ChatGPT-XNUMX へのジャンプは、パーソナライゼーションのスケーリングを新しいレベルに引き上げました。
詳しくは SoSafe.com をご覧ください
SoSafeについて
SoSafe は、組織がセキュリティ文化を構築し、GDPR 準拠の認識プラットフォームでリスクを軽減するのに役立ちます。 博士による2018 Niklas Hellemann、Lukas Schaefer、Felix Schürholz によって設立された SoSafe は現在、世界中に 3.000 を超える顧客を持ち、ヨーロッパにおけるセキュリティ意識とトレーニングの主要プロバイダーの 370 つです。 SoSafe は、行動心理学の要素とスマートなアルゴリズムを使用して、パーソナライズされた学習体験と攻撃シミュレーションを可能にし、オンラインの脅威から積極的に身を守るように従業員を動機付けてトレーニングします。 SoSafe チームは現在、ケルン (本社)、アムステルダム、ベルリン、ロンドン、パリの XNUMX か所に XNUMX 人以上の従業員で構成されています。