Open AI の ChatGPT ソフトウェアが波を起こしています。 AI の助けを借りて、チャットボットはさまざまな質問に非常に雄弁に答えます。 そのため、新しいテクノロジーでは常にそうであるように、犯罪者がこれらの機能を自分たちの目的に使用する方法をすでに考えていることは驚くべきことではありません。
Europol、Unicri、Trend Micro による共同研究で、これが調査されました。 これらの結果によると、フィッシングや BEC などのより優れたソーシャル エンジニアリング ツールを Open AI ソフトウェアに使用することを検討できます。 現在、他のセキュリティ研究者も、現在誇大宣伝されている AI で生成された詐欺メールを調査し、脅迫的な結果を受けています。 また、犯罪者はすでにアンダーグラウンド フォーラムで ChatGPT をダーク ウェブに持ち込む方法について話し合っているようです。
ChatGPTの役割
ChatGPT が現在開かれている伝説的な「パンドラの箱」の役割を果たしているのではなく、遅かれ早かれサイバー犯罪での AI の使用につながる予見可能な開発の最初の段階を表しているにすぎないことは明らかです。 Open AI の開発者にとって、リリースは長い開発の暫定的な集大成かもしれませんが、IT にとっては、旅はまだ始まったばかりです.ChatGPT は新しい可能性を示し、他のさまざまな人々に同じことをするよう促します. 基礎となるテクノロジーは一般に公開され、より大きなソリューションのコンポーネントとして費用対効果が高く賢明に使用されます。 IT の一般的かつ前向きな発展。 コインの逆は、犯罪者もそれにアクセスして、テクノロジーを効率的に使用できるようになるということです。
フィッシング・攻撃メール
フィッシング電子メールは、さらなる犯罪活動の最初の出発点を作成するために、ほとんどのタイプの攻撃に対する標準的なプログラムの一部です。 そして、それはしばしばそれほど簡単ではありません。 そのため、デジタル アンダーグラウンドには別のサービス セクターもあり、いわゆる「Access-as-a-Service」を高品質で提供しています。価格の問題だけです。 犯罪者にとっての問題は、テクノロジーと人間の直感の両方が攻撃を傍受できることです。そのため、攻撃は一斉に (数十億) 実行されるか、多額の費用をかけて人間の介入によって実行されます。
有効性を高める AI は、このグループの加害者にとって非常に魅力的に聞こえます。 ChatGPT を使用した現在の最先端技術は、メールをより信頼できる形で作成するのに役立ちます。 セキュリティ トレーニング コースでよく言及される表現やスペル ミスが排除され、新しいコンテンツがより迅速に生成されるため、メールは「より魅力的」に見えます。
エラーのない電子メールはユーザーを騙しやすい
しかし、セキュリティ研究者が Access-as-a-Service での AI の使用を検討する際に懸念するのは、「より良い」フィッシング メールではありません。 むしろ、被害者と興味深いコミュニケーションを行うことができるような AI を作成し、現在の標的型攻撃に伴う膨大な労力を削減できるのではないかと懸念されています。 これが成功すれば、今後のフィッシング メールは実際のビジネス コミュニケーションと区別できなくなります。
被害者は、たとえばソーシャル メディアを介して入手できる知識が統合された個人攻撃に直面します。 Emotet 攻撃の亜種は、被害者が以前に実際に送信した電子メールへの応答として攻撃電子メールを作成することで、この攻撃の影響をすでに実証しています。幸いなことに、AI のサポートはなく、一般的に生成されたコンテンツを使用しています。 この手口が知られているダイナマイト フィッシングは、非常に効果的であることがすでに証明されています。
詐欺 – ビジネスメール詐欺 (BEC)
近年のAIの進歩は、とりわけ言語と対人コミュニケーションに見られます。 ChatGPT のもう XNUMX つの特別な点は、ソフトウェアが既存のものを使用するだけでなく、人々にとって興味深い新しいコンテンツを生成することです。 これは、この分野のサイバー犯罪者によって使用されていることを示唆しています。 すべての詐欺の変種には対人コミュニケーションがあります。
たとえば、企業部門では、これは、従業員が上司や重要な顧客と通信していると信じ込ませるビジネス電子メール侵害 (BEC) 手法です。 また、さまざまなロマンス詐欺や悪名高い「ナイジェリアの王子様」など、私的な領域にも多種多様な亜種があります。 要するに、被害者は、直接的で、しばしば長いコミュニケーションで説得され、無意識に加害者にお金を送金することになります。 ChatGPT の現在の可能性では、メールは文化的に最適化されている必要があります (たとえば、詩を使用)。
言葉の壁？ AIなら問題ない
しかし、ここでも懸念されるのはさらなる拡大段階です。 最初に陥りやすいのは言葉の壁です。 AI は今日、ドイツ語ですでに利用可能です。 以前の翻訳オプションは、単語や文をドイツ語化できますが、人の文化的背景をうまくごまかすだけです。 AIはこれを行うことができます。 ディープ フェイクの分野では、リアルタイムで人の顔を交換できる関連技術がすでに存在しており、ビデオによる識別がより困難になっています。
さらに、多くの実績のある詐欺スキームがあります。 したがって、AI は成功事例で簡単にトレーニングでき、人々を説得する最善の方法を学習できます。 加害者は効率を上げるだけでなく、同時に攻撃する被害者の数も増やすことができます。 しかし、詐欺に特化した AI は、まだまったく評価できないまったく異なるアプリケーション シナリオにつながる可能性があります。
AIによるマルウェア作成
Trend Micro のビジネス コンサルタント、Richard Werner 氏 (画像: Trend Micro)
ChatGPT は、ソフトウェア/コードの開発とデバッグも行うことができます。 したがって、理論的にはマルウェアも生成される可能性があります。 これは、概念実証テストですでに証明されています。 Open AI の開発者は、これを防ぐためにポリシーを定期的に調整していますが、それがどのように機能するかの例は常にあります。
まだハードルがあります。作成されたコードは機能しますが、要求者による正確な説明が必要です。 また、特にソフトウェア開発において、AI によって生成されたコードはまだ説得力がないことも議論されています。 したがって、ChatGPT は、今日の断固たるサイバー犯罪者にとってはほとんど役に立たない可能性があります。 ただし、ここでも拡張段階が予見できます。
遅かれ早かれ攻撃ソフトウェアが AI によって作成されることは明らかです。 たとえば、これにより、脆弱性の発見、パッチの適用、サイバー攻撃までの時間がわずか数分に短縮されます。技術的な才能のない犯罪者であっても同様です。 しかし、これらはすべて、セキュリティの分野で解決策があるよく知られた課題です。 業界はすでに、300.000 日あたり XNUMX を超える新しい悪意のあるファイルに直面しています。 私たちはゼロ日と数時間について話しています.AIは私たちのために仕事を引き継いでいます.
結論: ChatGPT は IT セキュリティの未来を変えていますか?
ChatGPT はこの開発を開始したのではなく、科学界で長い間議論されてきたことを一般に公開しただけです。 AI の使用は、特に最初の感染において役割を果たすと想定できます。 ここで Access-as-a-Service は顧客を奪い合い、AI は莫大な労力を最小限に抑えるか、大規模な攻撃の成功を改善することができます。 その結果、企業は、攻撃者が主要な防御メカニズムをこれまで以上に回避できるようになると想定する必要があります。
詳しくは TrendMicro.com をご覧ください
トレンドマイクロについて トレンド マイクロは、IT セキュリティの世界有数のプロバイダーとして、デジタル データ交換のための安全な世界の構築を支援しています。 30 年以上にわたるセキュリティの専門知識、グローバルな脅威研究、および絶え間ない革新により、トレンドマイクロは企業、政府機関、および消費者に保護を提供します。 当社の XGen™ セキュリティ戦略のおかげで、当社のソリューションは、最先端の環境向けに最適化された防御技術の世代を超えた組み合わせの恩恵を受けています。 ネットワーク化された脅威情報により、より優れた迅速な保護が可能になります。 クラウド ワークロード、エンドポイント、電子メール、IIoT、およびネットワーク向けに最適化された当社のコネクテッド ソリューションは、企業全体にわたって一元化された可視性を提供し、より迅速な脅威の検出と対応を実現します。