XNUMX つの調査レポートでは、攻撃に AI が現在使用されていることが示されており、その一方で、ダーク Web フォーラムを調査することで、人工知能に対するサイバー犯罪者の態度が分析されています。驚き: すべての犯罪者が AI の利点を確信しているわけではありません。
ソフォスは本日、サイバー犯罪における AI の使用に関する XNUMX つのレポートを発表しました。レポート 「AIのダークサイド：生成AIが可能にした大規模詐欺キャンペーン」 では、特定のケーススタディを使用して、詐欺師が将来どのように ChatGPT などのテクノロジーを使用して、最小限の技術スキルで大規模な詐欺攻撃を実行できるかを検証しています。 XNUMX回目のレポート 「サイバー犯罪者は GPT に同意できない」 さまざまなダークウェブフォーラムの調査を紹介します。この結果は、一部のサイバー犯罪者が、チャットボットやその他の AI テクノロジーの潜在的な可能性にもかかわらず、現在の使用に懐疑的であることを示しています。
「ダークウェブ上で、AI が社会に及ぼす潜在的な悪影響やその使用の倫理的影響に関する多数の投稿を発見しました。言い換えれば、少なくとも現時点では、サイバー犯罪者は人工知能について他の人々と同じ議論をしているようです」とソフォスの X-Ops 研究担当ディレクター、クリストファー・バッド氏は述べています。
AI: 人工知能の暗い側面
Sophos X-Ops は、シンプルな e コマース テンプレートと GPT-4 などの優れた言語モデル ツールを使用して、AI で生成された画像、音声、製品説明に加え、偽の Facebook ログイン ページと偽のチェックアウトを備えた完全に機能する Web サイトを作成することができました。ページにアクセスして、個人のログイン情報とクレジット カード情報を収集します。ウェブサイトの作成と運用には、最小限の技術的知識が必要でした。同じツールを使用すると、ボタンをクリックするだけで、数百もの同様の Web サイトを数分で作成することもできました。
ソフォスのシニア データ サイエンティストであるベン ゲルマン氏は、「犯罪者ができる限り効率的に業務を自動化するために新しいテクノロジーを使用するのは自然であり、予想されることです」と述べています。 「スパムメールの最初の作成は、犯罪の舞台の規模を大きく変えたため、詐欺の歴史において重要なステップでした。現在の人工知能の発展にも同様の可能性があり、完全に自動化された脅威を生成できる AI テクノロジーが登場するとすぐに使用されることになります。現在観察されている生成型 AI 要素の典型的な詐欺への統合 (たとえば、AI が生成したテキストや写真を介して被害者を引き付けるなど) は始まりにすぎません。」
現在の研究プロジェクトの意図について、ゲルマン氏は次のように述べています。「私たちが現在のプロジェクトを実施している理由の XNUMX つは、犯罪者の一歩先を行くためです。犯罪者が現在使用しているツールよりも高度な大規模な詐欺 Web サイト作成システムを作成することで、脅威が広がる前に脅威を分析し、それに備える独自の能力を獲得しています。」
サイバー犯罪者は GPT と Co の可能性に疑問を抱いています
AI 研究攻勢の第 XNUMX 弾において、ソフォスはサイバー犯罪者による AI の使用は初期段階にあるようですが、これらのプラットフォーム上の脅威アクターはすでにソーシャル エンジニアリングの可能性について集中的に議論しています。その一例が、現在のロマンス詐欺の「ブタ予約」の波です。
さらに、ソフォスは、ほとんどの投稿が、販売用の侵害された ChatGPT アカウントと「脱獄」 (LLM に組み込まれた保護をバイパスし、サイバー犯罪者が悪意のある目的でツールを悪用できるようにする方法) に関連していることを発見しました。研究チームはまた、開発者らがサイバー攻撃やマルウェア開発に使用できると主張するChatGPTアプリケーションXNUMX個を発見した。しかし、そのようなツールの有効性はダークウェブコミュニティの一部によって強く疑問視されており、時には役に立たないプログラムで不正行為をしようとしているとさえみなされました。
人工知能に関する議論
「一部のサイバー犯罪者が LLM を使用してマルウェアや攻撃ツールを作成しようとするのを目撃しましたが、その結果は初歩的なものであり、他のユーザーからは懐疑的な見方を受けることがよくありました。 AI が社会に与える潜在的な悪影響や、AI の使用の倫理的影響についての投稿も多数見つかりました。言い換えれば、少なくとも現時点では、サイバー犯罪者は人工知能について他の人々と同じ議論をしているようです」とソフォスの X-Ops 研究担当ディレクター、クリストファー・バッド氏は述べています。
AI が生成した詐欺 Web サイトと LLM に対する脅威アクターの態度の詳細については、英語のレポート全文をご覧ください。 「AIのダークサイド：生成AIが可能にした大規模詐欺キャンペーン」 と 「サイバー犯罪者は GPT に同意できない」 検索します。
詳細は Sophos.com をご覧ください
ソフォスについて ソフォスは、100 か国の 150 億人を超えるユーザーから信頼されています。 複雑な IT の脅威とデータ損失に対する最高の保護を提供します。 当社の包括的なセキュリティ ソリューションは、導入、使用、管理が簡単です。 業界で最も低い総所有コストを提供します。 ソフォスは、受賞歴のある暗号化ソリューション、エンドポイント、ネットワーク、モバイル デバイス、電子メール、および Web 向けのセキュリティ ソリューションを提供しています。 また、独自の分析センターのグローバル ネットワークである SophosLabs からのサポートもあります。 ソフォスの本社は、米国のボストンと英国のオックスフォードにあります。