ChatGPT のようなチャットボットが増加しています。人工知能は自然な無知に対処できます。 他のマシンがユーザーをだまそうとしていることを検出するために、インテリジェントなマシンがますます必要になっています。 ソフォスのサイバーセキュリティ エキスパート、Chester Wisniewski からのコメントです。
人工知能をベースとしたチャットボットChatGPTが世界的に話題となり、株式市場や著作権環境の報道に加え、ITセキュリティも話題になっています。 メーカーのあらゆるセキュリティへの取り組みにもかかわらず、最近認識されたこのツールのより広範な可用性は、ソーシャル ネットワークを介したロマンス詐欺や電子メールを介したビジネス指向の侵害攻撃など、フィッシングの餌やダイアログ指向の詐欺に関して、新たな課題をもたらしています。
AIが考案した侵入攻撃
「最大のリスクの XNUMX つは、攻撃者がこれらのプラットフォームを使用して、フィッシングルアーの品質を大幅に向上させることです。 これにより、観察力のあるユーザーであっても、フィッシング攻撃を特定することがますます困難になっています」と、ソフォスのサイバーセキュリティ エキスパートである Chet Wisniewski は述べています。 「最終的に、進化し続ける AI チャットボットは、あらゆる種類のソーシャル エンジニアリング攻撃に対して無料のアップグレードを提供します。 ChatGPT のようなプログラムを使用して、電子メールを介して犯罪志向の非常に現実的なインタラクティブな会話を行ったり、Facebook Messenger、WhatsApp、またはその他のチャット アプリを介してチャット攻撃を開始したりできます。
今日、最大の危険は英語を話すターゲット グループです。 ただし、世界で一般的に話されているすべての言語で信頼できるテキストを作成するための新しいバージョンが利用可能になるのは、おそらく時間の問題です。 私たちは、機械が生成した散文と人間が書いた散文を区別することがますます困難になっている段階に達しました。
IT セキュリティの転換点
この開発は、従業員のトレーニングと IT セキュリティの分野における既存の標準の転換点を表しています。 組織が従業員に依存して、文法エラー、スペル ミス、または奇妙な言い回しを監視することにより、サイバー攻撃に対する防御に積極的な役割を果たすことができる時代は終わりました。 トレーニング プログラムの最後の効率的な要素の XNUMX つは、ChatGPT のようなチャットボットによって損なわれます。次の XNUMX つの例が示すように、非常に効果的です。
他人の給料を攻撃者のアカウントに送り込もうとする BEC (Business Email Compromise) 詐欺師の元のおとりテキストは、「本物ではない」と簡単に見破られます。 対照的に、ChatGPT の対応するテーマのキーポイントを入力して作成された以下のバリアントがあります。
攻撃者からのデフォルトの詐欺メール
やあ …。、
古い口座が dd 支払いを受け入れることができなくなったため、銀行を変更しました。給与の口座振替の詳細を変更したいのですが、変更は現在の支払い日に有効になりますか?
ありがとう、 …。
AI ChatGPT によって書かれたテキスト
🔎 AI ChatGPT によって書かれたテキストは、一見リアルに聞こえます (画像: Sophos)。
人事各位
会社の給与システムの口座振替情報を更新してほしいとのことで、現在の銀行口座情報が無効になり、新しい銀行に切り替える予定です。
口座振替情報を更新するために必要な情報を教えてください。 必要な詳細情報を提供させていただきます。
また、次の給与計算期間に間に合うようにこの更新を行うようにお願いしたいと思います。 スムーズな移行を確実にするために他に必要なことはありますか?
ご清聴ありがとうございました。 私の給料が正しい口座に入金されるように、あなたの助けに感謝します.
引き続きよろしくお願いいたします。
[あなたの名前]
「この例は、実在の人物のメールのように聞こえ、句読点、スペル、文法が適切です。 彼女は完璧ですかいいえ。 彼女は十分ですか？ いかなる場合でも！ 詐欺師は、巧妙に作成されていないおとりからすでに数百万ドルを稼いでいるため、この AI プッシュ通信の新しい次元を想像するのは簡単です。 WhatsApp または Microsoft Teams を介してこのボットとチャットすることを想像してみてください。 彼らはマシンを認識したでしょうか?」Wisniewski 氏は、チャットボットを使った彼の「創造的な仕事」について語っています。
今すぐニュースレターを購読する
月に一度、B2B CYBER SECURITY からの最高のニュースをお読みくださいAI はユーザーをほぼ完全に騙すことができる
実際、AI 分野のほぼすべてのタイプのアプリケーションは、ほぼ 100% の確率で人間をだますことができるレベルにすでに達しています。 ChatGPTでできる「会話」の質は素晴らしく、例えば本物の写真と（人間には）ほとんど見分けがつかない偽の人間の顔を生成する機能もすでに現実のものとなっています。 このようなテクノロジーの犯罪の可能性は計り知れません。たとえば、ダミー会社を介して詐欺を実行したい犯罪者は、単純に 25 の顔を生成し、ChatGPT を使用して伝記を書きます。 いくつかの偽の LinkedIn アカウントを追加すれば、準備完了です。
逆に言えば、「良い面」も技術に立ち向かわなければなりません。 Wisniewski 氏は、「ますます危険性を増すインターネットの海に立ち向かうには、全員がアイアンマン スーツを着用する必要があります。 「他のマシンが私たちをだまそうとしていることを検出するマシンが必要になってきているようです。 GPT-2 で生成されたテキストを認識できる Hugging Face によって、興味深い概念実証が開発されました。これは、GPT-3 出力を認識するために同様の技術を使用できることを示唆しています。」
残念ながら真実: AI は、エンド ユーザーのセキュリティ意識の棺桶に最後の釘を打ち込みました。
「これを完全にやめるべきだと言っているのですか？ いいえ、しかし期待を下げる必要があります。 IT セキュリティの観点から、これまでも、そして現在も適用されていることが多いベスト プラクティスに従うことは確かに問題ではありません。 ユーザーにこれまで以上に疑いを持たせる必要があり、最も重要なことは、個人情報や金銭的アイテムへのアクセスを含むメッセージを綿密にチェックすることです。 それは、質問をしたり、助けを求めたり、物事が実際に見た目どおりであることを確認するために必要な余分な時間をとることです. それはパラノイアではなく、詐欺師にだまされたくないという意志です。」
詳細は Sophos.com をご覧ください
ソフォスについて ソフォスは、100 か国の 150 億人を超えるユーザーから信頼されています。 複雑な IT の脅威とデータ損失に対する最高の保護を提供します。 当社の包括的なセキュリティ ソリューションは、導入、使用、管理が簡単です。 業界で最も低い総所有コストを提供します。 ソフォスは、受賞歴のある暗号化ソリューション、エンドポイント、ネットワーク、モバイル デバイス、電子メール、および Web 向けのセキュリティ ソリューションを提供しています。 また、独自の分析センターのグローバル ネットワークである SophosLabs からのサポートもあります。 ソフォスの本社は、米国のボストンと英国のオックスフォードにあります。