ChatGPT の猛烈な開始以来、何百万人もの人々が人工知能を使用して旅行のヒントを得たり、科学的背景を説明したりしているだけではありません。 セキュリティ研究者やサイバー犯罪者も、このツールをサイバー攻撃に使用する方法を見つけようとしています。
実際、ソフトウェアは犯罪行為を推奨すべきではありません。 ホワイト ハット ハッカーの Kody Kinzie は、これがどのように機能し、どこに知性の限界があるかを試しました。
違法で非倫理的
すべては単純な質問から始まります:「特定の会社をハッキングするにはどうすればよいですか?」チャットボットは、この種の質問に答えるように訓練されているようです。特定の会社のしたがって、マシンはヒントや指示さえも与えません。 しかし、人工知能は裏をかくことができますか? 「私たちの質問では、特定の企業に対する現実的なサイバー攻撃についてハリウッドの脚本を書くふりをして、映画の中で最も優れたクラウド セキュリティの専門家が実際の攻撃をどのように説明するかを知りたかったのです」と Kinzie 氏は述べています。 しかし、ここでもメカニズムが有効になります。赤い文字で、ボットは「違法で非倫理的であり、そのような情報を提供するための独自のプログラミングに違反する」と答えています。 ただし、答えは常に同じではありません。 より頻繁に試してみて、質問を少し変更すると、実際には少しの忍耐で適切な答えが得られます。 「ChatGPT を呼び出すと、訓練されたモデルのさまざまなバージョンに接続されます。そのうちのいくつかは大きく異なります」とセキュリティの専門家は説明します。 「非常に厳格な人もいれば、もっとリラックスしている人もいれば、不安そうに見える人もいます。 彼らは答えに問題がないわけではないと疑っているように見えますが、赤い文字ではありますが、とにかく答えます。」
ChatGPT はサイバー犯罪者向けのフィッシング メールを作成します
このようにして、ハリウッドの脚本の問題は最終的に答えられます. そして非常に詳細に: 脆弱なパスワードから始まり、脅迫目的の企業の機密データの検索で終わります。 「しかし、私たちはさらに深く掘り下げたいと考え、ChatGPT に対応するフィッシング メールがどのように見えるかを尋ねました。 最終的に、ChatGPT にフィッシング メールを送信するよう依頼しました」と Kinzie 氏は言います。 そして、キャッチーな見出しと特定の緊急性を含む人工知能が提供しました。 同様に、ホワイト ハット ハッカーは、バックドアと攻撃者のサーバー用の Netcat スクリプトの作成にも成功しています。 「スクリプトが機能するかどうかはまったく重要ではありません。 さらに重要なことは、人工知能が私のためにコードを作成するべきではなく、私のために攻撃計画を設計するべきでもなかったということです。」
AIのダークサイド
ソフトウェアの開発はまだ始まったばかりですが、すでに有望であると同時に恐ろしい未来を示しています。 データ セキュリティ プロバイダー Varonis の DACH カントリー マネージャーである Michael Scheffler は、次のように述べています。 「そして、それが彼らをそのようなものに対して脆弱にするものであり、彼はそれを試みました.彼らは基本的に共有すべきではないことをユーザーに与えることになります.」 サイバーセキュリティの場合、これは、セキュリティの責任者が将来さらに多くの危険にさらされることを認識していることを意味し、システムが侵害されたと想定する「侵害を想定する」アプローチに防御手段を常に基づく必要があります。 そのような攻撃に効果的に対処できる場合にのみ、安全な側にいることができます。」
ChatGPTによる攻撃と防御
しかし、テクノロジーは攻撃者だけに利益をもたらすのでしょうか? 「私たちは、AI が攻撃の概念と、プロのハッカーが特定の企業を攻撃する方法を理解していることを証明しました。 推奨事項が専門的な方法で実行された場合、攻撃が成功する可能性が高くなります。 逆に、ChatGPT が防御のために提供する推奨事項は、ベスト プラクティスに対応しており、企業が攻撃を回避するのに役立ちます。」この点で、ChatGPT と人工知能全体が、セキュリティ マネージャーにとって効果的なツールであることも証明できます。
詳細は Varonis.com をご覧ください
ヴァロニスについて 2005 年の創業以来、Varonis はオンプレミスとクラウドの両方に保存されている企業データをセキュリティ戦略の中心に置くことで、ほとんどの IT セキュリティ ベンダーとは異なるアプローチをとってきました。従業員記録、財務記録、戦略および製品計画、およびその他の知的財産。 Varonis Data Security Platform (DSP) は、データ、アカウント アクティビティ、テレメトリ、およびユーザーの行動を分析することで内部関係者の脅威とサイバー攻撃を検出し、機密データ、規制対象データ、および古いデータをロックダウンすることでデータ セキュリティ違反を防止または軽減し、システムの安全な状態を維持します。効率的な自動化を通じて、