イスラエルのセキュリティ研究者らによると、ハッカー集団はすでに人工知能（AI）を使って新メンバーを訓練しているという。 また、AI の支援を受けてマルウェアを改良し、攻撃を自動化し、通常は犯罪行為をスムーズに実行します。
一方、マッキンゼーの経営コンサルタントは、2022 年の調査を通じて、調査対象の企業の 50 パーセントが、少なくとも 2017 つのビジネス分野の業務をサポートするために AI を使用していることを発見しました。20 年には、それはわずか 60 パーセントでした。 フォーブス誌によると、調査対象となった起業家の 64% が AI によって会社全体の生産性が向上すると信じており、42% が業務生産性の向上を信じており、XNUMX% が業務プロセスの改善に関係しているとのことです。
この並置は、同じテクノロジーが良い目的にも悪い目的にもどのように使用されるかをよく示しています。 現在人々を最も駆り立てている懸念は、AI が自らの悪用を防ぐために、アプリケーションのどの分野が良いか悪いかを学習できるかということです。
ChatGPT と Google Bard はハッカーを支援します
- 自動化されたサイバー攻撃: どちらのツールも市場に出回って以来、当社のセキュリティ研究者は、感染したコンピュータやその他の自動化システムをリモートで制御するボットの急増を目にしてきました。 これらは、膨大な数のアクセス要求によりサーバーまたはシステム全体を麻痺させる可能性がある DDoS 攻撃に最適です。 この理由からも、昨年 IT 攻撃は世界中で 38% 増加しました。
- マルウェアの作成を支援する、フィッシングメール、ディープフェイク、およびサイバー攻撃の設計: ハッカーは、ChatGPT がマルウェアのコマンド ラインを作成したり、フィッシングメールを作成したりできることを早い段階で認識していました。後者は、犯罪者が自分で作成できるよりも優れた英語またはドイツ語で書かれています。 また、ChatGPT と Google Bard は入力ごとに学習するため、画像、ビデオ、さらには録音などの複雑なコンテンツを作成することもできます。 ここでディープフェイクの危険性が生じます。 これは、たとえそれが偽物であっても、私たちが慣れ親しんでいる方法で特定の人物を示し、語る映画を意味します。 現代のテクノロジーにより、顔の表情、身振り、声を偽造することが可能になります。 バラク・オバマ氏、ジョー・バイデン氏、ヴォロディミル・ゼレンスキー氏、ウラジーミル・プーチン氏はすでにこうしたディープフェイクの被害に遭っている。
- 軽犯罪者 優れたプログラミング能力がなくてもハッカーになる可能性があります。このような AI 主導のチャットボットの助けを借りて、前述のようにハッカー集団が新しいメンバーを訓練したり、犯罪傾向のある人々がすぐにいじくり回して小規模な IT 攻撃を仕掛けたりすることができます。 これにより、いわばミニ攻撃や新たなハッカー グループが大量に発生することになります。
この悪用を防ぐために、ChatGPT の製造元である OpenAI 社は、いくつかのセキュリティ デバイスを設置し、国を使用から除外しましたが、これは長くは続きませんでした。まず、チャットボットに巧みに質問することでリクエストのブロックを回避し、次に国の制限を覆し、次にプレミアム アカウントが盗まれて大規模に販売され、現在では ChatGPT のクローンさえも API インターフェイスの形式でダークネット上で提供されています。
AI 自体が悪用されにくくする XNUMX つの方法は、AI 自体をトレーニングすることです。 エンジニアは、AI から学習した知識を削除することは不可能であることに同意しています。そのため、AI が自ら特定のルールを遵守できるように、最初からある種の倫理カタログを AI に教え込む必要があります。 これは、単に一部の行為を禁止する法律でも可能です。
詳細は Checkpoint.com をご覧ください
チェックポイントについて Check Point Software Technologies GmbH (www.checkpoint.com/de) は、世界中の行政機関や企業にサイバー セキュリティ ソリューションを提供する大手プロバイダーです。 このソリューションは、業界をリードするマルウェア、ランサムウェア、およびその他の種類の攻撃の検出率で、サイバー攻撃から顧客を保護します。 チェック・ポイントは、クラウド、ネットワーク、モバイル デバイス全体で企業情報を保護する多層セキュリティ アーキテクチャと、最も包括的で直感的な「ワンポイント コントロール」セキュリティ管理システムを提供します。 チェック・ポイントは、あらゆる規模の 100.000 以上の企業を保護しています。