犯罪者は人工知能を使用しています - ディープフェイクだけではありません。 Europol、UNICRI、および Trend Micro は、現在および将来の AI の脅威について報告しています。
トレンドマイクロは本日、ユーロポールおよび国連地域間犯罪司法研究所 (UNICRI) と共同で作成した新しい調査レポートをリリースしました。 その中で、セキュリティ研究者は、犯罪者による人工知能 (AI) の現在および将来の使用の可能性を扱っています。 このレポートは、法執行機関、政策立案者、およびその他の組織に、人工知能を使用した現在および将来の潜在的な攻撃に関する情報と、これらのリスクを軽減するための推奨事項を提供します。
AI テクノロジーの潜在的なメリット
「AI は、世界により多くの効率性、自動化、自律性を約束します。 AI の悪用の可能性に対する世間の関心が高まっている現在、私たちは脅威を明らかにするだけでなく、AI テクノロジーの潜在的な利点を調べる必要があります」 「このレポートは、潜在的な悪意のある AI の使用や悪用を予測するのに役立つだけでなく、これらの脅威を積極的に防止および軽減するのにも役立ちます。 このようにして、私たちは AI の可能性を解き放ち、AI システムの積極的な利用から利益を得ることができます。」
このレポートは、サイバー犯罪者が AI を攻撃ベクトルとしても攻撃面としても使用すると結論付けています。 ディープフェイク (写真、オーディオ、ビデオなどのリアルに見えるメディア コンテンツを AI によって変更および歪曲したもの) は、現在最もよく知られている攻撃ベクトルとしての AI の使用ですが、レポートは、将来的には新しいスクリーニング技術が必要になると警告しています。偽情報キャンペーンや恐喝、AI データセットを標的とする脅威のリスクを軽減します。
AI は次の種類の攻撃をサポートできます
- 説得力のある大規模なソーシャル エンジニアリング攻撃
- ドキュメントから特定のデータを大規模に抽出できるマルウェア (ドキュメント スクレイピング)
- 画像認識と音声バイオメトリクスをバイパス
- 被害者をより正確に標的とし、保護メカニズムをバイパスするランサムウェア攻撃
- 検出ルールの盲点を特定することによるデータ汚染
「AI アプリケーションが現実の世界に与える影響が大きくなるにつれて、これが将来的に基本的なテクノロジーになることが明らかになります」と、UNICRI の AI およびロボティクス センターの責任者である Irakli Beridze は説明します。 「しかし、AI が社会に真の利益をもたらすのと同様に、悪意のある使用の脅威も同様です。 Europol および Trend Micro と力を合わせて、AI の暗黒面に光を当て、この重要なトピックに関するさらなる議論を促進できることを光栄に思います。」
レポートはまた、マルウェアの有効性を改善し、マルウェア対策や顔認識システムを破壊するために AI システムが開発されていることも警告しています。
AI がパスワードを計算し、CAPTCHA コードを解読し、音声を複製します
「サイバー犯罪者は常に最新のテクノロジーを最初に採用した者の XNUMX つであり、これは AI にも当てはまります。 私たちのレポートが示すように、それはすでにパスワード クラッキング、CAPTCHA コードの解読、および音声の複製に使用されています。 そして、さらに多くの悪意のある技術革新が進行中です」と、Trend Micro の前向き脅威研究チームの責任者である Martin Rösler は述べています。 「ユーロポールとUNICRIと協力してこの脅威に対する認識を高め、そうすることで、私たち全員にとってより安全なデジタルの未来を創造できることを誇りに思います。」
レポートの最後で、XNUMX つの組織は AI に対処するためのさまざまな対策を推奨しています。
- AI テクノロジーの可能性を犯罪対策ツールとして活用し、サイバーセキュリティ業界と法執行機関の将来を保証する
- AI分野の研究を継続し、より多くの防衛技術を開発する
- 安全な AI 設計フレームワークの推進と開発
- サイバーセキュリティ目的での AI の使用に関する政治的に非難されたレトリックの緩和
- 官民パートナーシップの活用と学際的な専門家グループの設立
調査レポート全体はオンラインで入手できます。
TrendMicro.com のレポートに直接アクセスしてください
トレンドマイクロについて トレンド マイクロは、IT セキュリティの世界有数のプロバイダーとして、デジタル データ交換のための安全な世界の構築を支援しています。 30 年以上にわたるセキュリティの専門知識、グローバルな脅威研究、および絶え間ない革新により、トレンドマイクロは企業、政府機関、および消費者に保護を提供します。 当社の XGen™ セキュリティ戦略のおかげで、当社のソリューションは、最先端の環境向けに最適化された防御技術の世代を超えた組み合わせの恩恵を受けています。 ネットワーク化された脅威情報により、より優れた迅速な保護が可能になります。 クラウド ワークロード、エンドポイント、電子メール、IIoT、およびネットワーク向けに最適化された当社のコネクテッド ソリューションは、企業全体にわたって一元化された可視性を提供し、より迅速な脅威の検出と対応を実現します。