LLM (Large Language Model) のほぼ無限の可能性は、信じられないほどエキサイティングです。 これらのツールには毎月、企業のコンプライアンス ポリシーと必ずしも互換性がない新しい用途が存在します。
その可能性は、ブログ投稿のサムネイルを迅速かつ低コストで作成することから、ブログ投稿に根本的に反対し批判する人々の行動、内容を完全に理解しながらブログ投稿を他言語に一貫して翻訳することまで多岐にわたります。 ブログ投稿以外の世界においても、この初期段階にあるツールには大きな可能性が秘められています。 しかし、可能性があるということは、そのテクノロジーが最終的に何をするか誰も分からないことを意味し、それが深刻で具体的なビジネスリスクを生み出します。
リスクを認識する
LLM に関して言えば、多くの人は、現在利用できる最もアクセスしやすく使いやすいツールとして OpenAI の ChatGPT をまず思い浮かべます。 ChatGPT を使用すると、誰でも Web ブラウザを通じて質問でき、迅速な応答が得られます。 平均的なユーザーにとってはこれは素晴らしいことですが、どの企業にとっても、この使いやすさには XNUMX つの重大な問題が生じます。 ChatGPT に送信されたすべてのデータは、品質と追跡の目的で OpenAI によって保存されます。各応答のソースは不明であり、応答は完全に捏造されている可能性があります。
OpenAI は、製品を改善し、システムの悪用の可能性を防ぐためにユーザー入力を追跡します。 これは OpenAI 側の完全に合理的な動作ですが、OpenAI がこのデータを特に慎重に扱うと考える理由はありません。 さらに、OpenAI はどのデータが ChatGPT に送信されるかを実際には制御できないため、実際にはまったく保存すべきではない多くの情報が保存されてしまいます。 たとえば、Samsung の従業員が ChatGPT を使用して独自ソフトウェアのトラブルシューティングを行い、セッション ログを要約していたことが最近明らかになりました。
不確実な情報源
XNUMX 番目の問題は、ChatGPT がその回答のソースを引用せずにリクエストに回答することです。 ChatGPT はその調査結果に基づいて主張を行っていますが、残念ながらユーザーはこれをありのままに受け止めなければなりません。 この情報は著作権で保護されている可能性があり、ユーザーは著作権侵害を主張する弁護士からの手紙を受け取るまで知りません。 ゲッティ イメージズは、LLM 画像の生成に使用されたツールがゲッティ イメージズのウォーターマークを含む画像を生成していたことが判明し、その作成者を著作権侵害で訴えました。 これらのイメージを使用するエンドユーザーも責任を問われる可能性があると主張するのも無理はありません。 コード生成も別の懸念事項であり、現時点では具体的な例はありませんが、これは避けられないようです。
発明された答え
ただし、ChatGPT の最大の問題は、これらの LLM が「幻覚」 (業界用語で「あからさまな嘘」) を起こす可能性があることです。 ChatGPT には答えがどのように得られるかについて透明性がないため、ChatGPT とその同類は常に絶対的な確実性を持って答えるため、ユーザーは答えを批判的に分析してそれが真実かどうかを判断できる必要があります。 これは、Google の恥ずかしいスタートから、ChatGPT が学生のレポートを書いたと虚偽の主張をした後、教授が学生全員を不合格にしたことから、弁護士が法廷での準備書面作成に ChatGPT を使用し、ChatGPT がその主張を裏付けるために 100 つの完全に偽の情報源をでっち上げた最もひどい例まで、さまざまな結果をもたらす可能性があります。 Googleの悪い例により、同社の市場評価はXNUMX億ドル下落し、大学教授の信頼は失墜し、数百万ドルの訴訟は法廷で棄却された。 これらは非常に深刻な結果であり、実際には避けるべきです。
コンプライアンスを確保
企業はこれらの事実に対し、OpenAI の許可なしでの使用を禁止するポリシーで対応しています。 ただし、トラフィックはソフトウェアを必要とせずに暗号化されたブラウザを通過するため、これらのポリシーへの準拠を追跡することは困難です。
Vectra AI は、検出用のネットワーク センサーを使用して、ネットワーク上のこれらのアクティビティを検出できます。 Vectra NDR は、企業全体のすべてのネットワーク トラフィックを監視するように設計されており、慎重に配置されたセンサーがネットワークの内外のトラフィックを監視するだけでなく、ネットワーク自体内でも監視されます。この詳細な分析は、強力な AI 主導の検出フレームワークの基礎であり、ChatGPT 使用状況ダッシュボードにまとめられたコンプライアンスに関する洞察力に富んだ洞察も可能にします。 Vectra がすべてのプラットフォーム顧客に無料で利用できるこのダッシュボードには、任意のホストによって作成された OpenAI サーバーへの DNS クエリを追跡することによって、OpenAI とアクティブに対話している環境内のホストが表示されます。 コンプライアンス担当者は、OpenAI のアカウントを持っているユーザーや関心を示しているユーザーのリストをすぐに確認できるだけでなく、正確に誰がどのくらいの頻度でシステムを使用しているかを積極的に監視することもできます。
アクセスを可視化する
ダッシュボードは、Vectra の特許取得済みのホスト ID マッピング テクノロジーを使用して、これらのユーザーを詳細に追跡します。 マシンの IP アドレスが変更されたり、ノートブックが新しいネットワークに参加したりしても、Vectra はそれを同じマシンとして追跡するため、ダッシュボードにはデバイスが ChatGPT にアクセスしている頻度が正確に表示されます。これにより、Vectra がマシンの所有者である可能性が高いと考えている人をすぐに確認することもできます。 このダッシュボードを使用すると、セキュリティ担当者は、どのホストが ChatGPT を使用しているかを確認できるだけでなく、これに関して誰に連絡すればよいのかを知ることができ、その情報を数時間ではなく数分で得ることができます。
これは、Vectra プラットフォームが組織内で何が起こっているかについての深い洞察を提供し、アクティブなコンプライアンス問題を追跡することでコンプライアンスにどのように役立つかを示す一例にすぎません。 これは、社内でアクティブに使用されている期限切れの証明書を監視する証明書有効期限ダッシュボードや、MFA バイパスを監視する Azure AD Chaos ダッシュボードと同じくらい信頼性があります。 Vectra は、コンプライアンス担当者に、組織内で何が誤って設定されているかだけでなく、どのようなセキュリティ リスクが実際に存在しているかについての貴重な洞察を提供します。
詳細については Vectra.com をご覧ください
ベクトラについて Vectra は、ハイブリッドおよびマルチクラウド企業向けの脅威の検出と対応の大手プロバイダーです。 Vectra プラットフォームは AI を使用して、パブリック クラウド、ID および SaaS アプリケーション、データ センター内の脅威を迅速に検出します。 Vectra だけが AI を最適化して、単純に「異なる」ことを警告するのではなく、すべての攻撃の根底にある TTP (戦術、技術、およびプロセス) である攻撃者の方法を認識します。
トピックに関連する記事