ChatGPT のバージョン 4 への更新は待ち望まれており、製造元の Open AI によると、「最も高度な」AI テクノロジであると言われており、司法試験にも合格し、最高点を獲得しています。 ただし、ソフォスのセキュリティ専門家であるチェスター ウィスニエフスキー氏のインタビューによると、ChatGPT が再現できるのは、事実に基づいたテキストではほとんど認識できない嘘だけです。
IT セキュリティ業界の代表者は、チャット AI の急速な発展をどのように見ており、その結果生じる機会と考えられる不利な点をどのように分類していますか? ソフォスの主任研究員であるチェスター ウィスニエフスキーがいくつかの質問に答えました。 彼の結論は次のとおりです。利益はおそらく害を上回ります。
GPT 3 と新しい GPT 4 の違いは何ですか?
多くのことが変更され、改善されましたが、すべてがわかっているわけではありません。 OpenAI は、このリリースで以前よりもカードを少し強化しているため、すべての改善点が公開されているわけではありません。 全体として、以前のバージョンよりも賢く、正確で、機能が向上しているように見えます。これにより、反応がさらに現実的で有能になるはずです. 虚偽の情報を広める可能性は低くなりますが、依然としてかなりのうそつきであることを覚えておくことは重要です。
そのような生成的で事前に訓練された変換器を公開することは倫理的ですか?
彼は、善人だけでなく悪人にも利用可能です。 技術の進歩は、瓶の中の精霊のようなものです。 不快になったらすぐに片付けることはできません。 OpenAI が実施しようとしている保護機能を備えた ChatGPT のようなツールを利用できるようにすることは、有益なことよりも害を及ぼす可能性が低い. AI の犯罪的な悪用は避けられませんが、これらのツールを責任を持って使用することで得られる利益は、悪用をはるかに上回る可能性があります。
システムのガードレールを破る迅速なエンジニアリングの例はすでに数多くあるようで、間接的な迅速な注入の例が少なくとも XNUMX つあります。 悪用できない GPT モデルを作成できるようになると思いますか?
🔎 インタビュー: ソフォスのセキュリティ エキスパート、Chester Wisniewski (画像: Sophos)。
いいえ。 より詳細な回答はおそらくより歓迎されるでしょうが、悪用を防ぐように設計されているだけでなく、システムが自律的に機能するように設計されているシステムは、おそらく常に回避可能です. しかし、OpenAI やその他の AI 研究者が、人々が防御を回避する方法についてより多くのことを学ぶにつれて、これはより困難になります。 将来的には、サイバー犯罪の巧妙さが大幅に高まることを願っています。 ただし、システムを侵害する可能性は依然としてあります。
ChatGPT は何か新しいものを作成していますか、それとも単に言われたことを実行しているだけですか? モデルが不正確さを学習または教えられた場合はどうなりますか?
ChatGPT が再現できるのは嘘だけです。 私が知っている最高のナルシストに匹敵する、かなり説得力のある嘘つきです。 モデルは確かに不正確または不正確なことも教えられており、これらの事実の不正確さをいつ回答に組み込むかを予測することはほとんど不可能です.
Big AI は Big Tech が所有します。 プロンプトに含まれる企業の個人データや機密データは、特定の AI モデルにフィードされない可能性がありますが、大手テクノロジー企業は確実に利用できるようになります。 また、大企業の所有者のビジネス モデルは、多くの場合、そのようなデータを最高入札者に販売することに依存しています。 GPT スタイルのパブリック AI のプライバシー面について何かできることはありますか?
今日の AI システムのほとんどのユーザーにとって、ChatGPT のようなモデルを使用するために同意した約束とライセンス契約を信頼する以外に選択肢はほとんどありません。 ただし、これらのモデルの多くは信じられないほど効率的に開発されているため、将来、PC、ラップトップ、さらには電話で実行できなくなる理由はありません. モデルのトレーニングは計算集約的ですが、実行はそうではありません。 古いモデルは、オープン ソースとして提供されるか、クラウドソーシングで提供されることもあるため、使用したい人は誰でも利用できます。 最も最先端のモデルは大手テック企業の手に残る可能性が高いですが、必要に応じて、「十分に優れている」以上のモデルがポケットに入っている iPhone で動作する可能性があります。
詳細は Sophos.com をご覧ください
ソフォスについて ソフォスは、100 か国の 150 億人を超えるユーザーから信頼されています。 複雑な IT の脅威とデータ損失に対する最高の保護を提供します。 当社の包括的なセキュリティ ソリューションは、導入、使用、管理が簡単です。 業界で最も低い総所有コストを提供します。 ソフォスは、受賞歴のある暗号化ソリューション、エンドポイント、ネットワーク、モバイル デバイス、電子メール、および Web 向けのセキュリティ ソリューションを提供しています。 また、独自の分析センターのグローバル ネットワークである SophosLabs からのサポートもあります。 ソフォスの本社は、米国のボストンと英国のオックスフォードにあります。