A atualização do ChatGPT para a versão 4 era aguardada com ansiedade e, segundo o fabricante Open AI, é considerada a tecnologia de IA “mais avançada” e até passou no exame da ordem com notas máximas em um teste. No entanto, a única coisa que o ChatGPT pode recriar são mentiras dificilmente reconhecíveis nos textos factuais, de acordo com o especialista em segurança da Sophos, Chester Wisniewski, em entrevista.
Como um representante da indústria de segurança de TI vê o rápido desenvolvimento do chat AI e como ele classifica as oportunidades resultantes e possíveis desvantagens? Chester Wisniewski, pesquisador principal da Sophos, respondeu a algumas das perguntas. Sua conclusão: o benefício provavelmente supera o dano.
Quais são as diferenças entre o GPT 3 e o novo GPT 4?
Muita coisa mudou e melhorou, mas nem tudo se sabe. O OpenAI está mantendo seus cartões um pouco mais rígidos com este lançamento do que no passado, portanto, nem todas as melhorias foram divulgadas. No geral, parece mais inteligente, mais preciso e mais capaz do que as versões anteriores, o que deve tornar as reações ainda mais realistas e competentes. Ainda é importante lembrar que, embora seja menos provável que espalhe informações falsas, ainda é um bom mentiroso.
É ético disponibilizar publicamente um transformador pré-treinado tão generativo?
Ele está tão disponível para os bandidos quanto para os mocinhos. O progresso tecnológico é como um gênio em uma garrafa. Você não pode simplesmente guardá-lo quando ficar desconfortável. Ter ferramentas como o ChatGPT disponíveis com as proteções que o OpenAI está tentando impor provavelmente não fará mais mal do que bem. Embora o abuso criminoso da IA seja inevitável, o bem que pode advir do uso responsável dessas ferramentas provavelmente superará qualquer abuso.
Parece que já existem inúmeros exemplos de engenharia imediata quebrando os guarda-corpos do sistema, e há pelo menos um exemplo de injeção indireta indireta. Você acha que algum dia será possível criar um modelo GPT que não possa ser abusado?
🔎 Entrevista: Chester Wisniewski, especialista em segurança da Sophos (Imagem: Sophos).
Não. Uma resposta mais detalhada provavelmente seria mais bem-vinda agora, mas qualquer sistema projetado para evitar abusos, mas também projetado para permitir que o sistema funcione de forma autônoma, provavelmente sempre será contornado. Mas, à medida que a OpenAI e outros pesquisadores de IA aprendem mais sobre como as pessoas contornam suas defesas, isso se torna mais difícil. Espero e espero que isso exija muito mais destreza por parte do cibercrime no futuro. No entanto, ainda será possível comprometer o sistema.
O ChatGPT está criando algo novo ou apenas fazendo o que foi dito? E se o modelo tiver aprendido ou aprendido imprecisões?
A única coisa que o ChatGPT pode recriar são mentiras. É um mentiroso bastante convincente que rivaliza com os melhores narcisistas que conheço. O modelo certamente também aprendeu coisas que são imprecisas ou falsas, e é quase impossível prever quando incorporará essas imprecisões factuais em suas respostas.
A Big AI será de propriedade da Big Tech. Embora os dados pessoais e confidenciais da empresa contidos nos prompts possam não alimentar o modelo de IA específico, eles certamente estarão disponíveis para as grandes empresas de tecnologia. E o modelo de negócios dos grandes proprietários de tecnologia geralmente depende da venda desses dados para o lance mais alto. Algo pode ser feito sobre os aspectos de privacidade da IA pública no estilo GPT?
Para a maioria dos usuários de sistemas de IA atualmente, há pouca escolha a não ser confiar nas promessas e nos contratos de licença com os quais concordam para usar modelos como o ChatGPT. No entanto, muitos desses modelos estão se desenvolvendo de maneira incrivelmente eficiente, portanto, não há razão para que eles não possam ser executados em nossos PCs, laptops ou mesmo telefones no futuro. O treinamento dos modelos é computacionalmente intensivo, mas a execução não. Modelos mais antigos podem ser oferecidos como código aberto ou mesmo em crowdsourcing para que estejam disponíveis para quem quiser usá-los. Os modelos mais avançados provavelmente permanecerão nas mãos dos grandes gigantes da tecnologia, mas os modelos que são mais do que "bons o suficiente" podem rodar em um iPhone no seu bolso, se você desejar.
Mais em Sophos.com
Sobre a Sophos A Sophos tem a confiança de mais de 100 milhões de usuários em 150 países. Oferecemos a melhor proteção contra ameaças complexas de TI e perda de dados. Nossas soluções de segurança abrangentes são fáceis de implantar, usar e gerenciar. Eles oferecem o menor custo total de propriedade do setor. A Sophos oferece soluções de criptografia premiadas, soluções de segurança para endpoints, redes, dispositivos móveis, e-mail e web. Também há suporte da SophosLabs, nossa rede global de centros de análise proprietários. A sede da Sophos fica em Boston, EUA e Oxford, Reino Unido.