Se esperaba con ansias la actualización de ChatGPT a la versión 4 y, según el fabricante Open AI, se dice que representa la tecnología de IA "más avanzada" e incluso aprobó un examen de grado con las mejores calificaciones en una prueba. Sin embargo, lo único que puede recrear ChatGPT son mentiras que apenas se reconocen en los textos fácticos, según el experto en seguridad de Sophos, Chester Wisniewski, en una entrevista.
¿Cómo ve un representante de la industria de seguridad de TI el rápido desarrollo de la IA de chat y cómo clasifica las oportunidades resultantes y las posibles desventajas? Chester Wisniewski, investigador principal de Sophos, respondió algunas de las preguntas. Su conclusión: el beneficio probablemente supere el daño.
¿Cuáles son las diferencias entre GPT 3 y el nuevo GPT 4?
Mucho ha cambiado y mejorado, pero no todo se sabe. OpenAI mantiene sus cartas un poco más estrictas con este lanzamiento que en el pasado, por lo que no se han publicado todas las mejoras. En general, parece más inteligente, más preciso y más capaz que las versiones anteriores, lo que debería hacer que las reacciones sean aún más realistas y competentes. Todavía es importante recordar que, si bien es menos probable que difunda información falsa, sigue siendo un buen mentiroso.
¿Es ético poner a disposición del público un transformador tan generativo y preentrenado?
Está tan disponible para los malos como para los buenos. El progreso tecnológico es como un genio en una botella. No puedes simplemente guardarlo cuando se siente incómodo. Tener herramientas como ChatGPT disponibles con las protecciones que OpenAI está tratando de hacer cumplir es poco probable que haga más daño que bien. Si bien el abuso criminal de la IA es inevitable, lo bueno que puede resultar del uso responsable de estas herramientas probablemente supere con creces cualquier abuso.
Parece que ya hay numerosos ejemplos de ingeniería rápida que rompen las barandillas del sistema, y hay al menos un ejemplo de inyección rápida indirecta. ¿Cree que alguna vez será posible crear un modelo GPT del que no se pueda abusar?
🔎 Entrevista: Chester Wisniewski, experto en seguridad de Sophos (Imagen: Sophos).
No. Una respuesta más detallada probablemente sería más bienvenida ahora, pero cualquier sistema diseñado para prevenir el abuso pero también diseñado para permitir que el sistema funcione de manera autónoma probablemente siempre será eludible. Pero a medida que OpenAI y otros investigadores de IA aprenden más sobre cómo las personas eluden sus defensas, esto se vuelve más difícil. Espero y espero que se requiera mucha más destreza por parte del delito cibernético en el futuro. Sin embargo, aún será posible comprometer el sistema.
¿ChatGPT está creando algo nuevo o simplemente está haciendo lo que se le ha dicho? ¿Qué sucede si el modelo ha aprendido o se le han enseñado imprecisiones?
Lo único que ChatGPT puede recrear son mentiras. Es un mentiroso bastante convincente que rivaliza con los mejores narcisistas que conozco. Ciertamente, al modelo también se le han enseñado cosas que son inexactas o falsas, y es casi imposible predecir cuándo incorporará estas inexactitudes fácticas en sus respuestas.
Big AI será propiedad de Big Tech. Si bien es posible que los datos personales y confidenciales de la empresa contenidos en las indicaciones no se incluyan en el modelo de IA en particular, sin duda estarán disponibles para las grandes empresas de tecnología. Y el modelo de negocios de los grandes propietarios de tecnología a menudo se basa en vender dichos datos al mejor postor. ¿Se puede hacer algo con respecto a los aspectos de privacidad de la IA pública estilo GPT?
Para la mayoría de los usuarios de sistemas de IA de hoy, no hay más remedio que confiar en las promesas y los acuerdos de licencia que acuerdan para usar modelos como ChatGPT. Sin embargo, muchos de estos modelos se están desarrollando de manera increíblemente eficiente, por lo que no hay ninguna razón por la que no puedan ejecutarse en nuestras PC, computadoras portátiles o incluso teléfonos en el futuro. El entrenamiento de los modelos es computacionalmente intensivo, pero su ejecución no lo es. Los modelos más antiguos pueden ofrecerse como código abierto o incluso colaborados para que estén disponibles para cualquiera que quiera usarlos. Es probable que los modelos más avanzados permanezcan en manos de los grandes gigantes tecnológicos, pero los modelos que son más que "suficientemente buenos" podrían funcionar en un iPhone en su bolsillo si lo desea.
Más en Sophos.com
Acerca de Sophos Sophos cuenta con la confianza de más de 100 millones de usuarios en 150 países. Ofrecemos la mejor protección contra amenazas informáticas complejas y pérdida de datos. Nuestras soluciones integrales de seguridad son fáciles de implementar, usar y administrar. Ofrecen el costo total de propiedad más bajo de la industria. Sophos ofrece soluciones de cifrado galardonadas, soluciones de seguridad para terminales, redes, dispositivos móviles, correo electrónico y web. También cuenta con el soporte de SophosLabs, nuestra red global de centros de análisis patentados. Las oficinas centrales de Sophos se encuentran en Boston, EE. UU. y Oxford, Reino Unido.