Los sistemas de IA generativa como ChatGPT reciben mucha atención y son alimentados con datos por miles de usuarios todos los días sin tener en cuenta la protección de datos.
Cada vez más empresas utilizan las tecnologías y las utilizan para una amplia variedad de proyectos y procesos. Las herramientas se utilizan principalmente para recopilar información, escribir textos y traducir.
Desafortunadamente, muchos usuarios no son muy considerados con los datos confidenciales de la empresa y dejan que la IA trabaje para ellos. Esta práctica puede causar un daño consecuente grave, ya que estos datos pueden ser recuperados y extraídos sin control por cualquier otro usuario que solo haga las preguntas correctas. Estos ahora pueden venderse a otras empresas o a ciberdelincuentes y utilizarse indebidamente para diversos fines nefastos.
Un ejemplo de cómo podría funcionar esto sería el siguiente: un médico ingresa el nombre de un paciente y los detalles de su condición en ChatGPT para que la herramienta pueda redactar una carta a la compañía de seguros del paciente. En el futuro, si un tercero le pregunta a ChatGPT: "¿Qué problema de salud tiene [nombre del paciente]?", el chatbot podría responder en función de la información proporcionada por el médico. Estos riesgos son una amenaza tan grande como los ataques de phishing porque, por supuesto, también se pueden sacar conclusiones sobre empresas enteras y sus prácticas comerciales de individuos individuales.
Los datos personales son tabú
Si los empleados pueden usar las herramientas de IA, deben asegurarse de no ingresar ningún dato personal o información interna de la empresa ni incluirlo en sus consultas. También deben asegurarse de que la información que se les da en las respuestas también esté libre de datos personales e internos de la empresa. Toda la información debe verificarse de forma independiente para protegerla contra reclamos legales y evitar el uso indebido.
La capacitación en concientización sobre seguridad puede ayudar a los empleados a aprender a usar ChatGPT y otras herramientas generativas de IA de manera responsable y segura para el trabajo. Aprenden qué información pueden y no pueden divulgar para que ellos y sus empresas no corran el riesgo de que terceros no deseados hagan un mal uso de los datos confidenciales. De lo contrario, las consecuencias serían multas según el RGPD y el daño de imagen asociado, incluidos los ataques cibernéticos a través de la ingeniería social. En el último caso, los atacantes usarían la información compartida con las herramientas para su investigación, para explotar las debilidades en los sistemas de TI o usar el phishing selectivo para persuadir a los empleados de que hagan clic en los enlaces almacenados en los correos electrónicos.
Más en KnowBe4.com
Acerca de KnowBe4 KnowBe4, proveedor de la plataforma más grande del mundo para capacitación en concientización sobre seguridad y phishing simulado, es utilizado por más de 60.000 empresas en todo el mundo. Fundada por el especialista en seguridad de datos y TI Stu Sjouwerman, KnowBe4 ayuda a las organizaciones a abordar el elemento humano de la seguridad creando conciencia sobre el ransomware, el fraude de los directores ejecutivos y otras tácticas de ingeniería social a través de un nuevo enfoque para la educación en seguridad. Kevin Mitnick, un especialista en seguridad cibernética reconocido internacionalmente y Director de Hacking de KnowBe4, ayudó a desarrollar la capacitación KnowBe4 basada en sus bien documentadas tácticas de ingeniería social. Decenas de miles de organizaciones confían en KnowBe4 para movilizar a sus usuarios finales como última línea de defensa.