La AI Act es la primera ley para la IA y otorga a los fabricantes de aplicaciones de IA entre seis meses y tres años para adaptarse a las nuevas reglas. Cualquiera que quiera utilizar la IA en áreas sensibles tendrá que controlar estrictamente los datos de la IA y su calidad y crear transparencia, disciplinas centrales clásicas de la gestión de datos.
La UE ha hecho un trabajo pionero y ha regulado la que actualmente es la rama más dinámica e importante de la industria de datos con la AI Act, tal como lo hizo con el GDPR en abril de 2016 y la Resiliencia Operacional Digital (DORA) en enero de este año. Muchas de las nuevas tareas de la Ley de IA resultarán familiares para los responsables de la protección de datos y para todos los responsables de cumplimiento del RGPD. La ley establece una definición de IA y define tres niveles de seguridad: mínimo, alto e inaceptable. Las aplicaciones de IA que las empresas quieren utilizar en atención médica, educación e infraestructura crítica entran en la categoría de seguridad más alta, "alto riesgo". Los que están en la categoría “inaceptable” están prohibidos porque, por ejemplo, podrían amenazar la seguridad, los medios de vida y los derechos de las personas.
Evaluar el riesgo
Estos sistemas de IA deben, por definición, ser confiables, transparentes y responsables. Los operadores deben realizar evaluaciones de riesgos, utilizar datos de alta calidad y documentar sus decisiones técnicas y éticas. También deben registrar el rendimiento de sus sistemas e informar a los usuarios sobre la naturaleza y el propósito de sus sistemas. Además, los sistemas de IA deberían ser supervisados por humanos y permitir intervenciones. Deben ser muy robustos y alcanzar un alto nivel de ciberseguridad.
Las empresas necesitan ahora una orientación clara. Porque quieren aprovechar el gran potencial de esta tecnología y al mismo tiempo estar preparados para el futuro para poder implementar los próximos detalles del reglamento. Hay cinco recomendaciones claras sobre cómo las empresas pueden abordar esto sin causar riesgos legales y aun así sin obstaculizar a los usuarios. Y al mismo tiempo, posicionarse de tal manera que pueda implementar completamente la Ley de IA sin poner patas arriba a la TI:
- Deje que la IA actúe con confianza: Si quieres lograr esto, debes domesticar completamente a la IA. La única forma de lograrlo es controlar de cerca los datos y los flujos de datos que entran y salen de la IA. Este estrecho control es similar a los requisitos del RGPD para los datos personales. Las empresas siempre deben considerar este cumplimiento cuando utilicen y desarrollen IA por sí mismas. Si desea utilizar la IA de manera compatible con el RGPD y la Ley de IA, debe buscar el consejo de un experto en protección de datos antes de introducirla.
- Conozca los datos exactamente: Gran parte de la ley se centra en informar sobre el contenido utilizado para entrenar la IA, los conjuntos de datos que le dieron el conocimiento para actuar. Las empresas y sus empleados necesitan saber exactamente qué datos están alimentando a la IA y qué valor tienen esos datos para la empresa. Algunos proveedores de IA transfieren conscientemente esta decisión a los propietarios de los datos porque son ellos quienes mejor los conocen. Deben entrenar la IA de manera responsable y el acceso a los datos solo debe estar activado para personas autorizadas.
- La cuestión de los derechos de autor: Los modelos anteriores de IA han utilizado rastreadores de libros y de Internet disponibles para entrenar su IA. Se trataba de contenido que contenía elementos protegidos, una de las áreas que la Ley de IA pretende limpiar. Si las empresas han utilizado dichos registros sin etiquetarlos con precisión, es posible que tengan que empezar de nuevo.
- Comprender el contenido de los datos: Esta es una tarea esencial. Para que los propietarios de los datos tomen decisiones correctas, el valor y el contenido de los datos deben estar claros. En la vida cotidiana, esta tarea es gigantesca y la mayoría de las empresas han acumulado montañas de información de la que no saben nada. La IA y el aprendizaje automático pueden ayudar enormemente en esta área y aliviar uno de los problemas más complejos al identificar y clasificar automáticamente los datos de las empresas de acuerdo con su propia estrategia de registro relevante. Los filtros predefinidos capturan inmediatamente del conjunto de datos datos relevantes para el cumplimiento, como tarjetas de crédito, datos de hipotecas o planos de construcción, y los marcan. Este análisis también permite aclarar algunos parámetros de seguridad y, por ejemplo, detectar datos no seguros. En cuanto esta IA examina los datos de la empresa, desarrolla un lenguaje propio, un dialecto empresarial. Y cuanto más trabaja y más datos de la empresa examina, más precisos se vuelven sus resultados. El encanto de esta clasificación impulsada por la IA es especialmente evidente cuando es necesario cumplir con nuevas especificaciones. Independientemente de las novedades que la Ley de IA plantee a largo plazo, la clasificación impulsada por el aprendizaje automático y la IA podrá buscar estos atributos adicionales y proporcionar a la empresa cierta seguridad en el futuro.
- Controlar los flujos de datos: Una vez que los datos se clasifican y clasifican con las características correctas, la plataforma de gestión de datos subyacente puede hacer cumplir las reglas automáticamente sin que el propietario de los datos tenga que intervenir. Esto reduce las posibilidades de errores y riesgos humanos. Una empresa podría exigir que ciertos datos, como propiedad intelectual o datos financieros, nunca se transmitan a otras ubicaciones de almacenamiento o módulos de IA externos. Las plataformas modernas de gestión de datos controlan el acceso a estos datos cifrándolos automáticamente y exigiendo a los usuarios que se autoricen mediante controles de acceso y autenticación multifactor.
La Ley de IA está ganando fuerza
La UE tiene otra similitud con el GDPR y DORA. Una vez promulgadas, se aplicarán sanciones por incumplimiento. Cualquiera que viole requisitos importantes de la Ley de IA debe recibir sanciones de hasta 35 millones de euros o el 7 por ciento de las ventas globales. Y solo a modo de comparación: las autoridades de control han impuesto multas por valor de 2024 millones de euros desde que entró en vigor el RGPD hasta febrero de 4,5. Es probable que la ley de IA se publique este verano y entre en vigor 20 días después de su publicación en el Diario Oficial de la UE. La mayoría de sus disposiciones se aplican después de 24 meses. Las reglas para los sistemas de IA prohibidos se aplican después de seis meses, las reglas para la GPAI después de doce meses y las reglas para los sistemas de IA de alto riesgo después de 36 meses.
Más en Cohesity.com
Acerca de la cohesión Cohesity simplifica enormemente la gestión de datos. La solución facilita la protección, la gestión y la obtención de valor de los datos, en el centro de datos, el perímetro y la nube. Ofrecemos un conjunto completo de servicios consolidados en una plataforma de datos de múltiples nubes: protección y recuperación de datos, recuperación ante desastres, servicios de archivos y objetos, desarrollo/prueba y cumplimiento de datos, seguridad y análisis. Esto reduce la complejidad y evita la fragmentación de datos masivos. Cohesity se puede entregar como un servicio, como una solución autogestionada o a través de socios de Cohesity.