La Ley de IA de la UE explicada: niveles de riesgo, plazos y cumplimiento

La mayoría de las empresas ya utilizan más inteligencia artificial (IA) de la que un solo equipo puede supervisar de principio a fin. Un flujo de trabajo de asistencia al cliente puede recurrir a un modelo de terceros, un sistema antifraude puede puntuar transacciones, una herramienta de selección de personal puede clasificar a los candidatos y un asistente de productividad puede resumir documentos que contienen datos regulados. Es muy posible que cada sistema tenga asignado un responsable, un registro de proveedor y una revisión de seguridad, pero esos registros suelen encontrarse en lugares distintos y responder a preguntas diferentes.

La Ley de IA de la UE plantea una pregunta concreta sobre los sistemas de IA: ¿puede la organización mostrar qué hace cada sistema, qué función desempeña la empresa, qué nivel de riesgo se aplica y qué controles requiere cada uno?

La preparación para la Ley de IA de la UE comienza con la gobernanza de la IA y una cadena de pruebas. La Ley es jurídica en cuanto a su forma, pero operativa en la práctica. Exige a las empresas que vinculen los sistemas de IA con los datos, los modelos, la documentación, los registros, los mecanismos de supervisión humana y los procesos de gestión de incidentes que demuestran que se utilizan de manera responsable, especialmente cuando dichos sistemas afectan al empleo, al crédito, a la educación, a infraestructuras críticas, a las fuerzas de seguridad o a otras decisiones de gran impacto.

La Ley de IA de la UE es el primer marco jurídico integral de IA del mundo. Entró en vigor el 1 de agosto de 2024 y se aplica por fases. Las prácticas prohibidas y las obligaciones relativas a la alfabetización en materia de IA y a la IA de uso general ya son aplicables. Según el calendario actual, se espera que la mayoría de las obligaciones relativas a la IA de alto riesgo comiencen a aplicarse en 2026, con algunos periodos de transición ampliados hasta 2027-2028. El objetivo normativo es lograr una IA centrada en las personas: sistemas que puedan utilizarse de manera productiva, pero con salvaguardias en materia de seguridad, derechos fundamentales, transparencia y responsabilidad. 

El ámbito de aplicación es más amplio de lo que muchas organizaciones suponen inicialmente. La Ley puede aplicarse a proveedores, responsables del despliegue, importadores y distribuidores de fuera de la UE cuando un sistema de IA se introduce en el mercado de la UE o cuando los resultados que produce se utilizan en la UE. Una empresa estadounidense que venda en Europa un producto basado en IA, utilice un sistema de IA para evaluar a residentes de la UE o dependa de un modelo no perteneciente a la UE cuyos resultados afecten a personas en la UE puede tener que evaluar igualmente sus obligaciones.

La Ley utiliza un marco basado en el riesgo. Algunas prácticas de IA están totalmente prohibidas, ciertos sistemas de IA de alto riesgo están sujetos a obligaciones detalladas y muchos usos de menor riesgo siguen estando permitidos en gran medida, aunque sujetos a normas de transparencia o códigos de conducta voluntarios. También distingue entre proveedores y responsables del despliegue. Un proveedor desarrolla un sistema de IA o un modelo de IA de uso general y lo introduce en el mercado o lo pone en servicio con su propio nombre o marca comercial. Un responsable del despliegue utiliza un sistema de IA bajo su propia autoridad, salvo cuando se trate de un uso personal no profesional.

Para la mayoría de las empresas, una conclusión práctica clave es saber qué sistemas de IA se utilizan, clasificarlos según su riesgo, documentar cómo funcionan, conservar las pruebas necesarias para su supervisión y asegurarse de que los sistemas de alto riesgo puedan superar la evaluación de conformidad exigida antes de introducirlos en el mercado de la UE o ponerlos en servicio.

La Ley de IA de la UE organiza los sistemas de IA en cuatro categorías principales de riesgo: riesgo inaceptable, alto riesgo, riesgo limitado y riesgo mínimo. La categoría es importante porque determina si el sistema está prohibido, sujeto a obligaciones relativas a los sistemas de alto riesgo, cubierto por obligaciones de transparencia o, en gran medida, exento de controles obligatorios.

La Ley de IA de la UE añade un régimen específico para los modelos de IA de uso general (GPAI), incluidos los modelos fundacionales capaces de realizar una amplia variedad de tareas posteriores. Este régimen se superpone a los niveles de riesgo, ya que un modelo de uso general puede integrarse en muchos sistemas de IA diferentes, algunos de bajo riesgo y otros de alto riesgo.

Las obligaciones básicas para los modelos GPAI incluyen:

• Mantener documentación técnica

• Proporcionar a los proveedores posteriores la información necesaria para integrar el modelo de manera responsable

• Implantar una política para cumplir la legislación de la UE en materia de derechos de autor

• Publicar un resumen del contenido utilizado para entrenar el modelo

En el caso de los modelos de GPAI con riesgo sistémico, las obligaciones son más amplias. La Ley utiliza un umbral de capacidad de computación (actualmente, 10²⁵ operaciones de coma flotante) como uno de los indicadores de que un modelo puede presentar un riesgo sistémico. Se espera que los proveedores de estos modelos realicen evaluaciones de los modelos, lleven a cabo y documenten pruebas de simulación de adversarios, evalúen y mitiguen los riesgos sistémicos, hagan un seguimiento de los incidentes graves y los notifiquen, y mantengan protecciones de ciberseguridad adecuadas para el modelo y su infraestructura física.

Los responsables del despliegue en empresas deben considerar la documentación de la GPAI un requisito de adquisición y gobernanza. Una empresa que adquiera una licencia o integre un modelo de terceros no se convierte necesariamente en el proveedor del modelo de forma predeterminada, pero necesita suficiente documentación para las fases posteriores a fin de comprender el uso aceptable, las limitaciones, las restricciones de integración, los controles de riesgos y las expectativas de notificación de incidentes. En los casos de uso de alto riesgo, esa documentación pasa a formar parte de la cadena de pruebas del sistema de IA creado en torno al modelo.

En la práctica, esto significa que la evaluación de modelos y las operaciones de equipo rojo ya no son solo ejercicios de investigación o seguridad. Son controles esenciales de la cadena de suministro. Los equipos de adquisiciones, asuntos jurídicos, seguridad, gobernanza de datos y plataforma de IA deben saber qué información facilitará el proveedor del modelo, qué pruebas realizará la propia empresa y cómo se hará un seguimiento de los riesgos relacionados con el modelo tras la implementación.

La Ley de IA de la UE se aplica por fases. El calendario legal vigente constituye la base para la planificación empresarial, aunque los responsables políticos siguen debatiendo posibles ajustes en su aplicación.

• 1 de agosto de 2024: La Ley de IA de la UE entró en vigor.

• 2 de febrero de 2025: Comenzaron a aplicarse las prácticas de IA prohibidas y las obligaciones de alfabetización en materia de IA.

• 2 de agosto de 2025: Comenzaron a aplicarse las normas de gobernanza y las obligaciones relativas a los modelos de GPAI.

• 2 de agosto de 2026: Está previsto que empiecen a aplicarse la mayoría de las obligaciones, incluidas las normas sobre IA de alto riesgo para los sistemas del anexo III.

• 2 de agosto de 2027: Está previsto que los sistemas de IA de alto riesgo integrados en productos regulados con arreglo al anexo I queden plenamente incluidos en el ámbito de aplicación.

El calendario sigue sujeto a debate político. Los grupos sectoriales han solicitado un aplazamiento, alegando que las empresas necesitan más orientación y más tiempo para cumplir la Ley. Jennifer Belissent, Principal Data Strategist de Snowflake señala que “el sector ha reclamado con insistencia que se aplace la aplicación de la Ley de IA de la UE”, pero también sostiene que las empresas no deberían esperar porque “el verdadero motor de la gobernanza de la IA y de los datos ya está en marcha. Los clientes la exigen”.

Este es un enfoque de planificación habitual para la mayoría de las empresas. Aunque cambien algunos detalles de la aplicación, los clientes, los organismos reguladores, los consejos de administración y los partners comerciales ya solicitan inventarios de IA, clasificaciones de riesgos, documentación de modelos, linaje de datos, procesos de gestión de incidentes y pruebas de que los sistemas de IA de gran impacto están sujetos a gobernanza.

La Ley de IA de la UE establece distintos niveles de gravedad para las multas administrativas. Los Estados miembros son responsables de las normas sobre sanciones y de las medidas de ejecución, pero la Ley fija importes máximos para las multas en función del tipo de infracción.

La Ley también exige a los Estados miembros que tengan en cuenta los intereses de las pequeñas y medianas empresas (pymes) y las startups, y establece límites máximos más bajos para las multas aplicables a estas empresas de menor tamaño. La gravedad de una multa puede depender de factores como la naturaleza, la gravedad y la duración de la infracción, el tamaño de la organización, las infracciones anteriores y el grado de cooperación con las autoridades.

Para los equipos empresariales, la tabla de sanciones solo representa una parte del cálculo de riesgos. Una IA con una gobernanza deficiente también puede generar problemas de confianza entre los clientes, fricciones contractuales, riesgos para la privacidad, problemas de seguridad y retrasos en el lanzamiento de productos con IA en el mercado de la UE.

Un enfoque eficaz para lograr el cumplimiento de la IA consiste en convertir los requisitos de la Ley en elementos operativos. No basta con una política que indique que la IA debe estar sujeta a gobernanza: los equipos necesitan registros, controles y vías de revisión que muestren cómo se ha clasificado, probado, aprobado y supervisado cada sistema.

Crear primero un inventario de IA

Registra todos los sistemas de IA que estén en uso o en desarrollo, incluidos los modelos creados internamente, los servicios de IA de terceros, las funciones de IA integradas en aplicaciones de software como servicio (SaaS) y los modelos de IA de uso general utilizados mediante API. Cada registro del inventario debe identificar al propietario, proveedor y responsable del despliegue del sistema, su finalidad prevista, los usuarios afectados, los datos de entrada, la exposición al mercado de la UE, las dependencias de modelos, los puntos de integración y si el sistema afecta a personas de la UE.

Clasificar cada sistema según los niveles de riesgo

Un chatbot de IA utilizado para recuperar conocimientos internos puede plantear problemas de transparencia y control de acceso, mientras que un sistema de IA empleado para clasificar candidatos a un puesto de trabajo puede encuadrarse en un ámbito de alto riesgo del anexo III. La clasificación no debe ser una tarea puntual, sino que debe revisarse cuando cambien la finalidad, los datos, la población de usuarios o el contexto de implementación del sistema.

Empezar por los sistemas de alto riesgo

En el caso de los posibles sistemas de alto riesgo, crea cuanto antes estos seis elementos probatorios esenciales:

• Sistema de gestión de riesgos: Documenta los riesgos conocidos y razonablemente previsibles, las medidas de mitigación, las decisiones sobre el riesgo residual y la frecuencia de revisión.

• Procedimientos de gobernanza de datos: Registra las fuentes de datos, las comprobaciones de calidad de los datos, las evaluaciones de representatividad, los controles de sesgos, el linaje, las reglas de conservación y las políticas de acceso.

• Documentación técnica: Mantén actualizados la descripción del sistema, la lógica del modelo, la finalidad prevista, las características de rendimiento, las limitaciones, los resultados de validación y la arquitectura de implementación.

• Registros de eventos: Conserva registros que puedan facilitar la monitorización, las auditorías, la investigación de incidentes y la revisión posterior a la comercialización.

• Diseño de la supervisión humana: Define en qué puntos las personas revisan, invalidan, detienen o escalan los resultados del sistema y asegúrate de que quienes los revisan dispongan de la información necesaria para actuar.

• Medidas de precisión y ciberseguridad: Documenta los objetivos de rendimiento, las pruebas de solidez, las pruebas de simulación de adversarios, la gestión de vulnerabilidades y los controles de seguridad.

Exigir documentación sobre la GPAI

En el caso de la IA de uso general, exige a los proveedores de modelos el paquete de documentación antes de la integración. Los equipos de adquisiciones deben solicitar documentación técnica, directrices para la integración posterior, políticas de uso aceptable, información sobre las políticas de derechos de autor, resúmenes de los datos de entrenamiento cuando sea necesario y compromisos de notificación de incidentes. Estos materiales deben adjuntarse al registro del sistema de IA, en lugar de almacenarse por separado en una carpeta de contratos que nadie pueda encontrar durante una auditoría.

Asociar los controles de la Ley de IA de la UE a las obligaciones existentes 

Muchas organizaciones ya cuentan con evaluaciones de impacto relativas a la protección de datos del RGPD, controles de resiliencia operativa de DORA, controles de ciberseguridad de NIS2, procedimientos sectoriales de gestión de riesgos de modelos o requisitos de validación de software. El objetivo no es reconstruir esos procesos bajo una nueva etiqueta de IA, sino determinar dónde satisfacen ya los controles existentes parte de las necesidades probatorias de la Ley de IA y, después, subsanar las carencias relacionadas con la clasificación de riesgos, la documentación sobre la IA de uso general, los avisos de transparencia, la evaluación de la conformidad, la supervisión posterior a la comercialización y la notificación de incidentes.

Establecer protocolos de notificación de incidentes antes del 2 de agosto de 2026 

Los equipos deben saber qué se considera un incidente grave, quién lo investiga, qué registros y documentación se necesitan, cómo se informa a los equipos jurídicos y de cumplimiento normativo y cómo se registran las medidas correctivas. Esperar hasta que un sistema de alto riesgo falle en producción deja gran parte de la respuesta a merced de una coordinación informal.

Descubre qué opinan sobre la IA generativa y la ética de la IA dos altos directivos de Snowflake: Christian Kleinerman, EVP of Product, y Jennifer Belissent, Principal Data Strategist.

La preparación ante la Ley de IA de la UE depende de saber qué activos de datos e IA existen, cómo se gobiernan, quién puede acceder a ellos y qué pruebas pueden aportarse cuando se revisa un sistema. Snowflake puede respaldar estos cimientos al ayudar a las organizaciones a conectar la gobernanza de la IA con la misma plataforma en la que ya residen los datos gobernados, los metadatos, las políticas y los registros.

Snowflake Horizon Catalog proporciona un contexto de descubrimiento y gobernanza para los activos de datos e IA, incluidos metadatos como el linaje, las vistas semánticas y el contexto de uso relacionado. Para la preparación ante la Ley de IA, esto es importante porque un inventario de IA solo resulta útil si los equipos pueden conectar un sistema con las tablas, vistas, funciones, modelos, políticas y responsables de los que depende.

Snowflake Compliance Center ayuda a los equipos a evaluar, supervisar y reducir los riesgos de seguridad en las cuentas de Snowflake mediante hallazgos basados en analizadores, notificaciones proactivas y visibilidad a nivel de cuenta. La capacidad Data Security del Compliance Center puede clasificar automáticamente determinadas categorías de datos confidenciales en distintas bases de datos, identificar categorías reguladas y de alto riesgo, como información de identificación personal, datos de PCI e información sanitaria protegida, y mostrar si ya están protegidas por políticas de enmascaramiento.

Los controles de acceso y las funciones de políticas de Snowflake también pueden contribuir a aportar pruebas sobre la gobernanza de la IA. El control de acceso basado en roles (RBAC), las políticas de enmascaramiento, las políticas de acceso a filas y el historial de acceso ayudan a los equipos a demostrar quién tuvo acceso a los datos confidenciales, qué políticas se aplicaron y cómo se utilizaron los datos. Estos registros no sustituyen el análisis jurídico ni la evaluación de la conformidad, pero pueden respaldar los flujos de trabajo de registro, supervisión humana, gobernanza de datos y obtención de pruebas de auditoría que las empresas necesitan para los sistemas de IA regulados.

La certificación ISO/IEC 42001 de Snowflake añade otra señal de confianza. La certificación se obtuvo tras una auditoría independiente por parte de un tercero de su sistema de gestión de la IA y respalda la transparencia, la responsabilidad y la confianza en las prácticas de IA de Snowflake.

La Ley de IA de la UE convierte la gobernanza de la IA en un requisito. Una empresa necesita saber qué sistemas de IA utiliza, qué función desempeña con respecto a cada uno, de qué datos y modelos depende el sistema, cómo se ha clasificado el riesgo, dónde pueden intervenir las personas y qué pruebas existen cuando un organismo regulador, un cliente o un revisor interno las solicita.

Esta labor resulta más sencilla cuando se basa en los patrones de gobernanza que la organización ya utiliza: inventarios, controles de acceso, linaje, documentación, supervisión, respuesta ante incidentes y pruebas de auditoría. La Ley añade obligaciones específicas para la IA, especialmente para los sistemas de alto riesgo y la IA de uso general, pero no exige que los equipos partan de cero. La mejor opción es vincular la preparación en materia de IA con los controles que ya se utilizan para gobernar los datos, la seguridad, la privacidad y la resiliencia operativa y, después, subsanar las carencias antes de que la aplicación normativa alcance a los sistemas más importantes.