Reglamento de Inteligencia Artificial de la Unión Europea

El EU AI Act (Reglamento 2024/1689) es el primer marco jurídico integral del mundo para la inteligencia artificial. Adoptado el 13 de junio de 2024, establece normas armonizadas para el desarrollo, la introducción en el mercado, la puesta en servicio y el uso de sistemas de IA dentro de la Unión Europea.

El reglamento adopta un enfoque basado en el riesgo, clasificando los sistemas de IA en cuatro niveles: riesgo inaceptable (prohibido), riesgo alto (estrictamente regulado), riesgo limitado (obligaciones de transparencia) y riesgo mínimo (en gran medida no regulado). Este marco escalonado garantiza que los requisitos más estrictos se apliquen a los sistemas de IA que plantean el mayor daño potencial para la salud, la seguridad y los derechos fundamentales.

El reglamento se aplica a los proveedores de sistemas de IA introducidos en el mercado de la UE, con independencia de que dichos proveedores estén establecidos en la UE o en un tercer país. También se aplica a los responsables del despliegue de sistemas de IA ubicados dentro de la UE y a los proveedores y responsables del despliegue ubicados fuera de la UE cuando los resultados producidos por el sistema de IA se utilicen en la UE.

Entre las innovaciones clave se incluyen la creación de espacios controlados de pruebas reglamentarios para la IA, evaluaciones de conformidad obligatorias para los sistemas de IA de alto riesgo, requisitos de transparencia y supervisión humana, y el establecimiento de la European AI Office para coordinar la aplicación. El reglamento también introduce normas específicas para los modelos de IA de uso general (GPAI), incluidas obligaciones adicionales para los modelos GPAI con riesgo sistémico.

Las sanciones por incumplimiento son significativas: hasta €35 million o el 7% del volumen de negocios anual mundial por prácticas de IA prohibidas, hasta €15 million o el 3% por infracciones de otras disposiciones, y hasta €7.5 million o el 1% por facilitar información incorrecta. Para las pymes y las empresas emergentes se aplica el menor de los dos importes.

El EU AI Act representa un cambio de paradigma en la regulación tecnológica, pasando de normas sectoriales a un marco horizontal que abarca la IA en todos los sectores. Los profesionales del cumplimiento deben comprender que este reglamento tendrá un alcance extraterritorial similar al del RGPD, afectando a organizaciones de todo el mundo que prestan servicio al mercado de la UE.

El reglamento también exige la creación de autoridades nacionales competentes en cada Estado miembro, el establecimiento de un Comité de IA para facilitar una aplicación coherente del reglamento y la designación de una función de Defensor del Pueblo para la IA a través de la European AI Office.

Para las organizaciones que desarrollan o despliegan IA, el EU AI Act exige una reevaluación fundamental de las prácticas de gobernanza de la IA. Esto incluye la implementación de sistemas de gestión de riesgos, el mantenimiento de documentación técnica, la garantía de una gobernanza de datos para los conjuntos de datos de entrenamiento, el establecimiento de sistemas de gestión de la calidad y la provisión de transparencia a los usuarios sobre los contenidos generados por IA.

El reglamento pone especial énfasis en las evaluaciones de impacto sobre los derechos fundamentales para los sistemas de IA de alto riesgo utilizados por organismos públicos o entidades privadas que prestan servicios públicos. Los responsables del despliegue de sistemas de IA de alto riesgo en ámbitos como la aplicación de la ley, la gestión de la migración y las infraestructuras críticas deben llevar a cabo estas evaluaciones antes de poner los sistemas en servicio.