Los principios éticos voluntarios de la IA y el marco de gobernanza de Australia, con salvaguardias obligatorias en desarrollo para los sistemas de IA de alto riesgo.
El enfoque de Australia respecto a la gobernanza de la IA ha evolucionado considerablemente, desde los AI Ethics Principles voluntarios iniciales publicados en 2019 hasta el marco integral que se está desarrollando ahora. El Gobierno australiano publicó ocho AI Ethics Principles como marco voluntario y desde entonces ha estado trabajando en salvaguardias obligatorias para los usos de la IA de alto riesgo.
Los ocho AI Ethics Principles voluntarios son: (1) bienestar humano, social y ambiental; (2) valores centrados en las personas; (3) equidad; (4) protección de la privacidad y seguridad; (5) fiabilidad y seguridad; (6) transparencia y explicabilidad; (7) contestabilidad; y (8) responsabilidad.
En septiembre de 2024, el Gobierno australiano publicó su respuesta provisional a la consulta Safe and Responsible AI, anunciando salvaguardias obligatorias para la IA en contextos de alto riesgo. Esto supuso un cambio significativo: se pasa de un enfoque puramente voluntario a otro que combina principios voluntarios con requisitos vinculantes para las aplicaciones de mayor riesgo.
Las salvaguardias obligatorias propuestas para la IA de alto riesgo incluyen requisitos de pruebas y transparencia, el mantenimiento de la supervisión humana, la protección frente a resultados de IA dañinos o engañosos y la garantía de una responsabilidad adecuada. Se espera que la definición de « alto riesgo » se alinee en general con los enfoques internacionales, al tiempo que refleje el contexto regulador específico de Australia.
El Australian Privacy Act 1988 está siendo objeto actualmente de una reforma significativa, con enmiendas propuestas que reforzarán las protecciones para la toma de decisiones automatizada que utiliza información personal. El Privacy Act Review (Attorney-General's Report, 2023) recomendó introducir un derecho para que las personas soliciten información significativa sobre cómo se toman las decisiones automatizadas y soliciten una revisión humana de las decisiones automatizadas importantes.
La Australian Human Rights Commission también ha sido activa en el ámbito de la gobernanza de la IA, publicando un informe sobre los derechos humanos y la tecnología que recomendaba protecciones específicas frente a la discriminación y el sesgo relacionados con la IA. El trabajo de la Commission ha influido en el desarrollo del marco de gobernanza más amplio.
La ASIC (Australian Securities and Investments Commission) y la APRA (Australian Prudential Regulation Authority) han publicado sus expectativas en materia de gobernanza de la IA en los servicios financieros, incluidos requisitos para la gestión del riesgo de modelos, la responsabilidad del consejo de administración y la protección del consumidor en los productos financieros basados en IA.
La Office of the Australian Information Commissioner (OAIC) ha proporcionado orientaciones sobre la intersección entre la IA y el derecho de la privacidad, subrayando que las obligaciones de privacidad existentes se aplican a los sistemas de IA que procesan información personal y que las organizaciones deberían adoptar enfoques de privacidad desde el diseño para el desarrollo de la IA.
Para las organizaciones que operan en Australia, el cumplimiento exige actualmente el respeto de las leyes existentes (Privacy Act, legislación contra la discriminación, derecho del consumidor) en su aplicación a la IA, la adopción voluntaria de los AI Ethics Principles y la preparación para las próximas salvaguardias obligatorias para la IA de alto riesgo. Se espera que el calendario de los requisitos obligatorios se concrete a lo largo de 2025-2026.
Cumplir los ocho AI Ethics Principles en el diseño y despliegue de los sistemas de IA
Cumplir el Privacy Act 1988 para los sistemas de IA que procesan información personal
Garantizar que los sistemas de IA no infrinjan la legislación contra la discriminación
Cumplir el Australian Consumer Law para los productos y servicios basados en IA
Prepararse para las salvaguardias obligatorias para los usos de la IA de alto riesgo
Implementar la supervisión humana para la toma de decisiones automatizada de alto riesgo
Proporcionar transparencia sobre el uso de la IA en las aplicaciones orientadas al consumidor
Garantizar que los sistemas de IA en los servicios financieros cumplan las expectativas de la ASIC y la APRA
Mantener registros de las decisiones de desarrollo y despliegue de los sistemas de IA
Implementar pruebas y validación para la seguridad y fiabilidad de los sistemas de IA
Actualmente, los ocho AI Ethics Principles son voluntarios. No obstante, el Gobierno australiano anunció en septiembre de 2024 que se introducirán salvaguardias obligatorias para la IA en contextos de alto riesgo. Se espera que el diseño detallado de estos requisitos obligatorios se realice a lo largo de 2025.
Sí. El Privacy Act 1988 se aplica a cualquier procesamiento de información personal por sistemas de IA. Se espera que las próximas reformas introduzcan derechos específicos en torno a la toma de decisiones automatizada, incluido el derecho a explicaciones significativas y a una revisión humana.
Comience con los AI Ethics Principles voluntarios, garantice el cumplimiento de las leyes existentes (Privacy Act, contra la discriminación, derecho del consumidor), supervise el desarrollo de las salvaguardias obligatorias y considere normas internacionales como la ISO 42001 para un enfoque de gobernanza estructurado.
Get notified when new AI regulations are introduced or updated. Join 500+ compliance professionals.