Despliegue una IA responsable en todo el sector público. Cumpla la Orden Ejecutiva, el memorando OMB M-24-10 y los marcos internacionales de gobernanza de la IA, sin descuidar los datos de la ciudadanía ni la confianza pública.
Los organismos públicos afrontan retos de gobernanza de la IA únicos, que tocan la seguridad nacional, los derechos civiles y la confianza en las instituciones.
Los empleados públicos de los distintos organismos utilizan ChatGPT, asistentes de programación con IA y herramientas de IA generativa con datos sensibles y clasificados. La información personal identificable (PII) de los ciudadanos, los registros policiales, la información de defensa y las deliberaciones sobre políticas fluyen hacia servicios comerciales de IA sin controles de seguridad ni supervisión.
Los datos gubernamentales clasificados y sensibles en servicios comerciales de IA generan riesgos para la seguridad nacional y la privacidad.
Los sistemas de IA utilizados en la determinación de prestaciones, los trámites de inmigración, las fuerzas del orden y la prestación de servicios públicos pueden incorporar y amplificar sesgos. La discriminación algorítmica en las decisiones gubernamentales tiene implicaciones constitucionales y socava directamente la confianza pública en las instituciones democráticas.
Una IA sesgada en las decisiones gubernamentales puede vulnerar los derechos civiles, las garantías procesales y las protecciones contra la discriminación.
El personal de la administración pública está adoptando herramientas de IA sin autorización, desde asistentes de redacción con IA para documentos de políticas hasta herramientas de generación de código para sistemas de TI. Sin visibilidad, los organismos no pueden cumplir con los requisitos de la Orden Ejecutiva y de la OMB en materia de inventarios de casos de uso de IA y evaluaciones de riesgos.
El Shadow AI no detectado hace imposible el cumplimiento de los requisitos de inventario de IA del memorando OMB M-24-10.
La gobernanza de la IA en el sector público abarca órdenes ejecutivas, mandatos federales y marcos internacionales. Estos son los requisitos que su organismo tiene que cubrir.
La Orden Ejecutiva de 2023 exige que los organismos federales designen directores de IA (Chief AI Officers), completen inventarios de casos de uso de IA, implementen marcos de gestión de riesgos, realicen evaluaciones de impacto para la IA que afecta a derechos y a la seguridad, y garanticen la transparencia en las decisiones gubernamentales impulsadas por IA. Los organismos deben alinear sus estructuras de gobernanza con las directrices del NIST AI RMF (Marco de Gestión de Riesgos de la IA).
El memorando OMB M-24-10 establece requisitos de obligado cumplimiento para los organismos federales: estructuras de gobernanza de la IA con directores de IA (Chief AI Officers) designados, identificación y gestión de los riesgos de la IA con prácticas mínimas para la IA que afecta a derechos, inventarios de casos de uso de IA con plazos de cumplimiento, y salvaguardas adecuadas antes de desplegar IA que afecte a derechos o a la seguridad. El incumplimiento puede obligar a cesar el uso de sistemas de IA no conformes.
El Marco Ético de IA del Gobierno de Australia establece ocho principios para una IA responsable: el bienestar humano, social y medioambiental; los valores centrados en las personas; la equidad; la privacidad y la seguridad; la fiabilidad y la seguridad; la transparencia y la explicabilidad; la posibilidad de impugnación; y la rendición de cuentas. La Voluntary AI Safety Standard añade 10 barreras de protección cada vez más presentes en la contratación pública.
El EU AI Act clasifica como de alto riesgo muchas aplicaciones de IA del sector público, incluida la IA en las fuerzas del orden, la gestión de la migración, la administración de justicia y los procesos democráticos. Los sistemas de IA de alto riesgo requieren evaluaciones de conformidad, sistemas de gestión de riesgos, mecanismos de supervisión humana, protocolos de gobernanza de datos y su registro en la base de datos de IA de la UE antes de su despliegue.
Gobernanza de la IA diseñada específicamente para responder a las exigencias del sector público en transparencia, rendición de cuentas y uso responsable de la IA.
Cumpla con los requisitos del memorando OMB M-24-10 y de la Orden Ejecutiva mediante el descubrimiento automatizado de IA en todo el organismo. Aona crea y mantiene un inventario completo y en tiempo real de cada herramienta de IA en uso, autorizada o no, lo que respalda las obligaciones de reporte del director de IA (Chief AI Officer).
Cumplimiento automatizado de los mandatos de inventario de IA de la OMBAplique controles de DLP nativos de IA que impiden que la PII de los ciudadanos, los registros policiales, la información clasificada y los documentos sensibles de políticas se filtren hacia servicios de IA no autorizados. Las políticas se aplican de forma automática, sin necesidad de intervención manual.
Evite que los datos gubernamentales sensibles lleguen a la IA comercialGenere informes asignados a los requisitos de la Orden Ejecutiva, los mandatos del memorando OMB M-24-10, las directrices del NIST AI RMF y los marcos internacionales aplicables. Los registros de auditoría capturan cada interacción con la IA para la supervisión del Congreso, las revisiones del inspector general y el reporte del director de IA (Chief AI Officer).
Informes de cumplimiento con un solo clic para la Orden Ejecutiva, la OMB y el NIST AI RMFNo bloquee la IA: gobiérnela. Ofrezca al personal del organismo acceso a herramientas de IA aprobadas y verificadas en materia de seguridad, a la vez que protege los datos sensibles y mantiene el cumplimiento. Impulse la productividad y la eficacia de la misión sin riesgos de seguridad ni de cumplimiento.
Adopción de IA eficaz para la misión con controles de gobernanza completosAutomatice los inventarios de IA, proteja los datos sensibles, cumpla con los requisitos de la Orden Ejecutiva y de la OMB, y habilite una adopción de IA eficaz para la misión.