Die freiwilligen KI-Ethikgrundsätze und das Governance-Rahmenwerk Australiens, mit verbindlichen Schutzvorkehrungen, die für KI-Systeme mit hohem Risiko entwickelt werden.
Australiens Ansatz zur KI-Governance hat sich erheblich weiterentwickelt – von den anfänglichen freiwilligen AI Ethics Principles, die 2019 veröffentlicht wurden, hin zu dem umfassenden Rahmenwerk, das derzeit erarbeitet wird. Die australische Regierung veröffentlichte acht AI Ethics Principles als freiwilliges Rahmenwerk und arbeitet seitdem an verbindlichen Schutzvorkehrungen für KI-Anwendungen mit hohem Risiko.
Die acht freiwilligen AI Ethics Principles sind: (1) menschliches, gesellschaftliches und ökologisches Wohlergehen; (2) menschenzentrierte Werte; (3) Fairness; (4) Schutz der Privatsphäre und Sicherheit; (5) Zuverlässigkeit und Sicherheit; (6) Transparenz und Erklärbarkeit; (7) Anfechtbarkeit; und (8) Rechenschaftspflicht.
Im September 2024 veröffentlichte die australische Regierung ihre Zwischenantwort auf die Konsultation Safe and Responsible AI und kündigte verbindliche Schutzvorkehrungen für KI in Anwendungsbereichen mit hohem Risiko an. Dies markierte eine bedeutende Verschiebung von einem rein freiwilligen Ansatz hin zu einem Ansatz, der freiwillige Grundsätze mit verbindlichen Anforderungen für die risikoreichsten Anwendungen verbindet.
Die vorgeschlagenen verbindlichen Schutzvorkehrungen für KI mit hohem Risiko umfassen Anforderungen an Tests und Transparenz, die Aufrechterhaltung menschlicher Aufsicht, den Schutz vor schädlichen oder irreführenden KI-Ergebnissen sowie die Sicherstellung einer angemessenen Rechenschaftspflicht. Es wird erwartet, dass die Definition von „hohem Risiko" weitgehend mit internationalen Ansätzen übereinstimmt und zugleich den spezifischen regulatorischen Kontext Australiens widerspiegelt.
Der australische Privacy Act 1988 wird derzeit umfassend reformiert, mit vorgeschlagenen Änderungen, die den Schutz bei automatisierter Entscheidungsfindung unter Verwendung personenbezogener Daten stärken werden. Der Privacy Act Review (Attorney-General's Report, 2023) empfahl, ein Recht für Einzelpersonen einzuführen, aussagekräftige Informationen darüber anzufordern, wie automatisierte Entscheidungen getroffen werden, und eine menschliche Überprüfung bedeutsamer automatisierter Entscheidungen zu verlangen.
Auch die Australian Human Rights Commission war im Bereich der KI-Governance aktiv und veröffentlichte einen Bericht über Menschenrechte und Technologie, der spezifische Schutzmaßnahmen gegen KI-bedingte Diskriminierung und Verzerrungen empfahl. Die Arbeit der Commission hat die Entwicklung des umfassenderen Governance-Rahmenwerks beeinflusst.
Die ASIC (Australian Securities and Investments Commission) und die APRA (Australian Prudential Regulation Authority) haben Erwartungen an die KI-Governance im Finanzdienstleistungsbereich veröffentlicht, darunter Anforderungen an das Modellrisikomanagement, die Rechenschaftspflicht des Vorstands und den Verbraucherschutz bei KI-gestützten Finanzprodukten.
Das Office of the Australian Information Commissioner (OAIC) hat Leitlinien zur Schnittstelle zwischen KI und Datenschutzrecht bereitgestellt und dabei betont, dass bestehende Datenschutzpflichten für KI-Systeme gelten, die personenbezogene Daten verarbeiten, und dass Organisationen bei der KI-Entwicklung Ansätze des Datenschutzes durch Technikgestaltung verfolgen sollten.
Für in Australien tätige Organisationen erfordert die Compliance derzeit die Einhaltung bestehender Gesetze (Privacy Act, Antidiskriminierungsgesetzgebung, Verbraucherrecht), soweit sie auf KI anwendbar sind, die freiwillige Übernahme der AI Ethics Principles sowie die Vorbereitung auf die kommenden verbindlichen Schutzvorkehrungen für KI mit hohem Risiko. Es wird erwartet, dass sich der Zeitplan für die verbindlichen Anforderungen im Zeitraum 2025-2026 konkretisiert.
Die acht AI Ethics Principles bei Gestaltung und Einsatz von KI-Systemen einhalten
Den Privacy Act 1988 für KI-Systeme einhalten, die personenbezogene Daten verarbeiten
Sicherstellen, dass KI-Systeme nicht gegen die Antidiskriminierungsgesetzgebung verstoßen
Das Australian Consumer Law für KI-gestützte Produkte und Dienstleistungen einhalten
Sich auf verbindliche Schutzvorkehrungen für KI-Anwendungen mit hohem Risiko vorbereiten
Menschliche Aufsicht für die automatisierte Entscheidungsfindung mit hohem Risiko einführen
Transparenz über den KI-Einsatz in verbrauchernahen Anwendungen schaffen
Sicherstellen, dass KI-Systeme im Finanzdienstleistungsbereich die Erwartungen von ASIC und APRA erfüllen
Aufzeichnungen über Entscheidungen zur Entwicklung und zum Einsatz von KI-Systemen führen
Tests und Validierung für die Sicherheit und Zuverlässigkeit von KI-Systemen durchführen
Derzeit sind die acht AI Ethics Principles freiwillig. Die australische Regierung kündigte jedoch im September 2024 an, dass verbindliche Schutzvorkehrungen für KI in Anwendungsbereichen mit hohem Risiko eingeführt werden. Die detaillierte Ausgestaltung dieser verbindlichen Anforderungen wird im Laufe des Jahres 2025 erwartet.
Ja. Der Privacy Act 1988 gilt für jede Verarbeitung personenbezogener Daten durch KI-Systeme. Es wird erwartet, dass die anstehenden Reformen spezifische Rechte im Zusammenhang mit der automatisierten Entscheidungsfindung einführen, darunter das Recht auf aussagekräftige Erläuterungen und eine menschliche Überprüfung.
Beginnen Sie mit den freiwilligen AI Ethics Principles, stellen Sie die Einhaltung bestehender Gesetze sicher (Privacy Act, Antidiskriminierung, Verbraucherrecht), beobachten Sie die Entwicklung der verbindlichen Schutzvorkehrungen und ziehen Sie internationale Normen wie ISO 42001 für einen strukturierten Governance-Ansatz in Betracht.
Get notified when new AI regulations are introduced or updated. Join 500+ compliance professionals.