Einhaltung des EU-KI-Gesetzes
Einhaltung des EU-KI-Gesetzes für Zukunftsorientierte Organisationen
Die KI-Verordnung der EU legt unterschiedliche Pflichten für Anbieter und Betreiber fest, abhängig vom System, seiner Zweckbestimmung und den maßgeblichen Geltungsdaten. Aona bietet Einblick in die KI-Nutzung von Beschäftigten, die Durchsetzung konfigurierter Richtlinien und unterstützende Nutzungsnachweise auf abgedeckten Endgeräten.
- KI-Nutzungssichtbarkeit
- Endpoint
- Governance-Zusammenfassungen
- Monthly
- unterstützte KI-Steuerungen
- Policy-led
- KI-Tools im Risikokatalog
- 10,000+
Was der EU-KI-Gesetz verlangt
Das EU-KI-Gesetz führt Verpflichtungen für KI-Anbieter und -Anwender ein, mit erheblichen Strafen bei Nichteinhaltung.
RisikoklassifikationKernverpflichtungKlassifizieren Sie jedes KI-System nach Risikostufe
Das EU-KI-Gesetz legt vier Risikokategorien fest: inakzeptabel (verboten), Hochrisiko (strenge Verpflichtungen), begrenztes Risiko (Transparenzpflichten) und minimales Risiko (keine spezifischen Regeln). Organisationen müssen jedes KI-System, das sie einsetzen oder entwickeln, anhand dieser Kategorien bewerten. Hochrisiko-KI, die in Beschäftigung, Bildung, Strafverfolgung oder kritischer Infrastruktur eingesetzt wird, unterliegt den strengsten Anforderungen.
TransparenzverpflichtungenArtikel 50Berichte über den Einsatz von KI an betroffene Personen
Artikel 50 legt Transparenzpflichten für bestimmte KI-Systeme und Nutzungen fest. Dazu zählen direkte Interaktionen mit Menschen, synthetische Inhalte, Emotionserkennung und Deepfakes. Die Pflichten unterscheiden sich für Anbieter und Betreiber und enthalten spezifische Ausnahmen. Prüfen Sie die jeweilige Nutzung und Rolle, um festzustellen, welche Hinweise oder Kennzeichnungen erforderlich sind.
KonformitätsprüfungenHigh-RiskNachweisen Sie die Einhaltung von Hochrisiko-KI
Hochrisiko-KI-Systeme müssen Konformitätsprüfungen durchlaufen, bevor sie auf den Markt gebracht oder in Betrieb genommen werden. Diese Bewertungen bewerten Risikomanagement, Datenverwaltung, technische Dokumentation, Aufzeichnungen, Transparenz, menschliche Aufsicht, Genauigkeit, Robustheit und Cybersicherheit. Einige Kategorien erfordern eine Bewertung durch eine benachteiligte Stelle.
KI-KompetenzArticle 4Stellen Sie sicher, dass das Personal die von ihnen genutzten KI-Systeme versteht
Artikel 4 verlangt, dass alle Mitarbeitenden, die mit KI-Systemen zu tun haben, über ausreichende KI-Kompetenzen, ein Verständnis der KI-Fähigkeiten, Einschränkungen, Risiken und des regulatorischen Kontexts verfügen. Dies gilt für Einsatzleiter, nicht nur für Entwickler. Organisationen müssen Schulungsprogramme umsetzen, die im Verhältnis zu den eingesetzten KI-Systemen und den Rollen der beteiligten Personen sind.
Dokumentation und DokumentationArticle 12Führen Sie Protokolle für risikoreiche KI-Operationen
KI-Systeme mit hohem Risiko müssen über automatische Protokollierungsfunktionen verfügen, um die Rückverfolgbarkeit zu gewährleisten. Einsatzbereiter müssen die vom KI-System erstellten Protokolle für einen dem vorgesehenen Zweck angemessenen Zeitraum von mindestens sechs Monaten führen. Diese Protokolle müssen den Marktüberwachungsbehörden auf Anfrage zur Verfügung stehen und sind für die Überwachung nach dem Markteintrag unerlässlich.
Das Schatten-KI-Problem im Rahmen des EU-KI-Gesetzes
Sie können KI-Risiken nicht klassifizieren oder Transparenzpflichten erfüllen für KI-Tools, die Ihnen unbekannt sind. Shadow KI ist die größte Compliance-Lücke beim EU-KI-Gesetz.
Unklassifizierte KI-Werkzeuge im Einsatz
Mitarbeiter nutzen KI-Tools, ohne ihre Risikokategorie gemäß dem EU-KI-Gesetz zu bewerten. Ein KI-Tool, das zur Kandidatenüberprüfung verwendet wird, ist jedoch risikoreich, aber wenn es von einem HR-Team ohne IT-Aufsicht übernommen wird, erhält es möglicherweise nie die erforderliche Konformitätsbewertung.
Kein KI-Inventar für Regulierungsbehörden
Marktüberwachungsbehörden können eine vollständige Inventarliste der eingesetzten KI-Systeme anfordern. Ohne Transparenz von Shadow AI können Organisationen keine Einhaltung nachweisen oder gar nicht identifizieren, welche KI-Systeme den Anforderungen des Gesetzes unterliegen.
Fehlende Transparenzoffenlegungen
Bei ungeprüfter KI-Nutzung können Transparenzpflichten für ein bestimmtes System oder eine bestimmte Nutzung übersehen werden. Prüfen Sie die Rolle der Organisation, die Art der Interaktion oder des Inhalts und die anwendbaren Ausnahmen nach Artikel 50, um festzustellen, welche Hinweise erforderlich sind.
Aona in der Praxis
Von der Anforderung zur konkreten Kontrolle
Nutzen Sie den Einblick in die KI-Nutzung Ihrer Beschäftigten für die Entscheidungen Ihres Programms zur KI-Verordnung.
Artikel 6 → Prüfung des AnwendungsfallsKlassifizierung anhand beobachteter KI-Nutzung beginnen
- Die Anforderung
- Die Einstufung als Hochrisiko-KI-System richtet sich nach dem System und seiner Zweckbestimmung gemäß den Regeln der Verordnung.
- Was Aona beiträgt
- Machen Sie KI-Tools auf abgedeckten Endgeräten sichtbar, damit Verantwortliche die zugehörigen Anwendungsfälle erkennen und prüfen können.
- Zu prüfende Nachweise
- Nutzen Sie das beobachtete Inventar und die Nutzungsinformationen, um das System, die verantwortliche Person und die Zweckbestimmung zu dokumentieren.
- Verantwortung Ihrer Organisation
- Bestimmen Sie Ihre Rolle als Anbieter oder Betreiber und klassifizieren Sie den Anwendungsfall. Aonas Informationen zu Datenrisiken bestimmen nicht dessen rechtliche Kategorie.
Artikel 4 → KI-KompetenzBeschäftigte anhand der tatsächlichen KI-Nutzung anleiten
- Die Anforderung
- Anbieter und Betreiber müssen Maßnahmen für ausreichende KI-Kompetenz des betreffenden Personals ergreifen und dabei dessen Kenntnisse sowie den Nutzungskontext berücksichtigen.
- Was Aona beiträgt
- Leiten Sie aus der Tool-Nutzung und den Richtlinienereignissen auf abgedeckten Endgeräten relevante Themen für die Anleitung Ihrer Beschäftigten ab.
- Zu prüfende Nachweise
- Kombinieren Sie diese Erkenntnisse mit Ihrem Schulungsplan, Teilnahmenachweisen und Kompetenzbewertungen.
- Verantwortung Ihrer Organisation
- Entwickeln Sie geeignete Schulungen und bewerten Sie die Kompetenz. Nutzungstelemetrie und Richtlinienhinweise belegen nicht, dass die Anforderungen an KI-Kompetenz erfüllt sind.
Art. 26 Abs. 1 und 2 → BetriebsregelnRegeln zur menschlichen Aufsicht unterstützen
- Die Anforderung
- Betroffene Betreiber von Hochrisiko-KI-Systemen müssen die Betriebsanleitung des Systems befolgen und die Aufsicht Personen mit der erforderlichen Kompetenz, Schulung und Befugnis übertragen.
- Was Aona beiträgt
- Wenden Sie Ihre freigegebenen Richtlinien für Tools und sensible Daten auf unterstützte KI-Interaktionen von Beschäftigten an.
- Zu prüfende Nachweise
- Vergleichen Sie konfigurierte Einschränkungen und protokollierte Richtlinienereignisse mit den zulässigen Nutzungen in Ihrem Betriebsverfahren.
- Verantwortung Ihrer Organisation
- Benennen Sie Prüfverantwortliche, Entscheidungsbefugnisse und Eingriffsverfahren. Die Weiterleitung zur menschlichen Freigabe und die Kontrolle jeder Agentenaktion erfordern eigene Kontrollmechanismen.
Art. 26 Abs. 5 und 6 → Überwachung und AufzeichnungenRichtlinienereignisse für Überwachungsprüfungen nutzen
- Die Anforderung
- Für betroffene Betreiber von Hochrisiko-KI-Systemen gelten unter den Voraussetzungen der Verordnung Pflichten zur Überwachung, zum Umgang mit Vorfällen und zu Systemprotokollen.
- Was Aona beiträgt
- Prüfen Sie die KI-Nutzung von Beschäftigten und Richtlinienereignisse aus unterstützten Interaktionen als einen Bestandteil Ihres Überwachungsprozesses.
- Zu prüfende Nachweise
- Kombinieren Sie relevante Aona-Ereignisse mit den eigenen Protokollen des KI-Systems, Anbieteranweisungen und Untersuchungsaufzeichnungen.
- Verantwortung Ihrer Organisation
- Erfüllen Sie die geltenden Pflichten zur Protokollaufbewahrung, Meldung und Aussetzung des Betriebs. Aona-Ereignisse ersetzen nicht die vom Hochrisiko-KI-System erzeugten Protokolle.
Die Pflichten hängen von Ihrer Rolle, der Zweckbestimmung des Systems und den maßgeblichen Geltungsdaten ab. Die Beispiele für Betreiber von Hochrisiko-KI-Systemen gelten nur, soweit die jeweiligen Pflichten anwendbar und in Kraft sind.
FAQ
Häufig gestellte Fragen
Wann tritt das EU-KI-Gesetz in Kraft?
Gilt das EU-KI-Gesetz für Unternehmen außerhalb der EU?
Was ist die KI-Kompetenzanforderung gemäß Artikel 4?
Wie klassifiziere ich KI-Risiken nach dem EU-KI-Gesetz?
Kommen Sie den Anforderungen des EU-KI-Gesetzes voraus
Entdecken Sie die Nutzung von Mitarbeiter-KI auf abgedeckten Endpunkten, wenden Sie konfigurierte Richtlinien an und sammeln Sie Beweise für Ihre Überprüfung des EU-KI-Gesetzes. Artikel 4 KI-Kompetenztraining für Ihr gesamtes Team ist kostenlos.