EU AI Act: Die neuen Regeln für künstliche Intelligenz verstehen

Die digitale Revolution ist untrennbar mit Künstlicher Intelligenz (KI) verbunden. KI-Technologien sind zum Eckpfeiler verschiedener Produkte und Dienstleistungen in den Bereichen Finanzen, Bildung, Gesundheitswesen und Landwirtschaft geworden.

Der regulatorische Rahmen für KI ist jedoch hinter den technologischen Fortschritten zurückgeblieben. Um diese Lücke zu schließen, ist die EU Vorreiter beim Artificial Intelligence Act, dem weltweit ersten umfassenden Regelwerk für KI.

Was ist das EU-KI-Gesetz?

Das Hauptziel des EU-KI-Gesetzes ist es, ein Gleichgewicht zwischen den Chancen und Risiken zu schaffen, die mit der Entwicklung und dem Einsatz von KI verbunden sind. Um dies zu erreichen, müssen KI-Systeme sein:

• Sicher: Sicherstellen, dass KI-Systeme keine Bedrohung für die Sicherheit oder das Wohlbefinden der Menschen darstellen.
• Transparent: Die Benutzer sollten wissen, wann sie mit KI interagieren.
• Nachvollziehbar: Die Entwicklung und der Einsatz von KI-Systemen müssen nachvollziehbar sein, um die Verantwortlichkeit zu gewährleisten.
• Nicht-diskriminierend: KI-Systeme sollten keine Vorurteile aufrechterhalten oder schaffen.
• Umweltfreundlich: Bei der Entwicklung von KI sollten die Auswirkungen auf die Umwelt berücksichtigt werden.
• Der Mensch in der Schleife: KI-Systeme sollten von Menschen beaufsichtigt werden, nicht umgekehrt.

Wie in Artikel 1 dargelegt, zielt das KI-Gesetz darauf ab, “menschenzentrierte und vertrauenswürdige KI” zu fördern und gleichzeitig die Grundrechte, die Demokratie und die Rechtsstaatlichkeit zu schützen.

Risikobasierter Ansatz der KI

Das KI-Gesetz verfolgt bei der Regulierung einen risikobasierten Ansatz. KI-Systeme werden in verschiedene Risikostufen eingeteilt:

• Inakzeptables Risiko: KI-Systeme, die eine inakzeptable Bedrohung für die Sicherheit, Gesundheit oder Grundrechte darstellen, werden verboten. Dazu gehören Systeme, die menschliches Verhalten manipulieren, Social Scoring und biometrische Fernidentifikation in Echtzeit (z.B. Gesichtserkennung).
• Hohes Risiko: KI-Systeme mit hohem Risiko unterliegen einer strengen Bewertung vor der Markteinführung und einer laufenden Überwachung. Diese Kategorie umfasst KI, die in kritischen Infrastrukturen, im Bildungswesen und bei Produkten, die unter EU-Sicherheitsrichtlinien fallen, eingesetzt wird.
• Begrenztes Risiko: Für KI-Systeme mit begrenztem Risiko gelten Transparenzanforderungen, die sicherstellen, dass die Nutzer bei der Interaktion mit der KI informiert sind. Generative KI, wie z.B. ChatGPT, fällt in diese Kategorie.
• Geringes oder gar kein Risiko: KI-Systeme mit minimalem oder gar keinem Risiko unterliegen, wenn überhaupt, nur wenigen regulatorischen Einschränkungen.

Wichtige Bestimmungen und Auswirkungen

• Generative KI: KI-Modelle, die in der Lage sind, Texte, Bilder oder andere Medieninhalte zu generieren, wie z.B. ChatGPT, müssen offenlegen, dass es sich um KI-generierte Inhalte handelt und die Generierung illegaler Inhalte verhindern.
• Biometrische Daten: Die Verwendung biometrischer Daten, wie z.B. der Gesichtserkennung, wird streng reguliert, wobei die biometrische Fernidentifizierung in Echtzeit in öffentlichen Räumen generell verboten ist.
• Datenverwaltung: Das Gesetz unterstreicht die Bedeutung hochwertiger Daten für das Training von KI-Systemen und befasst sich mit Fragen des Datenschutzes und der Datensicherheit.

Das KI-Gesetz der EU ist ein bedeutender Schritt vorwärts in der globalen Governance von KI. Durch die Annahme eines risikobasierten Ansatzes und die Konzentration auf Transparenz, Rechenschaftspflicht und menschliche Aufsicht will die EU sicherstellen, dass KI auf verantwortungsvolle und ethische Weise entwickelt und eingesetzt wird. Da sich die KI weiter entwickelt, wird sich wahrscheinlich auch die regulatorische Landschaft weiter anpassen.