Die KI-Verordnung, auch bekannt als EU-KI-Gesetz, ist das europ\u00e4ische Gesetz, das erstmals spezifische Vorschriften f\u00fcr den Einsatz k\u00fcnstlicher Intelligenz festlegt. Finanzinstitute stehen dabei an erster Stelle: Bonit\u00e4tspr\u00fcfung, Versicherungsannahme und Betrugserkennung sind KI-Systeme, die nahezu immer unter die strengste Kategorie des KI-Gesetzes fallen. F\u00fcr alle, die KI-Systeme f\u00fcr den Finanzsektor entwickeln oder verwalten, stellen die Vorschriften der KI-Verordnung das einschneidendste Gesetz dieses Jahrzehnts dar. <\/p>\n\n
Die KI-Verordnung ist das umfassende europ\u00e4ische Gesetz, das im August 2024 in Kraft getreten ist. Das Gesetz stuft KI-Systeme nach Risikostufen ein: H\u00f6here Risikokategorien ziehen strengere Auflagen nach sich. Die Europ\u00e4ische Kommission hat das Gesetz erlassen, um den Einsatz k\u00fcnstlicher Intelligenz auf dem europ\u00e4ischen Markt sicher und fair zu gestalten. <\/p>\n\n
Der AI Act unterscheidet vier Risikokategorien, wobei h\u00f6here Risikokategorien strengere Auflagen mit sich bringen:<\/p>\n\n
Die KI-Verordnung tritt schrittweise in Kraft. Verbotene KI-Systeme sind bereits ab dem 2. Februar 2025 nicht mehr zul\u00e4ssig. Erste Verpflichtungen f\u00fcr Anbieter von Allzweck-KI gelten ab dem 2. August 2025. F\u00fcr KI-Systeme der strengsten Kategorie \u2013 die den Finanzsektor am st\u00e4rksten betrifft \u2013 gelten die vollst\u00e4ndigen Anforderungen der KI-Verordnung ab dem 2. August 2026. Gro\u00dfe KI-Modelle mit erheblichen Auswirkungen m\u00fcssen dar\u00fcber hinaus Vorf\u00e4lle an die Europ\u00e4ische Kommission melden. <\/p>\n\n
Der Finanzsektor ist der Bereich, in dem KI-Systeme die unmittelbarsten Auswirkungen auf den einzelnen B\u00fcrger haben. Entscheidungen \u00fcber Kredite, Pr\u00e4mien oder Zahlungen auf der Grundlage pers\u00f6nlicher Merkmale haben erhebliche Auswirkungen. Die KI-Verordnung nennt in Anhang III ausdr\u00fccklich, welche KI-Anwendungen als risikoreich gelten. Der Einsatz von KI bei finanziellen Entscheidungen ist die konkreteste Anwendung des Gesetzes. Der sachgem\u00e4\u00dfe Einsatz von KI-Systemen beginnt mit einer ehrlichen Bestandsaufnahme aller aktiven KI-Anwendungen. <\/p>\n\n
KI-Systeme, die beurteilen, ob jemand f\u00fcr einen Kredit, eine Hypothek oder Kreditprodukte in Frage kommt, gelten gem\u00e4\u00df dem KI-Gesetz als KI-Systeme mit hohem Risiko. Der Einsatz von KI bei der Bonit\u00e4tspr\u00fcfung hat direkte Auswirkungen auf Menschen. Anbieter dieser KI-Systeme m\u00fcssen bestimmte Verpflichtungen hinsichtlich der Dokumentation und der \u00dcberwachung von Verzerrungen erf\u00fcllen. <\/p>\n\n
Der Einsatz von KI bei der Versicherungsantragspr\u00fcfung \u2013 insbesondere von KI-Modellen f\u00fcr Hochrisikof\u00e4lle, die Pr\u00e4mien auf der Grundlage pers\u00f6nlicher Merkmale berechnen \u2013 unterliegt ebenfalls den strengsten Anforderungen der KI-Verordnung. Das Gesetz schreibt vor, dass Anbieter nachweisen m\u00fcssen, dass die Datens\u00e4tze von hoher Qualit\u00e4t sind und keine Verzerrungen enthalten, um Diskriminierung zu verhindern. <\/p>\n\n
KI-Systeme in kritischen Sektoren wie dem Finanzdienstleistungssektor, der kritischen Infrastruktur, dem Gesundheitswesen und der Strafverfolgung m\u00fcssen strenge Anforderungen hinsichtlich Datenqualit\u00e4t, Datenprotokollierung und \u00dcberwachung erf\u00fcllen. KI-Systeme mit hohem Risiko, die Konten sperren oder Zahlungen ablehnen und damit direkte Auswirkungen auf die Kunden haben, fallen unter die Bestimmungen des KI-Gesetzes. <\/p>\n\n
Die KI-Verordnung stellt zudem Anforderungen an Anbieter von Allzweck-KI, also gro\u00dfen KI-Modellen f\u00fcr allgemeine Zwecke. Generative KI, die von Finanzinstituten f\u00fcr die Kundenkommunikation eingesetzt wird, geh\u00f6rt zu den KI-Anwendungen, die unter die Transparenzvorschriften des Gesetzes fallen. KI-Modelle, die in gro\u00dfem Umfang in Produkten integriert werden, m\u00fcssen zus\u00e4tzliche Anforderungen an die R\u00fcckverfolgbarkeit erf\u00fcllen. <\/p>\n\n
Die KI-Verordnung legt f\u00fcr KI-Systeme der strengsten Kategorie eine Reihe von Anforderungen fest, die \u00fcber die bestehenden Vorschriften hinausgehen. In der Regel sind Institutionen die Betreiber; das Gesetz macht die Betreiber jedoch auf europ\u00e4ischer Ebene ebenso verantwortlich wie die Entwickler von KI-Systemen. <\/p>\n\n
Dokumentation und R\u00fcckverfolgbarkeit sind f\u00fcr die Aufsicht durch nationale Beh\u00f6rden, darunter die niederl\u00e4ndische Datenschutzbeh\u00f6rde (Autoriteit Persoonsgegevens), von entscheidender Bedeutung. Der AI Act schreibt die Dokumentation von KI-Systemen vor: welche Daten verwendet wurden, wie das Modell funktioniert und welche Risikobewertungen durchgef\u00fchrt wurden. Entwickler m\u00fcssen Risikoanalysen durchf\u00fchren, die Herkunft und Qualit\u00e4t der Daten \u00fcberpr\u00fcfen, Eingabedaten validieren und f\u00fcr integrierte \u00dcberwachungsmechanismen sorgen. <\/p>\n\n
Organisationen, die KI-Systeme einsetzen, m\u00fcssen eine menschliche \u00dcberwachung einbauen: Ein Mensch muss die Ergebnisse bewerten und die M\u00f6glichkeit haben, diese zu \u00fcberstimmen. Die KI-Verordnung schreibt vor, dass KI-Systeme gem\u00e4\u00df der Gebrauchsanweisung des Anbieters eingesetzt werden und dass eine aktive \u00dcberwachung erfolgt. <\/p>\n\n
Bei der Nutzung von KI-Systemen der h\u00f6chsten Risikokategorie sind Organisationen verpflichtet, schwerwiegende Vorf\u00e4lle dem Anbieter und den nationalen Beh\u00f6rden zu melden. In den Niederlanden \u00fcberwacht die Datenschutzbeh\u00f6rde die Einhaltung der KI-Verordnung. Gro\u00dfe KI-Modelle mit erheblichen Auswirkungen melden Vorf\u00e4lle zudem der Europ\u00e4ischen Kommission. <\/p>\n\n
Unternehmen sind verpflichtet, daf\u00fcr zu sorgen, dass Mitarbeiter, die mit KI-Systemen arbeiten, deren Funktionsweise, ethische Risiken und gesellschaftliche Auswirkungen verstehen. Der KI-Gesetzentwurf stellt Anforderungen an die KI-Kompetenz von Unternehmen, die KI-Systeme der h\u00f6chsten Risikokategorie einsetzen. <\/p>\n\n
Die KI-Verordnung schreibt eine Grundrechte-Folgenabsch\u00e4tzung (FRIA) f\u00fcr den Einsatz von KI-Systemen der h\u00f6chsten Risikokategorie vor. Bei dieser Pr\u00fcfung wird bewertet, ob der Einsatz von KI-Systemen Grundrechte beeintr\u00e4chtigt \u2013 eine Anforderung, die das Gesetz zus\u00e4tzlich zur bestehenden DPIA-Pflicht gem\u00e4\u00df der DSGVO vorsieht. <\/p>\n\n
Unternehmen im Finanzsektor sind gleichzeitig von der KI-Verordnung und dem Digital Operational Resilience Act (DORA) betroffen. DORA tritt am 17. Januar 2025 in Kraft und legt Anforderungen an die digitale Widerstandsf\u00e4higkeit von Finanzinstituten fest, einschlie\u00dflich der KI-Systeme und Anbieter, auf die diese sich verlassen. <\/p>\n\n
Die beiden Gesetze \u00fcberschneiden sich stark. Technische Dokumentation, Meldung von Vorf\u00e4llen und Anforderungen an Anbieter von KI-Systemen sind in beiden Gesetzen geregelt. Der AI Act bremst \u00fcbereilte Projekte und zwingt Organisationen zu \u00e4u\u00dferster Sorgfalt, um diskriminierende Algorithmen zu vermeiden \u2013 was auch das Ziel von DORA ist. Ein kombinierter Ansatz spart Zeit und vereinfacht die Anwendung beider Gesetze in kritischen Prozessen. <\/p>\n\n
<\/p>\n\n
<\/p>
Erstellen Sie eine Bestandsaufnahme der KI-Systeme, die Sie nutzen, verwalten oder anbieten, sowie der Daten, die diese verarbeiten. Viele Organisationen wissen nicht, wie viele Systeme tats\u00e4chlich im Einsatz sind, insbesondere bei zugekauften SaaS-Produkten. Die gesetzlichen Anforderungen gelten f\u00fcr jedes KI-System, das Sie auf dem europ\u00e4ischen Markt einsetzen. <\/p> <\/li>
Pr\u00fcfen Sie jedes KI-System anhand von Anhang III der KI-Verordnung. Die zentrale Frage lautet: Hat der Einsatz dieses KI-Systems unmittelbare Auswirkungen auf die B\u00fcrger in den Bereichen Kreditvergabe, Versicherungen oder andere kritische Entscheidungen? Der KI-Gesetzentwurf legt spezifische Verpflichtungen f\u00fcr KI-Systeme fest, die die Grundrechte der B\u00fcrger ber\u00fchren. <\/p> <\/li>
Entwickler m\u00fcssen Risikoanalysen durchf\u00fchren und integrierte \u00dcberwachungsmechanismen einrichten. Erfassen Sie die Leistung von KI-Modellen auf der Grundlage der Trainingsdaten, \u00fcberwachen Sie diese auf Verzerrungen und dokumentieren Sie die Zusammensetzung der Datens\u00e4tze. \u00dcberpr\u00fcfen Sie die Datenqualit\u00e4t, bevor Sie ein Modell in den Betrieb nehmen. Die R\u00fcckverfolgbarkeit ist eine fortlaufende gesetzliche Verpflichtung und keine einmalige Ma\u00dfnahme. <\/p> <\/li>
Der AI Act, die DSGVO und die DORA stellen sich \u00fcberschneidende Anforderungen an KI-Systeme in Bezug auf Transparenz und Vorfallmanagement. F\u00fchren Sie eine einzige kombinierte Folgenabsch\u00e4tzung durch, die sowohl die DPIA als auch die FRIA abdeckt. Dies verhindert Doppelarbeit und liefert ein umfassenderes Risikobild. <\/p> <\/li>
Nach dem KI-Gesetz sind die Betreiber f\u00fcr die Einhaltung der Vorschriften verantwortlich, auch wenn sie die KI-Systeme nicht selbst entwickelt haben. Bei jeder Nutzung eines zugekauften KI-Systems gelten dieselben Verpflichtungen. Legen Sie in Vertr\u00e4gen mit Anbietern fest, welche Unterlagen und Garantien Sie erwarten. <\/p> <\/li><\/ol><\/div>\n\n
<\/p>\n\n
<\/p>\n\n
Die KI-Verordnung ist das europ\u00e4ische KI-Gesetz, offiziell der \u201eEU AI Act\u201c. Das Gesetz legt auf der Grundlage von Risikostufen Vorschriften f\u00fcr die Entwicklung und Nutzung k\u00fcnstlicher Intelligenz in der EU fest. Das Gesetz bildet die wichtigste Grundlage f\u00fcr die KI-Gesetzgebung in den Niederlanden und auf europ\u00e4ischer Ebene. Wer die KI-Gesetzgebung verstehen m\u00f6chte, beginnt hier. <\/p> <\/div>
Verbotene KI-Systeme sind bereits ab dem 2. Februar 2025 nicht mehr zul\u00e4ssig. KI-Systeme der strengsten Kategorie unterliegen ab dem 2. August 2026 der vollst\u00e4ndigen Verordnung. Die Einrichtung von Governance-Strukturen, die Registrierung von KI-Modellen und die Anpassung von Prozessen dauern durchschnittlich 12 bis 18 Monate; Organisationen, die jetzt damit beginnen, werden die Frist problemlos einhalten. <\/p> <\/div>
Bei der Nutzung verbotener KI-Systeme betr\u00e4gt die Geldbu\u00dfe bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes. Bei Nichteinhaltung der Anforderungen f\u00fcr am strengsten regulierte KI-Systeme betr\u00e4gt die Geldbu\u00dfe bis zu 15 Millionen Euro oder 3 %. Die nationalen Beh\u00f6rden, darunter die niederl\u00e4ndische Datenschutzbeh\u00f6rde (Autoriteit Persoonsgegevens), \u00fcberwachen die Einhaltung der KI-Verordnung. <\/p> <\/div>
Ja. Das Gesetz sieht keine Ausnahmen f\u00fcr Start-ups vor, die KI-Systeme der h\u00f6chsten Risikokategorie einsetzen. Es gibt begrenzte Ausnahmen f\u00fcr kleine Organisationen hinsichtlich bestimmter Dokumentationspflichten, doch die Kernanforderungen \u2013 Einstufung als hohes Risiko, Transparenz, \u00dcberwachung und Meldung von Vorf\u00e4llen \u2013 gelten f\u00fcr alle Anbieter von KI-Systemen auf dem europ\u00e4ischen Markt. <\/p> <\/div>
Das KI-Gesetz und die DSGVO erg\u00e4nzen sich. Die DSGVO legt Anforderungen an die Verarbeitung personenbezogener Daten fest; das Gesetz stellt Anforderungen an die KI-Systeme selbst. Beide Gesetze enthalten spezifische Bestimmungen zur automatisierten Entscheidungsfindung und zur Transparenz. Ein integrierter Ansatz \u2013 eine einzige Risikobewertung f\u00fcr beide Gesetze \u2013 ist der effizienteste Weg f\u00fcr Organisationen, die k\u00fcnstliche Intelligenz einsetzen. <\/p> <\/div> <\/div>\n\n
<\/p>\n\n
Haftungsausschluss<\/strong><\/p>\n\n Wir legen gro\u00dfen Wert auf die Richtigkeit und Aktualit\u00e4t der Informationen in diesem Artikel. Dennoch k\u00f6nnen aus dem Inhalt keine Rechte abgeleitet werden. <\/em><\/p>\n","protected":false},"excerpt":{"rendered":" Die KI-Verordnung, auch bekannt als EU-KI-Gesetz, ist das europ\u00e4ische Gesetz, das erstmals spezifische Vorschriften f\u00fcr den Einsatz k\u00fcnstlicher Intelligenz festlegt. Finanzinstitute stehen dabei an erster Stelle: Bonit\u00e4tspr\u00fcfung, Versicherungsannahme und Betrugserkennung sind KI-Systeme, die nahezu immer unter die strengste Kategorie des KI-Gesetzes fallen. F\u00fcr alle, die KI-Systeme f\u00fcr den Finanzsektor entwickeln oder verwalten, stellen die Vorschriften […]<\/p>\n","protected":false},"featured_media":33412,"template":"","meta":{"_acf_changed":false,"_et_pb_use_builder":"","_et_pb_old_content":"","_et_gb_content_width":"","content-type":"","hr_contact_first_name":"","hr_contact_image":"","hr_whatsapp_url":"","hr_phone_number":"","current_post_id":"33416","_members_access_role":[],"_members_access_error":"","_links_to":"","_links_to_target":""},"kennisbank-categorie":[],"class_list":["post-33416","kennisbank","type-kennisbank","status-publish","has-post-thumbnail","hentry"],"acf":{"kb_disable_cta_sidebar":false,"kb_disable_related_sidebar":false,"kb_featured":false,"auteur":20236,"kb_title":"","kb_cta_sidebar":{"title":"","image":null,"button":null,"content":""},"kb_related_items":null},"yoast_head":"\n