Künstliche Intelligenz ist im Alltag angekommen, das ist nicht neu. Nicht nur die unzähligen Möglichkeiten unterstützen im Privaten wie Beruflichen bei der Suche nach Informationen, der Generierung oder Zusammenfassung von Inhalten jedweder Art. Doch schwingt bei dem Thema KI immer auch eine gewisse Skepsis und Unsicherheit mit: Welche Daten vertraue ich der KI an, wo sind auch Grenzen dieser schier unendlich erscheinenden Wissensquelle? Was darf KI?
Wir starten mit diesem Beitrag eine neue Blogreihe, in der wir uns mit Thema Künstliche Intelligenz auseinandersetzen.
Ausgangspunkt: Die KI braucht einen Rahmen
Künstliche Intelligenz (KI) ist längst fester Bestandteil unseres Alltags und unserer Wirtschaft. Mit der neuen KI-Verordnung (Artificial Intelligence Act, kurz: AI-Act), die am 01. August 2024 in Kraft getreten ist, schafft die Europäische Union nun den weltweit ersten umfassenden Rechtsrahmen zur Regulierung von KI-Systemen, mit dem die verantwortungsvolle Entwicklung und Verwendung künstlicher Intelligenz in der EU gefördert wird. Die rasante Entwicklung von KI-Systemen hat in den letzten Jahren deutlich gemacht, dass technologische Fortschritte nicht automatisch mit gesellschaftlicher Verantwortung einhergehen: Gefahren wie Diskriminierung, Deepfakes oder algorithmische Vorurteile stellen vorrangig Unternehmen vor große Herausforderungen.
Aus diesem Grund wurden von der EU Übergangsfristen eingerichtet, um eine reibungslose Einführung zu gewährleisten. Die neue KI-Verordnung besteht aus 12 Kapiteln, 113 Artikeln, 13 Anhängen und 180 Erwägungsgründen. Die Erwägungsgründe erläutern, wie ein Artikel auszulegen oder umzusetzen ist und sind damit als Hilfestellung anzusehen. Zudem erklären Sie den politischen Hintergrund der KI-VO, stellen eine Verbindung zu anderen Verordnungen, wie z.B. der DGSVO her und bieten daher eine größere Rechtssicherheit für Unternehmen.
Kurzer Vergleich mit der DSGVO
Die Datenschutz-Grundverordnung (DSGVO) zählt in seiner Gesamtheit zu einer der umfangreicheren EU-Verordnung. Sie umfasst dabei
11 Kapitel
99 Artikel
0 Anhänge
173 Erwägungsgründe
Was möchte die EU mit der Verordnung erreichen?
Mit der Veröffentlichung der KI-VO verfolgt die EU mehrere Ziele, dazu ein kurzes Statement aus der Pressemitteilung der Europäischen Kommission vom 1. August 2024:
„Mit der KI-Verordnung soll sichergestellt werden, dass in der EU entwickelte und verwendete KI vertrauenswürdig ist und Vorkehrungen zum Schutz der Grundrechte der Menschen bietet. Die Verordnung dient dem Aufbau eines harmonisierten Binnenmarkts für KI in der EU. Sie soll die Einführung von KI-Technik fördern und ein günstiges Umfeld für Innovation und Investitionen schaffen.“
Wer ist von der KI-VO betroffen?
Die KI-Verordnung der EU richtet sich an eine Vielzahl von Akteuren und betrifft
- Anbieter (Entwickler) von KI-Systemen, auch aus Drittstaaten, wenn deren KI- Systeme in der EU angewendet werden.
- Betreiber und Anwender, d.h. Unternehmen, Behörden und Organisationen, die KI-Systeme nutzen oder vertreiben
- Nationale Aufsichtsbehörden, die für die Umsetzung und Kontrolle eingesetzt werden sollen.
Zeitplan für die Umsetzung
Für die Einhaltung der Anpassungsfristen ist der 1. August 2024 ausschlaggebend, das Datum, an dem die Verordnung offiziell in Kraft getreten ist.
| Aspekt | Umsetzung | Erläuterung |
|---|---|---|
| Inkrafttreten der Verordnung | 01.08.2024 | Inkrafttreten, 20 Tage nach Veröffentlichung im Amtsblatt. |
| Beginn der Übergangsfrist | 01.08.2024 | Unternehmen können mit freiwilliger Umsetzung beginnen. |
| Verbot besonders riskanter KI-Anwendungen | 02.02.2025 | Diese Regeln gelten bereits 6 Monate nach Inkrafttreten der Verordnung. |
| Gültigkeit der Verhaltenskodizes und Vorschriften für KI-Systeme mit allgemeinem Verwendungszweck | 01.05.2025 | Diese Regeln gelten 9 Monate nach Inkrafttreten. |
| Einhaltung der Transparenzpflichten | 01.08.2025 | Verpflichtung tritt nach 12 Monaten ein. |
| Umsetzung der Anforderungen für KI-Systeme mit hohem Risiko | 01.08.2027 | Anforderungen werden nach 36 Monaten verbindlich. |
Innerhalb dieser Fristen müssen die Anforderungen umgesetzt werden, denn die Nichteinhaltung kann zu erheblichen Geldstrafen und Haftungsrisiken führen.
Risikobasierter Ansatz der Verordnung
Die Verordnung definiert genaue Verpflichtungen für Anbieter und Betreiber von KI-Systemen, die sich nach den unterschiedlichen Risikoklassen richten. Die meisten Verpflichtungen treffen Anbieter (Entwickler) von Hochrisiko-KI-Systemen. Unterschieden wird nach vier Risikoklassen:
Wer ist für die Überwachung zuständig?
Jedes EU-Mitgliedsland ist verpflichtet, bis August 2025 eine nationale Aufsichtsbehörde für Künstliche Intelligenz zu benennen, Diese Behörde soll aktiv Innovationen fördern und faire Wettbewerbsbedingungen sicherstellen, um Marktverzerrungen zu vermeiden und gleiche Ausgangsbedingungen zu schaffen.. Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt regelt der Artikel 74 KI-VO. In Deutschland kommen dafür vor allem die Bundesnetzagentur, die Datenschutzbehörden oder auch eine neu zu gründende Behörde infrage. Bisher sieht der Referentenentwurf vor, die Bundesnetzagentur (BNetzA) solle als zentrale Marktüberwachungsbehörde und auch als zentrale Beschwerdestelle fungieren und ein Koordinierungszentrum einrichten, um andere zuständige Behörden in ihren Aufgaben zu unterstützen.
Neben der Bundesnetzagentur behalten jedoch auch andere Fachbehörden ihre Zuständigkeiten, wie z.B. die Datenschutzaufsichtsbehörden, insbesondere im Zusammenhang mit dem Schutz der Grundrechte für KI in Deutschland.
Sanktionen
In den Artikeln 99 bis 101 der KI-VO ist festgelegt, dass die Mitgliedstaaten wirksame, verhältnismäßige, aber auch abschreckende Sanktionen für Verstöße gegen die Verordnung erlassen müssen. Je nach Schwere des Verstoßes können Geldbußen in Höhe bis zu 35 Mio. Euro oder 7 % des weltweiten Umsatzes eines Unternehmens erhoben werden.
Vor- und Nachteile der Ki-VO
| Vorteile | Nachteile |
|---|---|
| Rechtssicherheit: Klare Regeln für Unternehmen, einheitliche Standards | Aufwand und Kosten: Umsetzung kann teuer und aufwendig sein |
| Schutz der Grundrechte: Datenschutz, Transparenz und Antidiskriminierung | Begrifflichkeiten: Teilweise schwer verständliche Definitionen |
| Vertrauensstärkung: Transparente Regeln erhöhen die gesellschaftliche Akzeptanz von KI bei Anwendern und evtl. auch bei Investoren | Wettbewerb: EU-Firmen sind strenger reguliert als internationale Konkurrenten |
| Globale Vorreiterrolle: EU setzt Standards für die Betrachtung ethischer Aspekte in KI-Systemen | Tempo: KI-Technologien entwickeln sich sehr schnell, daher laufen Regulierungen Gefahr schnell zu veralten |
Weiterführende Informationen zum Thema:
KI-Flash: Marktüberwachung und KI – Wer kontrolliert zukünftig wen? in: https://www.skwschwarz.de/news/ki-flash-markueberwachung-und-ki
Das EU-Gesetz zur künstlichen Intelligenz, in: https://artificialintelligenceact.eu/de/
Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024, in: https://eur-lex.europa.eu/legal-content/DE/TXT/PDF/?uri=OJ:L_202401689
KI-Gesetz: erste Regulierung der künstlichen Intelligenz, in: https://www.europarl.europa.eu/topics/de/article/20230601STO93804/ki-gesetz-erste-regulierung-der-kunstlichen-intelligenz
Umsetzung der KI-VO: Der Referentenentwurf zum KI-Marktüberwachungsgesetz, in: https://www.cmshs-bloggt.de/rechtsthemen/kuenstliche-intelligenz/umsetzung-der-ki-vo-der-referentenentwurf-zum-ki-marktueberwachungsgesetz
Pressemitteilung der EU zur KI-VO: https://ec.europa.eu/commission/presscorner/detail/de/ip_24_4123
