====== KI-Verordnung ====== Verordnung (EU) 2024/1689 ("KI-Verordnung") des [[Europäischen Parlament|Europäischen Parlaments]] und des Rates zur Festlegung harmonisierter Vorschriften für [[Künstliche Intelligenz]] (KI) zielt darauf ab, einen einheitlichen Rechtsrahmen für die Entwicklung, Vermarktung und Nutzung von KI-Systemen in der EU zu schaffen, um deren Sicherheit und die Wahrung der [[Grundrechte]] zu gewährleisten. Die KI-Verordnung verbietet bestimmte risikoreiche KI-Praktiken, definiert Anforderungen für [[Hochrisiko-KI-System|Hochrisiko-KI-Systeme]] und legt Transparenzpflichten fest. Zudem fördert sie Innovationen durch KI-Reallabore und unterstützt kleine Anbieter und Nutzer. Die Verordnung sieht auch die Einrichtung eines Europäischen Ausschusses für künstliche Intelligenz vor und regelt die Marktüberwachung sowie Sanktionen bei Verstößen. ==== KAPITEL I: ALLGEMEINE BESTIMMUNGEN ==== Dieses Kapitel legt den Rahmen für die gesamte Verordnung fest. Es definiert den Zweck, den Anwendungsbereich und die zentralen Begriffe der Verordnung. Ziel ist es, das Funktionieren des Binnenmarkts zu verbessern und eine vertrauenswürdige, menschenzentrierte KI zu fördern, während ein hohes Schutzniveau für Gesundheit, Sicherheit und Grundrechte gewährleistet wird. Es beschreibt auch die Zuständigkeiten und Pflichten der Anbieter und Betreiber von KI-Systemen sowie die Anforderungen an die KI-Kompetenz des Personals. Artikel 1 -> [[Gegenstand der KI-Verordnung]] \\ In dieser Verordnung werden harmonisierte Vorschriften für das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen in der Union festgelegt. Artikel 2 -> [[Anwendungsbereich der KI-Verordnung]] \\ Diese Verordnung gilt für Anbieter und Nutzer von KI-Systemen in der Union sowie für Anbieter und Nutzer außerhalb der Union, wenn die Ergebnisse in der Union verwendet werden. Artikel 3 -> [[Begriffsbestimmungen der KI-Verordnung]] \\ Definiert zentrale Begriffe der Verordnung, wie "KI-System", "Risiko", "Anbieter", "Betreiber" und andere relevante Akteure und Konzepte. Artikel 4 -> [[KI-Kompetenz]] \\ Fordert Anbieter und Betreiber von KI-Systemen auf, sicherzustellen, dass ihr Personal über ausreichende KI-Kompetenz verfügt, um die Systeme sachkundig zu betreiben und zu nutzen. ==== KAPITEL II: VERBOTENE PRAKTIKEN IM KI-BEREICH ==== In diesem Kapitel werden spezifische Praktiken im Bereich der KI verboten, die als besonders gefährlich oder ethisch bedenklich angesehen werden. Dazu gehören die Nutzung von KI zur unterschwelligen Beeinflussung, zur Ausnutzung von Schwächen oder zur sozialen Bewertung von Personen. Diese Verbote sollen sicherstellen, dass KI-Systeme nicht auf eine Weise eingesetzt werden, die die Gesundheit, Sicherheit oder Grundrechte von Personen gefährdet. Artikel 5 -> [[Verbotene Praktiken im KI-Bereich]] \\ Listet spezifische KI-Praktiken auf, die verboten sind, wie z.B. die Nutzung von KI zur unterschwelligen Beeinflussung, zur Ausnutzung von Schwächen oder zur sozialen Bewertung von Personen. ==== KAPITEL III: HOCHRISIKO-KI-SYSTEME ==== Dieses Kapitel beschreibt die Einstufung, Anforderungen und Pflichten für Hochrisiko-KI-Systeme sowie die Rolle und Anforderungen an notifizierte Stellen und Behörden. === ABSCHNITT 1: Einstufung von KI-Systemen als Hochrisiko-KI-Systeme === Dieser Abschnitt legt die Kriterien fest, nach denen KI-Systeme als hochriskant eingestuft werden. Dazu gehören die Zweckbestimmung des Systems und die Notwendigkeit einer Konformitätsbewertung durch Dritte. Die Kommission hat die Befugnis, Anhang III zu ändern, um neue Hochrisiko-KI-Systeme hinzuzufügen oder bestehende zu entfernen, basierend auf festgelegten Kriterien. Artikel 6 -> [[Einstufungsvorschriften für Hochrisiko-KI-Systeme]] \\ Beschreibt die Kriterien, nach denen KI-Systeme als hochriskant eingestuft werden, einschließlich ihrer Zweckbestimmung und der Notwendigkeit einer Konformitätsbewertung durch Dritte. Artikel 7 -> [[Änderungen des Anhangs III]] \\ Gibt der Kommission die Befugnis, Anhang III zu ändern, um neue Hochrisiko-KI-Systeme hinzuzufügen oder bestehende zu entfernen, basierend auf festgelegten Kriterien. === ABSCHNITT 2: Anforderungen an Hochrisiko-KI-Systeme === Dieser Abschnitt beschreibt die spezifischen Anforderungen, die Hochrisiko-KI-Systeme erfüllen müssen. Dazu gehören ein Risikomanagementsystem, Daten- und Daten-Governance, technische Dokumentation, Aufzeichnungspflichten, Transparenz und Bereitstellung von Informationen für die Betreiber, menschliche Aufsicht sowie Anforderungen an Genauigkeit, Robustheit und Cybersicherheit. Diese Anforderungen sollen sicherstellen, dass Hochrisiko-KI-Systeme sicher und zuverlässig sind und die Grundrechte der Nutzer schützen. Artikel 8 -> [[Einhaltung der Anforderungen]] \\ Beschreibt die Verpflichtung, dass Hochrisiko-KI-Systeme die festgelegten Anforderungen erfüllen müssen, wobei ihrer Zweckbestimmung und dem Stand der Technik Rechnung getragen wird. Artikel 9 -> [[Risikomanagementsystem]] \\ Fordert die Einrichtung, Anwendung und Aufrechterhaltung eines Risikomanagementsystems für Hochrisiko-KI-Systeme, das kontinuierlich überprüft und aktualisiert wird. Artikel 10 -> [[Daten und Daten-Governance]] \\ Legt fest, dass Hochrisiko-KI-Systeme mit Trainings-, Validierungs- und Testdatensätzen entwickelt werden müssen, die den Qualitätskriterien entsprechen, und beschreibt die Anforderungen an Daten-Governance und Datenmanagement. Artikel 11 -> [[Technische Dokumentation]] \\ Verlangt die Erstellung und Aktualisierung der technischen Dokumentation für Hochrisiko-KI-Systeme, um die Einhaltung der Anforderungen nachzuweisen. Artikel 12 -> [[Aufzeichnungspflichten]] \\ Fordert, dass Hochrisiko-KI-Systeme die automatische Aufzeichnung von Ereignissen ermöglichen, um die Rückverfolgbarkeit und Überwachung des Systems zu gewährleisten. Artikel 13 -> [[Transparenz und Bereitstellung von Informationen für die Betreiber]] \\ Verlangt, dass Hochrisiko-KI-Systeme so konzipiert und entwickelt werden, dass ihr Betrieb hinreichend transparent ist, und dass präzise und verständliche Betriebsanleitungen bereitgestellt werden. Artikel 14 -> [[Menschliche Aufsicht]] \\ Beschreibt die Anforderungen an die menschliche Aufsicht über Hochrisiko-KI-Systeme, um Risiken für Gesundheit, Sicherheit oder Grundrechte zu minimieren. Artikel 15 -> [[Genauigkeit, Robustheit und Cybersicherheit]] \\ Legt fest, dass Hochrisiko-KI-Systeme ein angemessenes Maß an Genauigkeit, Robustheit und Cybersicherheit erreichen und während ihres gesamten Lebenszyklus beständig funktionieren müssen. === ABSCHNITT 3: Pflichten der Anbieter und Betreiber von Hochrisiko-KI-Systemen und anderer Beteiligter === Dieser Abschnitt legt die Pflichten der verschiedenen Akteure entlang der KI-Wertschöpfungskette fest, einschließlich Anbieter, Bevollmächtigte, Einführer, Händler und Betreiber von Hochrisiko-KI-Systemen. Dazu gehören unter anderem die Einhaltung der Anforderungen, die Aufbewahrung von Dokumentationen, die Durchführung von Korrekturmaßnahmen, die Zusammenarbeit mit den zuständigen Behörden und die Durchführung von Grundrechte-Folgenabschätzungen. Artikel 16 -> [[Pflichten der Anbieter von Hochrisiko-KI-Systemen]] \\ Beschreibt die Pflichten der Anbieter von Hochrisiko-KI-Systemen, einschließlich der Einhaltung der Anforderungen, der Aufbewahrung von Dokumentationen und der Durchführung von Korrekturmaßnahmen. Artikel 17 -> [[Qualitätsmanagementsystem]] \\ Fordert die Einrichtung eines Qualitätsmanagementsystems durch Anbieter von Hochrisiko-KI-Systemen, um die Einhaltung der Verordnung zu gewährleisten. Artikel 18 -> [[Aufbewahrung der Dokumentation]] \\ Verlangt von den Anbietern die Aufbewahrung der technischen Dokumentation und anderer relevanter Unterlagen für einen Zeitraum von zehn Jahren ab dem Inverkehrbringen oder der Inbetriebnahme des Hochrisiko-KI-Systems. Artikel 19 -> [[Automatisch erzeugte Protokolle]] \\ Fordert die Anbieter von Hochrisiko-KI-Systemen auf, die automatisch erzeugten Protokolle ihrer Systeme aufzubewahren, um die Rückverfolgbarkeit und Überwachung zu gewährleisten. Artikel 20 -> [[Korrekturmaßnahmen und Informationspflicht]] \\ Beschreibt die Pflichten der Anbieter, Korrekturmaßnahmen zu ergreifen und die zuständigen Behörden zu informieren, wenn ein Hochrisiko-KI-System nicht den Anforderungen entspricht. Artikel 21 -> [[Zusammenarbeit mit den zuständigen Behörden]] \\ Fordert die Anbieter von Hochrisiko-KI-Systemen auf, mit den zuständigen Behörden zusammenzuarbeiten und auf Anfrage Informationen und Dokumentationen bereitzustellen. Artikel 22 -> [[Bevollmächtigte der Anbieter von Hochrisiko-KI-Systemen]] \\ Beschreibt die Pflichten der Bevollmächtigten von Anbietern, die nicht in der Union niedergelassen sind, einschließlich der Überprüfung der Konformität und der Bereithaltung von Dokumentationen. Artikel 23 -> [[Pflichten der Einführer]] \\ Legt die Pflichten der Einführer von Hochrisiko-KI-Systemen fest, einschließlich der Überprüfung der Konformität und der Bereithaltung von Dokumentationen. Artikel 24 -> [[Pflichten der Händler]] \\ Beschreibt die Pflichten der Händler von Hochrisiko-KI-Systemen, einschließlich der Überprüfung der Konformität und der Zusammenarbeit mit den zuständigen Behörden. Artikel 25 -> [[Verantwortlichkeiten entlang der KI-Wertschöpfungskette]] \\ Legt die Verantwortlichkeiten der verschiedenen Akteure entlang der KI-Wertschöpfungskette fest, einschließlich der Anbieter, Einführer, Händler und Betreiber von Hochrisiko-KI-Systemen. Artikel 26 -> [[Pflichten der Betreiber von Hochrisiko-KI-Systemen]] \\ Beschreibt die Pflichten der Betreiber von Hochrisiko-KI-Systemen, einschließlich der Überwachung des Betriebs, der Aufbewahrung von Protokollen und der Zusammenarbeit mit den zuständigen Behörden. Artikel 27 -> [[Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme]] \\ Fordert die Betreiber von Hochrisiko-KI-Systemen auf, eine Abschätzung der Auswirkungen auf die Grundrechte durchzuführen, bevor sie ein Hochrisiko-KI-System in Betrieb nehmen. === ABSCHNITT 4: Notifizierende Behörden und notifizierte Stellen === Dieser Abschnitt beschreibt die Anforderungen und Verfahren für die Benennung und Überwachung von notifizierten Stellen, die für die Konformitätsbewertung von Hochrisiko-KI-Systemen zuständig sind. Dazu gehören die Anforderungen an die Organisation, das Qualitätsmanagement, die Ressourcenausstattung und die Verfahren der notifizierten Stellen sowie die Verfahren für die Notifizierung und Überwachung dieser Stellen durch die notifizierenden Behörden. Artikel 28 -> [[Notifizierende Behörden]] \\ Beschreibt die Anforderungen und Pflichten der notifizierenden Behörden, die für die Benennung und Überwachung von notifizierten Stellen zuständig sind. Artikel 29 -> [[Antrag einer Konformitätsbewertungsstelle auf Notifizierung]] \\ Legt das Verfahren fest, nach dem Konformitätsbewertungsstellen ihre Notifizierung bei den notifizierenden Behörden beantragen können. Artikel 30 -> [[Notifizierungsverfahren]] \\ Beschreibt das Verfahren, nach dem die notifizierenden Behörden die Notifizierung von Konformitätsbewertungsstellen bei der Kommission und den anderen Mitgliedstaaten melden. Artikel 31 -> [[Anforderungen an notifizierte Stellen]] \\ Legt die Anforderungen an die Organisation, das Qualitätsmanagement, die Ressourcenausstattung und die Verfahren der notifizierten Stellen fest. Artikel 32 -> [[Vermutung der Konformität mit den Anforderungen an notifizierte Stellen]] \\ Beschreibt die Vermutung der Konformität von Konformitätsbewertungsstellen mit den Anforderungen, wenn sie die Kriterien der einschlägigen harmonisierten Normen erfüllen. Artikel 33 -> [[Zweigstellen notifizierter Stellen und Vergabe von Unteraufträgen]] \\ Legt die Anforderungen und Pflichten der notifizierten Stellen in Bezug auf die Vergabe von Unteraufträgen und die Einrichtung von Zweigstellen fest. Artikel 34 -> [[Operative Pflichten der notifizierten Stellen]] \\ Beschreibt die operativen Pflichten der notifizierten Stellen, einschließlich der Durchführung von Konformitätsbewertungstätigkeiten und der Zusammenarbeit mit den notifizierenden Behörden. Artikel 35 -> [[Identifizierungsnummern und Verzeichnisse notifizierter Stellen]] \\ Beschreibt die Zuweisung von Identifizierungsnummern an notifizierte Stellen und die Veröffentlichung eines Verzeichnisses der notifizierten Stellen durch die Kommission. Artikel 36 -> [[Änderungen der Notifizierungen]] \\ Beschreibt das Verfahren für Änderungen der Notifizierungen von notifizierten Stellen, einschließlich der Erweiterung oder Einschränkung des Anwendungsbereichs der Notifizierung. Artikel 37 -> [[Anfechtungen der Kompetenz notifizierter Stellen]] \\ Beschreibt das Verfahren, nach dem die Kommission die Kompetenz einer notifizierten Stelle überprüfen kann, wenn Zweifel an deren Kompetenz bestehen. Artikel 38 -> [[Koordinierung der notifizierten Stellen]] \\ Beschreibt die Einrichtung und Aufgaben einer sektoralen Gruppe notifizierter Stellen zur Koordinierung und Zusammenarbeit im Bereich der Hochrisiko-KI-Systeme. Artikel 39 -> [[Konformitätsbewertungsstellen in Drittländern]] \\ Beschreibt die Bedingungen, unter denen Konformitätsbewertungsstellen in Drittländern die Tätigkeiten notifizierter Stellen gemäß dieser Verordnung durchführen können. ==== KAPITEL IV: TRANSPARENZPFLICHTEN FÜR ANBIETER UND BETREIBER BESTIMMTER KI-SYSTEME ==== Dieses Kapitel legt Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme fest. Es stellt sicher, dass natürliche Personen informiert werden, wenn sie mit einem KI-System interagieren, und dass Inhalte, die von KI-Systemen erzeugt oder manipuliert wurden, entsprechend gekennzeichnet sind. Diese Maßnahmen sollen die Transparenz erhöhen und das Vertrauen der Nutzer in KI-Systeme stärken. Artikel 50 -> [[Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme]] \\ Beschreibt die Transparenzpflichten für Anbieter und Betreiber bestimmter KI-Systeme, einschließlich der Pflicht, natürliche Personen darüber zu informieren, dass sie mit einem KI-System interagieren, und die Kennzeichnung von Inhalten, die von KI-Systemen erzeugt oder manipuliert wurden. ==== KAPITEL V: KI-MODELLE MIT ALLGEMEINEM VERWENDUNGSZWECK ==== Dieses Kapitel beschreibt die Einstufung, Anforderungen und Pflichten für KI-Modelle mit allgemeinem Verwendungszweck sowie die Ausarbeitung von Praxisleitfäden zur Unterstützung der Einhaltung der Verordnung. === ABSCHNITT 1: Einstufungsvorschriften === Dieser Abschnitt beschreibt die Kriterien und Verfahren zur Einstufung von KI-Modellen mit allgemeinem Verwendungszweck als Modelle mit systemischem Risiko. Diese Einstufung basiert auf der Bewertung der Fähigkeiten und potenziellen Auswirkungen der Modelle. Artikel 51 -> [[Einstufung von KI-Modellen mit allgemeinem Verwendungszweck als KI-Modelle mit allgemeinem Verwendungszweck mit systemischem Risiko]] \\ Beschreibt die Kriterien zur Einstufung von KI-Modellen mit allgemeinem Verwendungszweck als Modelle mit systemischem Risiko, basierend auf deren Fähigkeiten und potenziellen Auswirkungen. Artikel 52 -> [[Verfahren]] \\ Beschreibt das Verfahren zur Mitteilung und Bewertung von KI-Modellen mit allgemeinem Verwendungszweck, die als systemisch riskant eingestuft werden könnten. === ABSCHNITT 2: Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck === Dieser Abschnitt legt die Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck fest. Dazu gehören die Erstellung und Aktualisierung technischer Dokumentationen, die Bereitstellung von Informationen für nachgelagerte Anbieter und die Einhaltung von Urheberrechtsvorschriften. Artikel 53 -> [[Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck]] \\ Beschreibt die Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, einschließlich der Erstellung und Aktualisierung technischer Dokumentationen und der Bereitstellung von Informationen für nachgelagerte Anbieter. Artikel 54 -> [[Bevollmächtigte der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck]] \\ Beschreibt die Pflichten der Bevollmächtigten von Anbietern von KI-Modellen mit allgemeinem Verwendungszweck, die nicht in der Union niedergelassen sind. === ABSCHNITT 3: Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko === Dieser Abschnitt beschreibt zusätzliche Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, die als systemisch riskant eingestuft wurden. Diese Pflichten umfassen die Durchführung von Modellbewertungen, die Bewertung und Minderung systemischer Risiken und die Gewährleistung eines angemessenen Maßes an Cybersicherheit. Artikel 55 -> [[Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck mit systemischem Risiko]] \\ Beschreibt die zusätzlichen Pflichten der Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, die als systemisch riskant eingestuft wurden, einschließlich der Durchführung von Modellbewertungen und der Bewertung und Minderung systemischer Risiken. === ABSCHNITT 4: Praxisleitfäden === Dieser Abschnitt fördert die Ausarbeitung von Praxisleitfäden, um die ordnungsgemäße Anwendung der Verordnung zu erleichtern. Diese Leitfäden sollen die Einhaltung der Pflichten durch die Anbieter von KI-Modellen mit allgemeinem Verwendungszweck unterstützen. Artikel 56 -> [[Praxisleitfäden]] \\ Beschreibt die Förderung und Erleichterung der Ausarbeitung von Praxisleitfäden zur Unterstützung der Einhaltung der Verordnung durch die Anbieter von KI-Modellen mit allgemeinem Verwendungszweck. ==== KAPITEL VI: MASSNAHMEN ZUR INNOVATIONSFÖRDERUNG ==== Dieses Kapitel beschreibt Maßnahmen zur Förderung von Innovationen im Bereich der KI. Dazu gehören die Einrichtung von KI-Reallaboren, in denen innovative KI-Systeme entwickelt, getestet und validiert werden können, sowie spezielle Maßnahmen zur Unterstützung von KMU und Start-up-Unternehmen. Artikel 57 -> [[KI-Reallabore]] \\ Beschreibt die Einrichtung von KI-Reallaboren durch die Mitgliedstaaten, um Innovationen im Bereich der KI zu fördern und die Entwicklung, das Training, das Testen und die Validierung innovativer KI-Systeme zu erleichtern. Artikel 58 -> [[Detaillierte Regelungen für KI-Reallabore und deren Funktionsweise]] \\ Legt die detaillierten Regelungen für die Einrichtung, Entwicklung, Umsetzung, den Betrieb und die Beaufsichtigung der KI-Reallabore fest. Artikel 59 -> [[Weiterverarbeitung personenbezogener Daten zur Entwicklung bestimmter KI-Systeme im öffentlichen Interesse im KI-Reallabor]] \\ Beschreibt die Bedingungen, unter denen personenbezogene Daten im KI-Reallabor zur Entwicklung bestimmter KI-Systeme im öffentlichen Interesse weiterverarbeitet werden dürfen. Artikel 60 -> [[Tests von Hochrisiko-KI-Systemen unter Realbedingungen außerhalb von KI-Reallaboren]] \\ Beschreibt die Bedingungen und Verfahren für Tests von Hochrisiko-KI-Systemen unter Realbedingungen außerhalb von KI-Reallaboren. Artikel 61 -> [[Informierte Einwilligung zur Teilnahme an einem Test unter Realbedingungen außerhalb von KI-Reallaboren]] \\ Beschreibt die Anforderungen an die informierte Einwilligung von Testteilnehmern, die an Tests unter Realbedingungen außerhalb von KI-Reallaboren teilnehmen. Artikel 62 -> [[Maßnahmen für Anbieter und Betreiber, insbesondere KMU, einschließlich Start-up-Unternehmen]] \\ Beschreibt spezielle Maßnahmen zur Unterstützung von KMU und Start-up-Unternehmen, einschließlich vorrangigem Zugang zu KI-Reallaboren und speziellen Sensibilisierungs- und Schulungsmaßnahmen. Artikel 63 -> [[Ausnahmen für bestimmte Akteure]] \\ Beschreibt Ausnahmen und vereinfachte Anforderungen für Kleinstunternehmen im Hinblick auf die Einrichtung eines Qualitätsmanagementsystems. ==== KAPITEL VII: GOVERNANCE ==== Dieses Kapitel beschreibt die Governance-Strukturen auf Unionsebene und die Rolle der zuständigen nationalen Behörden bei der Durchführung und Durchsetzung der Verordnung. === ABSCHNITT 1: Governance auf Unionsebene === Dieser Abschnitt beschreibt die Einrichtung und Aufgaben des Europäischen Gremiums für Künstliche Intelligenz, das die Kommission und die Mitgliedstaaten bei der einheitlichen und wirksamen Anwendung der Verordnung unterstützt. Es umfasst auch die Einrichtung eines Beratungsforums und eines wissenschaftlichen Gremiums unabhängiger Sachverständiger. Artikel 64 -> [[Büro für Künstliche Intelligenz]] \\ Beschreibt die Einrichtung des Büros für Künstliche Intelligenz durch die Kommission, um die Sachkenntnis und Fähigkeiten der Union auf dem Gebiet der KI zu entwickeln. Artikel 65 -> [[Einrichtung und Struktur des Europäischen Gremiums für Künstliche Intelligenz]] \\ Beschreibt die Einrichtung und Struktur des Europäischen Gremiums für Künstliche Intelligenz, einschließlich der Zusammensetzung und der Aufgaben des Gremiums. Artikel 66 -> [[Aufgaben des KI-Gremiums]] \\ Beschreibt die Aufgaben des Europäischen Gremiums für Künstliche Intelligenz, einschließlich der Beratung und Unterstützung der Kommission und der Mitgliedstaaten bei der Durchführung der Verordnung. Artikel 67 -> [[Beratungsforum]] \\ Beschreibt die Einrichtung eines Beratungsforums, das technisches Fachwissen bereitstellt und das KI-Gremium und die Kommission berät. Artikel 68 -> [[Wissenschaftliches Gremium unabhängiger Sachverständiger]] \\ Beschreibt die Einrichtung eines wissenschaftlichen Gremiums unabhängiger Sachverständiger, das die Durchsetzungstätigkeiten im Rahmen der Verordnung unterstützen soll. Artikel 69 -> [[Zugang zum Pool von Sachverständigen durch die Mitgliedstaaten]] \\ Beschreibt die Möglichkeit der Mitgliedstaaten, Sachverständige des wissenschaftlichen Gremiums zur Unterstützung ihrer Durchsetzungstätigkeiten hinzuzuziehen. === ABSCHNITT 2: Zuständige nationale Behörden === Dieser Abschnitt legt fest, dass die Mitgliedstaaten zuständige nationale Behörden benennen müssen, die für die Anwendung und Durchsetzung der Verordnung verantwortlich sind. Diese Behörden müssen über ausreichende Ressourcen und Fachkenntnisse verfügen, um ihre Aufgaben wirksam zu erfüllen. Artikel 70 -> [[Benennung von zuständigen nationalen Behörden und zentrale Anlaufstelle]] \\ Beschreibt die Anforderungen an die Benennung und Ausstattung der zuständigen nationalen Behörden durch die Mitgliedstaaten sowie die Einrichtung einer zentralen Anlaufstelle. ==== KAPITEL VIII: EU-DATENBANK FÜR HOCHRISIKO-KI-SYSTEME ==== Dieses Kapitel beschreibt die Einrichtung und Verwaltung einer EU-Datenbank für Hochrisiko-KI-Systeme. Diese Datenbank soll Informationen über registrierte Hochrisiko-KI-Systeme enthalten und der Öffentlichkeit zugänglich gemacht werden, um Transparenz und Überwachung zu fördern. Artikel 71 -> [[EU-Datenbank für die in Anhang III aufgeführten Hochrisiko-KI-Systeme]] \\ Beschreibt die Einrichtung und Verwaltung einer EU-Datenbank für Hochrisiko-KI-Systeme durch die Kommission, einschließlich der Anforderungen an die Registrierung und den Zugang zu den Informationen. ==== KAPITEL IX: BEOBACHTUNG NACH DEM INVERKEHRBRINGEN, INFORMATIONSAUSTAUSCH UND MARKTÜBERWACHUNG ==== Dieses Kapitel beschreibt die Anforderungen an die Beobachtung nach dem Inverkehrbringen von Hochrisiko-KI-Systemen, den Austausch von Informationen über schwerwiegende Vorfälle und die Marktüberwachung durch die zuständigen Behörden. === ABSCHNITT 1: Beobachtung nach dem Inverkehrbringen === Dieser Abschnitt legt fest, dass Anbieter von Hochrisiko-KI-Systemen ein System zur Beobachtung nach dem Inverkehrbringen einrichten müssen, um die fortlaufende Einhaltung der Anforderungen zu gewährleisten und potenzielle Risiken zu überwachen. Artikel 72 -> [[Beobachtung nach dem Inverkehrbringen durch die Anbieter und Plan für die Beobachtung nach dem Inverkehrbringen für Hochrisiko-KI-Systeme]] \\ Beschreibt die Anforderungen an die Einrichtung und Dokumentation eines Systems zur Beobachtung nach dem Inverkehrbringen durch die Anbieter von Hochrisiko-KI-Systemen. === ABSCHNITT 2: Austausch von Informationen über schwerwiegende Vorfälle === Dieser Abschnitt beschreibt die Meldepflichten für schwerwiegende Vorfälle im Zusammenhang mit Hochrisiko-KI-Systemen. Anbieter müssen solche Vorfälle den Marktüberwachungsbehörden melden und geeignete Maßnahmen zur Schadensbegrenzung ergreifen. Artikel 73 -> [[Meldung schwerwiegender Vorfälle]] \\ Beschreibt die Meldepflichten der Anbieter von Hochrisiko-KI-Systemen im Falle schwerwiegender Vorfälle, einschließlich der Anforderungen an die Meldung und die Zusammenarbeit mit den zuständigen Behörden. === ABSCHNITT 3: Durchsetzung === Dieser Abschnitt beschreibt die Befugnisse und Verfahren der Marktüberwachungsbehörden zur Durchsetzung der Verordnung. Dazu gehören die Überwachung der Konformität von KI-Systemen, die Durchführung von Inspektionen und die Ergreifung von Maßnahmen bei Nichtkonformität. Artikel 74 -> [[Marktüberwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt]] \\ Beschreibt die Aufgaben und Befugnisse der Marktüberwachungsbehörden zur Überwachung und Kontrolle von KI-Systemen auf dem Unionsmarkt. Artikel 75 -> [[Amtshilfe, Marktüberwachung und Kontrolle von KI-Systemen mit allgemeinem Verwendungszweck]] \\ Beschreibt die Zusammenarbeit zwischen den Marktüberwachungsbehörden und dem Büro für Künstliche Intelligenz bei der Überwachung und Kontrolle von KI-Systemen mit allgemeinem Verwendungszweck. Artikel 76 -> [[Beaufsichtigung von Tests unter Realbedingungen durch Marktüberwachungsbehörden]] \\ Beschreibt die Befugnisse der Marktüberwachungsbehörden zur Beaufsichtigung von Tests unter Realbedingungen, um die Einhaltung der Verordnung sicherzustellen. Artikel 77 -> [[Befugnisse der für den Schutz der Grundrechte zuständigen Behörden]] \\ Beschreibt die Befugnisse der nationalen Behörden oder öffentlichen Stellen, die für den Schutz der Grundrechte zuständig sind, einschließlich des Zugangs zu Dokumentationen und der Durchführung technischer Tests. Artikel 78 -> [[Vertraulichkeit]] \\ Beschreibt die Vertraulichkeitspflichten der Kommission, der Marktüberwachungsbehörden und der notifizierten Stellen sowie aller anderen an der Anwendung der Verordnung beteiligten Personen. Artikel 79 -> [[Verfahren auf nationaler Ebene für den Umgang mit KI-Systemen, die ein Risiko bergen]] \\ Beschreibt das Verfahren, das die Marktüberwachungsbehörden anwenden müssen, wenn sie feststellen, dass ein KI-System ein Risiko für die Gesundheit, Sicherheit oder Grundrechte von Personen darstellt. Artikel 80 -> [[Verfahren für den Umgang mit KI-Systemen, die vom Anbieter gemäß Anhang III als nicht hochriskant eingestuft werden]] \\ Beschreibt das Verfahren, das die Marktüberwachungsbehörden anwenden müssen, wenn sie feststellen, dass ein vom Anbieter als nicht hochriskant eingestuftes KI-System tatsächlich hochriskant ist. Artikel 81 -> [[Schutzklauselverfahren der Union]] \\ Beschreibt das Verfahren, das die Kommission anwenden muss, wenn sie feststellt, dass eine von einem Mitgliedstaat ergriffene Maßnahme gegen ein KI-System gerechtfertigt ist oder nicht. Artikel 82 -> [[Konforme KI-Systeme, die ein Risiko bergen]] \\ Beschreibt das Verfahren, das die Marktüberwachungsbehörden anwenden müssen, wenn sie feststellen, dass ein konformes KI-System dennoch ein Risiko für die Gesundheit, Sicherheit oder Grundrechte von Personen darstellt. Artikel 83 -> [[Formale Nichtkonformität]] \\ Beschreibt die Maßnahmen, die die Marktüberwachungsbehörden ergreifen müssen, wenn sie formale Nichtkonformitäten bei KI-Systemen feststellen, wie z.B. das Fehlen der CE-Kennzeichnung oder der EU-Konformitätserklärung. Artikel 84 -> [[Unionsstrukturen zur Unterstützung der Prüfung von KI]] \\ Beschreibt die Benennung von Unionsstrukturen zur Unterstützung der Prüfung von KI, die unabhängige technische oder wissenschaftliche Beratung leisten können. === ABSCHNITT 4: Rechtsbehelfe === Dieser Abschnitt legt die Rechte von Personen fest, die von Entscheidungen betroffen sind, die auf der Grundlage von Hochrisiko-KI-Systemen getroffen wurden. Dazu gehören das Recht auf Beschwerde bei einer Marktüberwachungsbehörde und das Recht auf eine Erläuterung der Entscheidungsfindung im Einzelfall. Artikel 85 -> [[Recht auf Beschwerde bei einer Marktüberwachungsbehörde]] \\ Beschreibt das Recht von Personen, bei einer Marktüberwachungsbehörde Beschwerde einzureichen, wenn sie Grund zu der Annahme haben, dass gegen die Verordnung verstoßen wurde. Artikel 86 -> [[Recht auf Erläuterung der Entscheidungsfindung im Einzelfall]] \\ Beschreibt das Recht von Personen, die von einer Entscheidung betroffen sind, die auf der Grundlage eines Hochrisiko-KI-Systems getroffen wurde, auf eine klare und aussagekräftige Erläuterung der Entscheidungsfindung. Artikel 87 -> [[Meldung von Verstößen und Schutz von Hinweisgebern]] \\ Beschreibt die Bestimmungen zur Meldung von Verstößen gegen die Verordnung und den Schutz von Personen, die solche Verstöße melden. ==== KAPITEL X: VERHALTENSKODIZES UND LEITLINIEN ==== Dieses Kapitel fördert die Entwicklung von Verhaltenskodizes und Leitlinien zur freiwilligen Anwendung bestimmter Anforderungen der Verordnung auf KI-Systeme, die kein hohes Risiko bergen. Diese Kodizes und Leitlinien sollen bewährte Verfahren fördern und die Einhaltung der Verordnung unterstützen. Artikel 95 -> [[Verhaltenskodizes für die freiwillige Anwendung bestimmter Anforderungen]] \\ Beschreibt die Förderung und Erleichterung der Aufstellung von Verhaltenskodizes zur freiwilligen Anwendung bestimmter Anforderungen der Verordnung auf KI-Systeme, die kein hohes Risiko bergen. Artikel 96 -> [[Leitlinien der Kommission zur Durchführung dieser Verordnung]] \\ Beschreibt die Erarbeitung von Leitlinien durch die Kommission zur praktischen Umsetzung der Verordnung, einschließlich der Anwendung der Anforderungen und Pflichten. ==== KAPITEL XI: BEFUGNISÜBERTRAGUNG UND AUSSCHUSSVERFAHREN ==== Dieses Kapitel beschreibt die Befugnisübertragung an die Kommission zum Erlass delegierter Rechtsakte und das Verfahren zur Annahme von Durchführungsrechtsakten. Es legt auch die Rolle des Ausschusses fest, der die Kommission bei der Durchführung der Verordnung unterstützt. Artikel 97 -> [[Ausübung der Befugnisübertragung]] \\ Beschreibt die Bedingungen und Verfahren für die Ausübung der Befugnisübertragung an die Kommission zum Erlass delegierter Rechtsakte. Artikel 98 -> [[Ausschussverfahren]] \\ Beschreibt das Ausschussverfahren, das die Kommission bei der Annahme von Durchführungsrechtsakten unterstützt. ==== KAPITEL XII: SANKTIONEN ==== Dieses Kapitel legt die Sanktionen für Verstöße gegen die Verordnung fest. Die Mitgliedstaaten müssen wirksame, verhältnismäßige und abschreckende Sanktionen erlassen, die auch Geldbußen umfassen können. Es beschreibt auch die Verfahren zur Verhängung von Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union. Artikel 99 -> [[Sanktionen]] \\ Beschreibt die Vorschriften für Sanktionen und andere Durchsetzungsmaßnahmen, die die Mitgliedstaaten bei Verstößen gegen die Verordnung erlassen müssen. Artikel 100 -> [[Verhängung von Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union]] \\ Beschreibt die Verfahren zur Verhängung von Geldbußen gegen Organe, Einrichtungen und sonstige Stellen der Union bei Verstößen gegen die Verordnung. Artikel 101 -> [[Geldbußen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck]] \\ Beschreibt die Verfahren zur Verhängung von Geldbußen gegen Anbieter von KI-Modellen mit allgemeinem Verwendungszweck bei Verstößen gegen die Verordnung. ==== KAPITEL XIII: SCHLUSSBESTIMMUNGEN ==== Dieses Kapitel enthält Bestimmungen zur Änderung anderer Rechtsakte der EU, Übergangsbestimmungen für bereits in Verkehr gebrachte oder in Betrieb genommene KI-Systeme und die Bewertung und Überprüfung der Verordnung. Es legt auch das Inkrafttreten und den Geltungsbeginn der Verordnung fest. Artikel 102 -> [[Änderung der Verordnung (EG) Nr. 300/2008]] \\ Beschreibt die Änderungen der Verordnung (EG) Nr. 300/2008 im Zusammenhang mit der Verordnung über künstliche Intelligenz. Artikel 103 -> [[Änderung der Verordnung (EU) Nr. 167/2013]] \\ Beschreibt die Änderungen der Verordnung (EU) Nr. 167/2013 im Zusammenhang mit der Verordnung über künstliche Intelligenz. Artikel 104 -> [[Änderung der Verordnung (EU) Nr. 168/2013]] \\ Beschreibt die Änderungen der Verordnung (EU) Nr. 168/2013 im Zusammenhang mit der Verordnung über künstliche Intelligenz. Artikel 105 -> [[Änderung der Richtlinie 2014/90/EU]] \\ Beschreibt die Änderungen der Richtlinie 2014/90/EU im Zusammenhang mit der Verordnung über künstliche Intelligenz. Artikel 106 -> [[Änderung der Richtlinie (EU) 2016/797]] \\ Beschreibt die Änderungen der Richtlinie (EU) 2016/797 im Zusammenhang mit der Verordnung über künstliche Intelligenz. Artikel 107 -> [[Änderung der Verordnung (EU) 2018/858]] \\ Beschreibt die Änderungen der Verordnung (EU) 2018/858 im Zusammenhang mit der Verordnung über künstliche Intelligenz. Artikel 108 -> [[Änderungen der Verordnung (EU) 2018/1139]] \\ Beschreibt die Änderungen der Verordnung (EU) 2018/1139 im Zusammenhang mit der Verordnung über künstliche Intelligenz. Artikel 109 -> [[Änderung der Verordnung (EU) 2019/2144]] \\ Beschreibt die Änderungen der Verordnung (EU) 2019/2144 im Zusammenhang mit der Verordnung über künstliche Intelligenz. Artikel 110 -> [[Änderung der Richtlinie (EU) 2020/1828]] \\ Beschreibt die Änderungen der Richtlinie (EU) 2020/1828 im Zusammenhang mit der Verordnung über künstliche Intelligenz. Artikel 111 -> [[Bereits in Verkehr gebrachte oder in Betrieb genommene KI-Systeme und bereits in Verkehr gebrachte KI-Modelle mit allgemeinem Verwendungszweck]] \\ Beschreibt die Übergangsbestimmungen für bereits in Verkehr gebrachte oder in Betrieb genommene KI-Systeme und KI-Modelle mit allgemeinem Verwendungszweck. Artikel 112 -> [[Bewertung und Überprüfung]] \\ Beschreibt die Anforderungen an die Bewertung und Überprüfung der Verordnung durch die Kommission, einschließlich der Berichterstattung an das Europäische Parlament und den Rat. Artikel 113 -> [[Inkrafttreten und Geltungsbeginn]] \\ Legt das Inkrafttreten und den Geltungsbeginn der Verordnung fest. ===== siehe auch ===== -> [[Digitalpolitik]] \\ Schafft einen einheitlichen, sicheren und wettbewerbsfähigen digitalen Binnenmarkt zu schaffen, der Innovation fördert, europäische Werte schützt und die digitale Souveränität Europas stärkt, während gleichzeitig die Chancen der Digitalisierung für Wirtschaft und Gesellschaft genutzt und potenzielle Risiken reguliert werden.