AI Act :
Artikel 17- Qualitätsmanagementsystem
KAPITEL I- ALLGEMEINE BESTIMMUNGEN
KAPITEL II– VERBOTENE PRAKTIKEN IM KI-BEREICH
KAPITEL III– HOCHRISIKO-KI-SYSTEME
- Artikel 6_ Einstufungsvorschriften für Hochrisiko-KI-Systeme
- Artikel 7_ Änderungen des Anhangs III
- Artikel 8_ Einhaltung der Anforderungen
- Artikel 9_ Risikomanagementsystem
- Artikel 10_ Daten und Daten-Governance
- Artikel 11_ Technische Dokumentation
- Artikel 12_ Aufzeichnungspflichten
- Artikel 13_ Transparenz und Bereitstellung von Informationen für die Betreiber
- Artikel 14_ Menschliche Aufsicht
- Artikel 15_ Genauigkeit, Robustheit und Cybersicherheit
- Artikel 16_ Pflichten der Anbieter von Hochrisiko-KI-Systemen
- Artikel 17_ Qualitätsmanagementsystem
- Artikel 18_ Aufbewahrung der Dokumentation
- Artikel 19_ Automatisch erzeugte Protokolle
- Artikel 20_ Korrekturmaßnahmen und Informationspflicht
- Artikel 21_ Zusammenarbeit mit den zuständigen Behörden
- Artikel 22_ Bevollmächtigte der Anbieter von Hochrisiko-KI-Systemen
- Artikel 23_ Pflichten der Einführer
- Artikel 24_ Pflichten der Händler
- Artikel 25 _ Verantwortlichkeiten entlang der KI-Wertschöpfungskette
- Artikel 26 _ Pflichten der Betreiber von Hochrisiko-KI-Systemen
- Artikel 27_ Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme
- Artikel 28 _ Notifizierende Behörden
- Artikel 29_ Antrag einer Konformitätsbewertungsstelle auf Notifizierung
- Artikel 30_ Notifizierungsverfahren
- Artikel 31_ Anforderungen an notifizierte Stellen
- Artikel 32_ Vermutung der Konformität mit den Anforderungen an notifizierte Stellen
- Artikel 33_ Zweigstellen notifizierter Stellen und Vergabe von Unteraufträgen
- Artikel 34_ Operative Pflichten der notifizierten Stellen
- Artikel 35_ Identifizierungsnummern und Verzeichnisse notifizierter Stellen
- Artikel 36_ Änderungen der Notifizierungen
- Artikel 37_ Anfechtungen der Kompetenz notifizierter Stellen
- Artikel 38_ Koordinierung der notifizierten Stellen
- Artikel 39_ Konformitätsbewertungsstellen in Drittländern
- Artikel 40_ Harmonisierte Normen und Normungsdokumente
- Artikel 41_ Gemeinsame Spezifikationen
- Artikel 42_ Vermutung der Konformität mit bestimmten Anforderungen
- Artikel 43_ Konformitätsbewertung
- Artikel 44_ Bescheinigungen
- Artikel 45_ Informationspflichten der notifizierten Stellen
- Artikel 46_ Ausnahme vom Konformitätsbewertungsverfahren
- Artikel 47_ EU-Konformitätserklärung
- Artikel 48_ CE-Kennzeichnung
- Artikel 49_ Registrierung
KAPITEL IV- TRANSPARENZPFLICHTEN FÜR ANBIETER UND BETREIBER BESTIMMTER KI-SYSTEME
KAPITEL V– KI-MODELLE MIT ALLGEMEINEM VERWENDUNGSZWECK
KAPITEL VI– MASSNAHMEN ZUR INNOVATIONSFÖRDERUNG
KAPITEL VIII- EU-DATENBANK FÜR HOCHRISIKO-KI-SYSTEME
KAPITEL IX– BEOBACHTUNG NACH DEM INVERKEHRBRINGEN, INFORMATIONSAUSTAUSCH UND MARKTÜBERWACHUNG
KAPITEL X– VERHALTENSKODIZES UND LEITLINIEN
(1) Anbieter von Hochrisiko-KI-Systemen richten ein Qualitätsmanagementsystem ein, das die Einhaltung dieser Verordnung gewährleistet. Dieses System wird systematisch und ordnungsgemäß in Form schriftlicher Regeln, Verfahren und Anweisungen dokumentiert und umfasst mindestens folgende Aspekte:
a) ein Konzept zur Einhaltung der Regulierungsvorschriften, was die Einhaltung der Konformitätsbewertungsverfahren und der Verfahren für das Management von Änderungen an dem Hochrisiko-KI-System miteinschließt;
b) Techniken, Verfahren und systematische Maßnahmen für den Entwurf, die Entwurfskontrolle und die Entwurfsprüfung des Hochrisiko-KI-Systems;
c) Techniken, Verfahren und systematische Maßnahmen für die Entwicklung, Qualitätskontrolle und Qualitätssicherung des Hochrisiko-KI-Systems;
d) Untersuchungs-, Test- und Validierungsverfahren, die vor, während und nach der Entwicklung des Hochrisiko-KI-Systems durchzuführen sind, und die Häufigkeit der Durchführung;
e) die technischen Spezifikationen und Normen, die anzuwenden sind und, falls die einschlägigen harmonisierten Normen nicht vollständig angewandt werden oder sie nicht alle relevanten Anforderungen gemäß Abschnitt 2 abdecken, die Mittel, mit denen gewährleistet werden soll, dass das Hochrisiko-KI-System diese Anforderungen erfüllt;
f) Systeme und Verfahren für das Datenmanagement, einschließlich Datengewinnung, Datenerhebung, Datenanalyse, Datenkennzeichnung, Datenspeicherung, Datenfilterung, Datenauswertung, Datenaggregation, Vorratsdatenspeicherung und sonstiger Vorgänge in Bezug auf die Daten, die im Vorfeld und für die Zwecke des Inverkehrbringens oder der Inbetriebnahme von Hochrisiko-KI-Systemen durchgeführt werden;
g) das in Artikel 9 genannte Risikomanagementsystem;
h) die Einrichtung, Anwendung und Aufrechterhaltung eines Systems zur Beobachtung nach dem Inverkehrbringen gemäß Artikel 72;
i) Verfahren zur Meldung eines schwerwiegenden Vorfalls gemäß Artikel 73;
j) die Handhabung der Kommunikation mit zuständigen nationalen Behörden, anderen einschlägigen Behörden, auch Behörden, die den Zugang zu Daten gewähren oder erleichtern, notifizierten Stellen, anderen Akteuren, Kunden oder sonstigen interessierten Kreisen;
k) Systeme und Verfahren für die Aufzeichnung sämtlicher einschlägigen Dokumentation und Informationen;
l) Ressourcenmanagement, einschließlich Maßnahmen im Hinblick auf die Versorgungssicherheit;
m) einen Rechenschaftsrahmen, der die Verantwortlichkeiten der Leitung und des sonstigen Personals in Bezug auf alle in diesem Absatz aufgeführten Aspekte regelt.
(2) Die Umsetzung der in Absatz 1 genannten Aspekte erfolgt in einem angemessenen Verhältnis zur Größe der Organisation des Anbieters. Die Anbieter müssen in jedem Fall den Grad der Strenge und das Schutzniveau einhalten, die erforderlich sind, um die Übereinstimmung ihrer Hochrisiko-KI-Systeme mit dieser Verordnung sicherzustellen.
(3) Anbieter von Hochrisiko-KI-Systemen, die Pflichten in Bezug auf Qualitätsmanagementsysteme oder eine gleichwertige Funktion gemäß den sektorspezifischen Rechtsvorschriften der Union unterliegen, können die in Absatz 1 aufgeführten Aspekte als Bestandteil der nach den genannten Rechtsvorschriften festgelegten Qualitätsmanagementsysteme einbeziehen.
(4) Bei Anbietern, die Finanzinstitute sind und gemäß den Rechtsvorschriften der Union über Finanzdienstleistungen Anforderungen in Bezug auf ihre Regelungen oder Verfahren der internen Unternehmensführung unterliegen, gilt die Pflicht zur Einrichtung eines Qualitätsmanagementsystems — mit Ausnahme des Absatzes 1 Buchstaben g, h und i des vorliegenden Artikels — als erfüllt, wenn die Vorschriften über Regelungen oder Verfahren der internen Unternehmensführung gemäß dem einschlägigen Unionsrecht über Finanzdienstleistungen eingehalten werden. Zu diesem Zweck werden die in Artikel 40 genannten harmonisierten Normen berücksichtigt.