Art. 27 AI Act – Grundrechte-Folgenabschätzung für Hochrisiko-KI-Systeme

  • 1)Vor der Inbetriebnahme eines Hochrisiko-KI-Systems gemäss Artikel 6 Absatz 2 — mit Ausnahme von Hochrisiko-KI-Systemen, die in dem in Anhang III Nummer 2 aufgeführten Bereich verwendet werden sollen — führen Betreiber, bei denen es sich um Einrichtungen des öffentlichen Rechts oder private Einrichtungen, die öffentliche Dienste erbringen, handelt, und Betreiber von Hochrisiko-KI-Systemen gemäss Anhang III Nummer 5 Buchstaben b und c eine Abschätzung der Auswirkungen, die die Verwendung eines solchen Systems auf die Grundrechte haben kann, durch. Zu diesem Zweck führen die Betreiber eine Abschätzung durch, die Folgendes umfasst:
    1. a)eine Beschreibung der Verfahren des Betreibers, bei denen das Hochrisiko-KI-System im Einklang mit seiner Zweckbestimmung verwendet wird;
    2. b)eine Beschreibung des Zeitraums und der Häufigkeit, innerhalb dessen bzw. mit der jedes Hochrisiko-KI-System verwendet werden soll;
    3. c)die Kategorien der natürlichen Personen und Personengruppen, die von seiner Verwendung im spezifischen Kontext betroffen sein könnten;
    4. d)die spezifischen Schadensrisiken, die sich auf die gemäss Buchstabe c dieses Absatzes ermittelten Kategorien natürlicher Personen oder Personengruppen auswirken könnten, unter Berücksichtigung der vom Anbieter gemäss Artikel 13 bereitgestellten Informationen;
    5. e)eine Beschreibung der Umsetzung von Massnahmen der menschlichen Aufsicht entsprechend den Betriebsanleitungen;
    6. f)die Massnahmen, die im Falle des Eintretens dieser Risiken zu ergreifen sind, einschliesslich der Regelungen für die interne Unternehmensführung und Beschwerdemechanismen.
  • 2)Die in Absatz 1 festgelegte Pflicht gilt für die erste Verwendung eines Hochrisiko-KI-Systems. Der Betreiber kann sich in ähnlichen Fällen auf zuvor durchgeführte Grundrechte-Folgenabschätzungen oder bereits vorhandene Folgenabschätzungen, die vom Anbieter durchgeführt wurden, stützen. Gelangt der Betreiber während der Verwendung des Hochrisiko-KI-Systems zur Auffassung, dass sich eines der in Absatz 1 aufgeführten Elemente geändert hat oder nicht mehr auf dem neuesten Stand ist, so unternimmt der Betreiber die erforderlichen Schritte, um die Informationen zu aktualisieren.
  • 3)Sobald die Abschätzung gemäss Absatz 1 des vorliegenden Artikels durchgeführt wurde, teilt der Betreiber der Marktüberwachungsbehörde ihre Ergebnisse mit, indem er das ausgefüllte, in Absatz 5 des vorliegenden Artikels genannte Muster als Teil der Mitteilung übermittelt. In dem in Artikel 46 Absatz 1 genannten Fall können die Betreiber von der Mitteilungspflicht befreit werden.
  • 4)Wird eine der in diesem Artikel festgelegten Pflichten bereits infolge einer gemäss Artikel 35 der Verordnung (EU) 2016/679 oder Artikel 27 der Richtlinie (EU) 2016/680 durchgeführten Datenschutz-Folgenabschätzung erfüllt, so ergänzt die Grundrechte-Folgenabschätzung gemäss Absatz 1 des vorliegenden Artikels diese Datenschutz-Folgenabschätzung.
  • 5)Das Büro für Künstliche Intelligenz arbeitet ein Muster für einen Fragebogen — auch mithilfe eines automatisierten Instruments — aus, um die Betreiber in die Lage zu versetzen, ihren Pflichten gemäss diesem Artikel in vereinfachter Weise nachzukommen.
Hinweis: Obiger Text stammt aus einer amtlichen Erlasssammlung und beansprucht keine Verbindlichkeit. Nur der Text, wie er amtlich veröffentlicht wurde und in Kraft ist, gilt als verbindlich. Hast Du einen Fehler entdeckt?