Hochrisiko-KI
KI-Systeme, die laut EU AI Act besonderen Dokumentations-, Transparenz- und Aufsichtspflichten unterliegen.
Als Hochrisiko-KI gelten im Sinne des EU AI Act KI-Systeme, deren Einsatz erhebliche Auswirkungen auf Gesundheit, Sicherheit oder Grundrechte von Personen haben kann. Die Verordnung listet konkrete Anwendungsbereiche in Anhang III auf.
Welche Systeme sind betroffen?
Typische Beispiele sind: KI-gestützte Personalauswahlsysteme, Kreditwürdigkeitsprüfungen, biometrische Identifikation, Systeme zur Bewertung von Prüfungsleistungen und KI in der medizinischen Diagnostik. Auch Systeme, die die Überwachungseignung im Beschäftigungsverhältnis besitzen, fallen regelmäßig in diese Kategorie.
Anbieter und Betreiber von Hochrisiko-KI müssen unter anderem ein Risikomanagementsystem einführen, technische Dokumentation erstellen, die Datenqualität gewährleisten und eine menschliche Aufsicht sicherstellen.