Marktüberwachung (EU AI Act)
Die Kontrolle durch nationale Behörden, ob KI-Produkte die Anforderungen des EU AI Act einhalten — mit Durchgriffsrechten.
Marktüberwachung bezeichnet im Kontext des EU AI Act die Tätigkeit nationaler Behörden, die prüfen, ob KI-Systeme auf dem Markt die Anforderungen der Verordnung erfüllen. In Deutschland ist die zuständige Marktüberwachungsbehörde noch nicht abschließend bestimmt — diskutiert wird das BSI.
Welche Befugnisse haben Marktüberwachungsbehörden?
Marktüberwachungsbehörden können: Zugang zu technischer Dokumentation verlangen, Tests an KI-Systemen durchführen oder veranlassen, den Rückruf oder das Verbot von KI-Systemen anordnen und Bußgelder verhängen. Die Zusammenarbeit zwischen nationalen Behörden ist im AI Act geregelt.
Für Unternehmen bedeutet das: Compliance ist keine einmalige Aufgabe, sondern ein dauerhafter Prozess. Systeme müssen so dokumentiert sein, dass Behörden im Prüfungsfall schnell alle relevanten Informationen erhalten können.