Hochrisiko-KI-Systeme

Die meisten Vorschriften sieht der AI Act für KI-Anwendungen vor, die als hochriskant eingestuft sind. Deren Einsatz ist zwar zulässig, aufgrund des Gefahrenpotenzials und/oder der gesellschaftlichen Bedeutung der Sektoren, in denen die Systeme zum Einsatz kommen sollen, aber stark reguliert. KI-Systeme mit hohem Risiko unterliegen strengen Anforderungen, bevor sie eingesetzt werden dürfen. Anbieter müssen ua Maßnahmen zum Risikomanagement implementieren, die hohe Qualität der Trainingsdaten sicherstellen und die Rechenschritte protokollieren.