Der Begriff "Künstliche Intelligenz" (KI) verdeckt die Realität, nämlich dass das Design von KI-Systemen von zahlreichen von Menschen festgelegten Wertentscheidungen und Zielkonflikten geprägt ist. Wird in diese Spannungsverhältnisse durch unbedachte Regulierung eingegriffen, werden unerwartete Wechselwirkungen von rechtlichen Normen und technischen Realitäten in Kauf genommen. Gerade in Bezug auf medizinische KI scheint somit smarte Regulierung notwendig, die technische Gegebenheiten und Begrenzungen, dh die unterschiedlichen Komponenten von KI, beachtet und KI nicht als rein passiven Gegenstand der Regulierung begreift. Der Beitrag beschäftigt sich mit potentiellen Wechselwirkungen von rechtlichen Vorgaben und technischen Gegebenheiten von KI in der Medizin am Beispiel von Trainingsdaten und Metriken für Entscheidungsqualität.
