Erwägungsgrund 56 32023L2225

Im Vorschlag der Kommission für eine Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (Gesetz über künstliche Intelligenz) ist vorgesehen, dass KI-Systeme, die zur Kreditpunktebewertung oder zur Bewertung der Kreditwürdigkeit natürlicher Personen verwendet werden, als Hochrisiko-KI-Systeme eingestuft werden sollten, da sie den Zugang dieser Personen zu Finanzmitteln oder wesentlichen Dienstleistungen wie Wohnraum, Elektrizität und Telekommunikationsdienstleistungen bestimmen. Angesichts dieser hohen Risiken sollten Verbraucher das Recht haben, menschliches Eingreifen seitens des Kreditgebers zu erwirken, wenn die Prüfung der Kreditwürdigkeit eine automatisierte Verarbeitung beinhaltet. Unbeschadet der Verordnung (EU) 2016/679 sollte der Verbraucher das Recht auf eine aussagekräftige und verständliche Erläuterung der vorgenommenen Prüfung und der Funktionsweise der verwendeten automatisierten Verarbeitung, einschließlich der wichtigsten Variablen, der zugrunde liegenden Logik und der betreffenden Risiken, sowie das Recht haben, seinen Standpunkt darzulegen und eine Überprüfung der Kreditwürdigkeitsprüfung und eine Überprüfung der Entscheidung über die Kreditgewährung zu verlangen. Der Verbraucher sollte das Recht haben, über diese Rechte informiert zu werden, nachdem er ordnungsgemäß über das zu befolgende Verfahren informiert wurde. Die Möglichkeit, eine Überprüfung der ursprünglichen Kreditwürdigkeitsprüfung und der Entscheidung zu verlangen, sollte nicht notwendigerweise dazu führen, dass dem Verbraucher ein Kredit gewährt wird.