Erwägungsgrund 11 32026R1744

Bei nicht einvernehmlich erstelltem intimem Material handelt es sich um sexuelle Gewalt gegen Einzelpersonen, insbesondere Frauen, und sexuellen Missbrauch dieser Personen. KI-Systeme, mit denen Material dieser Art erzeugt oder manipuliert wird, stellen eine gravierende Gefahr für Gesundheit, Sicherheit und für die Grundrechte dar, darunter die Menschenwürde, die persönliche Autonomie, die Unversehrtheit und das Privatleben der Opfer, und können zu potenziell schwerwiegenden, dauerhaften psychischen und sonstigen Schäden führen sowie massivem Missbrauch ermöglichen. Aufgrund der Verbreitung solcher Technologien, die häufig als „Nudify-Apps“ bezeichnet werden, ist ein ausdrückliches rechtliches Verbot dringend geboten. Darstellungen von sexuellem Missbrauch von Kindern, darunter vollständig oder teilweise per KI erzeugte Darstellungen, gefährden die Sicherheit und die Grundrechte von Kindern in erheblichem Maße. KI-Systeme, mit denen entsprechendes Material erzeugt oder manipuliert wird, stellen eine schwerwiegende Gefahr für die Menschenwürde und die Rechte des Kindes dar und bergen die Gefahr, dass sexuelle Gewalt gegen Kinder normalisiert, verstärkt und fortgesetzt wird. Dementsprechend ist eine Änderung von Artikel 5 der Verordnung (EU) 2024/1689 erforderlich, um Frauen, Kinder, sonstige Personen und die Gesellschaft vor schwerwiegenden schädlichen Praktiken zu schützen und so die Ziele der genannten Verordnung zu verfolgen und um Anbietern und Betreibern Klarheit über den Umfang ihrer Verpflichtungen zu verschaffen und auf diesem Wege die Herausforderungen bei der Umsetzung anzugehen.