Die Europäische Union plant ein umfassendes Verbot des KI-Missbrauchs, insbesondere im Bereich sexualisierter Deepfakes. Diese Initiative ist Teil der EU-KI-Verordnung (Verordnung (EU) 2024/1689), welche erstmals einen harmonisierten Rechtsrahmen für künstliche Intelligenz in der Europäischen Union schafft und voraussichtlich zum 2. Dezember 2026 in Kraft treten soll.
Deepfakes werden in der Verordnung als durch KI erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte definiert, die wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und einer Person fälschlicherweise als echt oder wahrheitsgemäß erscheinen würden.
Transparenzpflicht für Anbieter
Die Verordnung führt weitreichende Transparenzpflichten ein. Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen sicherstellen, dass diese Ausgaben in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind
Betreiber von KI-Systemen, die Deepfakes erzeugen oder manipulieren, sind verpflichtet, offen zu legen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. Diese Transparenzpflicht gilt nicht, wenn die Verwendung zur Aufdeckung, Verhütung, Ermittlung oder Verfolgung von Straftaten gesetzlich zugelassen ist.
Besonderer Schutz vor Gewalt
Besonders relevant ist die Richtlinie (EU) 2024/1385 zur Bekämpfung von Gewalt gegen Frauen und häuslicher Gewalt, welche die nicht einvernehmliche Herstellung, Manipulation oder Veränderung von Material – einschließlich Deepfakes – erfasst, das den Anschein erweckt, dass eine Person an sexuellen Handlungen beteiligt ist, sofern das Material anschließend mittels Informations- und Kommunikationstechnologie der Öffentlichkeit zugänglich gemacht wird.
Cyberkriminalität nimmt zu – der Selbstschutz leider nicht
Die Ergebnisse des Cybersicherheitsmonitors 2026 sind alarmierend. Laut der repräsentativen Erhebung war im vergangenen Jahr etwa jede zehnte Person von Cyberkriminalität betroffen. Dennoch gaben 24 Prozent der Befragten an, sich überhaupt nicht um ihre IT-Sicherheit zu kümmern, weitere 19 Prozent meinten, sie würden sich erst dann mit dem Thema auseinandersetzen, wenn ein Sicherheitsvorfall akut eingetreten sei.
Strafrechtlich sind Phishing und verwandte Methoden wie Quishing (Phishing über QR-Codes) als Fälschung beweiserheblicher Daten nach § 269 StGB und als Computerbetrug nach § 263a StGB relevant. Beim Phishing werden Internetnutzer durch Täuschungen animiert, Accountdaten, Passwörter, PIN- und TAN-Nummern oder Kreditkartennummern zu offenbaren. Die NIS-2-Richtlinie der EU (Richtlinie (EU) 2022/2555) stärkt zudem die Cybersicherheitsanforderungen für Unternehmen und kritische Infrastrukturen in den Mitgliedstaaten.
Unternehmen und Privatpersonen sollten daher proaktiv Maßnahmen ergreifen: Die Nutzung starker, einzigartiger Passwörter oder der Umstieg auf Passkeys, die Aktivierung der Zwei-Faktor-Authentisierung, regelmäßige Softwareupdates sowie Back-ups sind empfehlenswert. Besonders kritisch ist ein aufmerksamer Umgang mit verdächtigen E-Mails, Links oder QR-Codes, um Phishing- und Quishing-Angriffen zu erkennen und abzuwehren.
