Im November 2024 erstattet Collin Fernandes eine Strafanzeige an die Itzehoer Staatsanwaltschaft gegen einen Unbekannten, aufgrund eines Fake-Accounts in ihrem Namen.
Erste Anschuldigungen kamen im März 2026 in einem Bericht im Spiegel gegenüber ihrem Ex-Partner Christian Ulmen. Laut Fernandes soll er mithilfe von KI Fake-Profile unter ihrer Identität erstellt und darauf pornografische Deepfakes veröffentlicht haben. Für ihn gilt zur jetzigen Zeit die Unschuldsvermutung. Die Veröffentlichung des Spiegel-Berichts sorgte für viel Aufmerksamkeit unter den deutschen Medien. In den sozialen Medien wurde dieser Fall mehrfach verbreitet und unterschiedliche Menschen nahmen Stellung. Es löste Demonstrationen aus und auch in der Justiz wurde die Strafanzeige wieder aufgenommen.
Die Problematik hinter Deepfakes
Die Erstellung von Deepfakes ist mittlerweile kein neues Phänomen mehr. Bei Deepfakes werden Videos, Bilder oder Audios mithilfe einer Künstlichen Intelligenz erstellt. Diese wirken täuschend echt und werden meist für Falschinformationen, Manipulation oder wie in diesem Fallbeispiel für pornografische Inhalte genutzt und verbreitet. Die Problematik dahinter lässt sich am Beispiel der Betroffenen Collin Fernandes gut erkennen. Sie verliert die Kontrolle über ihr eigenes Bild und ihre Identität und der Täter hat es leicht durch den einfachen Zugang zu KI-Tools und auch die Tat ist aktuell rechtlich schwer greifbar.
Rechtslage in Deutschland
Im deutschen Strafgesetzbuch gibt es zurzeit kein spezifisches „Deepfake-Gesetz“. Hierbei kann nur auf ein bestehendes Gesetz zurückgegriffen werden. Vorschriften wie „Verletzungen des Intimbereichs durch Bildaufnahmen“ (§ 184 k StGB) oder „Verletzungen des höchstpersönlichen Lebensbereiches und von Persönlichkeitsrechten durch Bildaufnahmen“ (§ 201 a StGB) helfen im Fall Collien Fernandes nicht viel weiter. Bei diesen Gesetzen geht es um Bild- oder Videoaufnahmen. Jedoch handelt es sich hierbei um KI-generierte Inhalte, die nur echt wirken, jedoch nicht real sind. Das weist auf eine Lücke im Gesetz hin.
Trotz dessen kann strafrechtlich gegen Erstellung von Fake-Pornos vorgegangen werden, aufgrund von Beleidigung, Verleumdung oder übler Nachrede (§ 185-187 StGB). Es stellt damit eine Missachtung der Person selbst dar und berührt somit ihre Würde. Ebenso kann auf das Urheberrechtsgesetz eingegangen werden, wie das Recht am eigenen Bild: „Bildnisse dürfen nur mit Einwilligung des Abgebildeten verbreitet oder öffentlich zur Schau gestellt werden.“ (§ 22 KUG). Es soll verhindern, dass weitere Personen, außer die Betroffene und der Ersteller, das Bild sehen.
Das reine Erstellen jedoch von sexuellen Inhalten einer Person durch Deepfakes wird im Gesetzbuch nicht klar thematisiert und greift eine Problematik auf, die zu einer Plenardebatte im Bundestag führte.
Politische Entwicklungen
Der Bundestag diskutierte am 26. März 2026 über eine neue Regelung mit dem Ziel einer besseren Strafbarkeit für einen Deepfake-Missbrauch mit klareren Definitionen im Strafrecht. Grundlage dafür war ein neuer Gesetzentwurf von der Fraktion Bündnis 90/ Die Grünen zur Änderung von Paragraf 184k des Strafgesetzbuches „Verletzung des Intimbereichs durch Bildaufnahmen“. Dort steht, dass eine Freiheitsstrafe unter anderem durch eine Bildaufnahme erfolgt, die eine andere Person sexualbezogen abbildet, absichtlich oder wissentlich unbefugt herstellt. Damit soll gewährleistet werden, dass auch das reine Erstellen einer Bildaufnahme durch KI ebenso unter Strafe steht. Die Grünen fordern somit eine Erweiterung des Paragrafen und weisen auf ein lückenhaftes Gesetz hin. Dieser Gesetzentwurf stieß auf Kritik.
Einige der Abgeordneten im Bundestag sahen den Entwurf als nicht sorgfältig genug ausgearbeitet und auch nicht als praktikabel an. Prof. Dr. Markus Heinker erklärt, dass ein Gesetz gegen den reinen Vorgang der Erstellung eines Bildes durch KI, aus organisatorischen Aspekten schwierig umzusetzen ist, da es in eine sehr allgemeine Formulierung abrutscht. Er empfiehlt, sich hierbei auf das Zivilrecht, das Recht am eigenen Bild, zu beziehen.
Laut der Zeit soll sich die EU Anfang Mai für einen größeren Schutz vor sexualisierten Deepfakes geeinigt haben. Dabei geht es spezifisch um die Anwendung und Erstellung von sexualisierten Deepfakes. Wenn das Verbot bestätigt wird, könnte es am 2. Dezember 2026 vom KI-Amt durchgesetzt werden. Im Gesetz soll genau definiert werden, was als sexueller Inhalt gilt und was nicht. Betroffenen vereinfacht es somit, gegen sexuellem Missbrauch durch KI vorzugehen.
Silhouette von einer Person vor einem Fernseher. // Credits: Feodor Chistyakov /Unsplash
Was können Betroffene tun?
Um eine Weiterverbreitung von Bildern oder Videos zu verhindern, sollten laut Prof. Christian Solmecke die Betroffenen sich rechtlich gegen die entsprechenden sozialen Netzwerke, bei denen diese Bildaufnahmen verbreitet werden, wenden. Diese haben gegen eine Verbreitung rechtsverletzender Inhalte eine Verpflichtung diese zu entfernen. Durch Online- Formulare oder Melde-Buttons. Prof. Solmecke empfiehlt ebenfalls eine zivilrechtliche Klage gegen den Urheber.
Text: Livia Finger Bilder: Feodor Chistyakov und Growtika / Unsplash
