Künstliche Intelligenzen („KI“) haben sich innerhalb der letzten Jahre in einem rasanten Tempo verbreitet, nahezu 70% der deutschen Bevölkerung nutzen diese zumindest gelegentlich.[1] Neben den zahlreichen Möglichkeiten, die sich durch KI bieten, treten mittlerweile auch die erheblichen Gefahren immer mehr in den Augenschein der allgemeinen Bevölkerung.[2] Insbesondere Berichte über den KI-Assistenten „Grok“ der Social-Media-Plattform X (ehemals „Twitter“) zeigen die Risiken, die durch eine solche Verbreitung entstehen.[3] So wurde „Grok“ von X-Nutzern auch zur Erstellung von sogenannten „Deepfakes“ genutzt, also künstlich erstellten Bildern oder Videos von Personen auf Grundlage von öffentlich zugänglichen Bildern, insbesondere aus sozialen Medien.[4] Diese Deepfakes ermöglichen es, Personen in fiktiven Situationen zu zeigen, die jedoch täuschend echt wirken[5] und häufig sexualisierender Natur sind.[6]
So klagten im März 2026 drei Jugendliche aus dem US-Bundesstaat Tennesse gegen Elon Musks Firma „xAI“, die „Grok“ entwickelte, da von ihnen sexualisierte Bilder mittels „Grok“ erstellt und in sozialen Medien verbreitet wurden.[7] Ähnliche Klagen wurden zudem von dem Bürgermeister und Stadtrat der US-amerikanischen Stadt Baltimore[8] und sogar von einer ehemaligen Partnerin Musks, mit der dieser einen gemeinsamen Sohn hat, eingereicht.[9] Parallel zu den Klagen leitete die EU-Kommission eine Untersuchung ein[10], da der Verdacht besteht, Musks Unternehmen habe durch den KI-Assistenten gegen den Digital Service Act der Europäischen Union verstoßen.[11]
Deepfakes und KI-Bilder im Recht: Definitionen, Gesetze und Abgrenzungen
Die Zeiten, in denen Bilder mühsam mit Programmen wie Photoshop bearbeitet werden mussten, sind längst vorbei. Durch Künstliche Intelligenz können heutzutage mit vergleichsweise geringem Aufwand und Expertise Fälschungen von Bildern und Videos in hoher Qualität erstellt werden, die täuschend echt wirken. Diese sogenannten Deepfakes können als Bild, Video oder auch Tonaufnahme erstellt werden und dienen insbesondere der Desinformation.[12]
Deepfakes zu erstellen ist grundsätzlich nicht strafbar, durch die beabsichtigten Einsatzzwecke sowie die Verbreitung können jedoch diverse Straftatbestände verwirklicht werden, vorwiegend die Ehrdelikte.[13]
- Beleidigung (§ 185 StGB): im Falle eines beleidigenden Werturteils gegenüber der abgebildeten Person oder Dritten
- Üble Nachrede (§ 186 StGB): bei einer Tatsachenbehauptung in Beziehung auf einen anderen, die geeignet ist, den Betroffenen verächtlich zu machen oder ihn in der öffentlichen Meinung herabzuwürdigen
- Verleumdung (§ 187 StGB): wenn wider besseren Wissens eine unwahre Tatsache behauptet wird, die geeignet ist, den Betroffenen verächtlich zu machen oder ihn in der öffentlichen Meinung herabzuwürdigen
Des Weiteren kommen diverse Straftatbestände aus dem Nebenstrafrecht in Betracht. So könnte im Fall eines Deepfakes eine unerlaubte Verwertung urheberrechtlich geschützter Werkeim Sinne des § 106 Urhebergesetzes (UrhG) vorliegen, nach dem die Vervielfältigung, Verbreitung oder öffentliche Wiedergabeeines Werkes ohne Einwilligung des Berechtigten nicht erlaubt ist.[14]
Der mit Abstand größte Zweck von Deepfakes besteht nach Untersuchungen des Unternehmens Sensity aus dem Jahr 2020 in der Erstellung pornographischer Inhalte.[15] So fielen im Jahr 2020 93% der veröffentlichten Deepfakes in den Bereich der Pornografie.[16] Insbesondere sind weibliche Personen des öffentlichen Lebens betroffen.[17] Mediale Aufmerksamkeit erhielt das Thema zuletzt durch den KI-Assistenten Grok[18] sowie die Vorwürfe der Schauspielerin Collien Fernandes gegen ihren Ex-Mann, dieser sollte pornografische Deepfakes von ihr erstellt und verbreitet haben.[19]
Alle genannten Strafbestände setzen jedoch in gewisser Weise eine Veröffentlichung des Deepfakes voraus, so dass das bloße Erstellen diese nicht erfüllt. Anders ist dies im Falle von kinder- und jugendpornografischen Inhalten, bei denen auch der Besitz nach § 184b und § 184c StGB strafbar ist.[20]
Um der bisweilen unklare Rechtslage in Bezug auf Deepfakes Abhilfe zu schaffen, steht aktuell ein Gesetzesentwurf des Bundesministeriums für Justiz und Verbraucherschutz aus.[21] Durch diesen würde ein neuer Straftatbestand der „Verletzung von Persönlichkeitsrechten durch digitale Fälschung“ unter § 201b im Strafgesetzbuch normiert werden. Hierunter würden sowohl Bilder als auch Videos und Tondateien fallen, die einen wirklichkeitstreuen Anschein erwecken und an Dritte verbreitet werden.
Urheberrechtliche Fragen bei KI-Bildern oder Deepfakes
Das Urheberrecht schützt auf Grundlage des Urhebergesetzes (UrhG) die Rechte von Schaffenden, gemäß § 1 UrhG sind grundsätzlich Werke der Literatur, Wissenschaft und Kunst geschützt. In § 2 UrhG werden die wichtigsten schutzwürdigen Werke benannt:
- Sprachwerke (Schriftwerke, Reden und Computerprogramme)
- Werke der Musik
- Pantomimische Werke einschl. Tanzkunst
- Werke der bildenden Künste
- Lichtbildwerke
- Filmwerke
- Darstellungen wissenschaftlicher Art
Diese Liste ist jedoch keine abschließende Aufzählung, sondern zeigt eher die allgemein anerkannten Regelbeispiele. Das Urheberrecht entsteht simultan mit der Schaffung eines Werkes, eine Veröffentlichung oder Eintragung in ein amtliches Register ist nicht notwendig.[22] Die Entstehung und der Umfang des Urheberrechts sind an den Grad der schöpferischen Leistung des Werkes gebunden, so dass der Umfang des Schutzes durch die Einzigartigkeit eines Werkes bestimmt wird. Zur Bestimmung der urheberrechtlichen Schutzfähigkeit, werden vier maßgebliche Merkmale herangezogen. Das Werk muss demnach:
- eine persönliche und menschliche Schöpfung sein
- eine wahrnehmbare Formgestaltung haben
- einen geistigen Inhalt besitzen
- eine schöpferische Eigentümlichkeit aufweisen
Grundsätzlich stellen KI-basierte Inhalte keine urheberrechtlich geschützten Werke dar, da sie keine persönliche geistige Schöpfung eines Menschen beinhalten.[23] Inwiefern die KI im Schaffungsprozess eingesetzt wird, muss jedoch stets im Einzelfall betrachtet werden. So käme ein urheberrechtlicher Schutz in Betracht, wenn die KI lediglich als Hilfsmittel im Schaffungsprozess verwendet wird und somit untergeordnete Bedeutung tragen würde.
Persönlichkeitsrechte und Einwilligung
Das allgemeine Persönlichkeitsrecht wird aus Artikel 2 Abs. 1 und Artikel 1 Abs. 1 des Grundgesetzes abgeleitet und schützt sowohl die Privatsphäre als auch die freie Entfaltung der Persönlichkeit. Insbesondere in Bezug auf Deepfakes könnte das allgemeine Persönlichkeitsrecht vor Verbreitung von Bild-, Video- und Tondateien schützen.
Das Recht am eigenen Bild stellt eine besondere Ausprägung des allgemeinen Persönlichkeitsrechts dar und ist somit durch § 22 bis § 24 des Kunsturhebergesetzes spezialgesetzlich geschützt. Es räumt jedem Menschen das Recht ein, zu bestimmen, ob und in welchem Kontext Bilder von ihm gemacht und veröffentlicht werden dürfen. Der Bundesgerichtshof entschied im Februar 2022[24], dass ein geschütztes Bildnis einer Person stets vorliegt, wenn für einen nicht unerheblichen Teil des Publikums der täuschend echte Eindruck erweckt wird, dass es sich tatsächlich um die dargestellte Person handelt. Nur auf Grundlage des allgemeinen Persönlichkeitsrechts ist somit ein Deepfake, das eine täuschende Ähnlichkeit zu einer realen Person aufweist, nicht anders zu behandeln als ein „normales“ Foto und darf ohne die Einwilligung der abgebildeten Person nicht verbreitet werden.
Bezüglich des Schutzes der eigenen Stimme fällte das Landgericht Berlin im August 2025 ein richtungsweisendes Urteil.[25] Der deutsche Synchronsprecher Manfred Lehmann, der beispielsweise Bruce Willes und Willem Dafoe seine Stimme leiht, klagte gegen den Betreiber eines YouTube-Kanals, der zwei seiner Videos mit einer KI-generierten Version von Lehmanns Stimme vertonte. Auch wenn die Stimme nicht spezialgesetzlich geschützt ist, erkennt das Landgericht einen immanenten Schutz durch das allgemeine Persönlichkeitsrecht an und verurteilte den Beklagten unter anderem zu einer Zahlung von 4000 Euro.
Zulässige Nutzungen und rechtliche Ansprüche
Die Rechte am eigenen Bild sind jedoch nicht grenzenlos. In § 23 des Kunsturhebergesetzes finden sich diverse Konstellationen, bei denen auf eine Einwilligung verzichtet werden kann:
1. Bildnisse aus dem Bereich der Zeitgeschichte
2. Bilder, auf denen die Personen nur als Beiwerk neben einer Landschaft oder sonstigen Örtlichkeit erscheinen
3. Bilder von Versammlungen, Aufzügen und ähnlichen Vorgängen, an denen die dargestellten Personen teilgenommen haben
4. Bildnisse, die nicht auf Bestellung angefertigt sind, sofern die Verbreitung oder Schaustellung einem höheren Interesse der Kunst dient
Ob einer der dargestellten Fälle vorliegt, muss jedoch – wie so oft – im Einzelfall betrachtet werden. Grundsätzlich lässt sich das allgemeine Persönlichkeitsrecht, unter dass auch das Recht am eigenen Bild fällt, durch entgegenstehende Grundrechte einschränken. In Betracht kommen explizit die Informationsfreiheit (Art. 5 Grundgesetz), die Freiheit von Kunst und Wissenschaft (Art. 5 Abs. 3 Grundgesetz), die Berufsfreiheit (Art 12 Grundgesetz) oder die Eigentumsgarantie (Art. 14 Grundgesetz).[26]
Sollte jedoch keine Einwilligung zur Verbreitung eines Bildes durch die abgebildete Person und auch keine Ausnahme vorliegen, könnten durch die Verbreitung sowohl straf- als auch zivilrechtliche Ansprüche entstehen. Strafrechtlich kommen insbesondere die bereits dargestellten Delikte der Verleumdung, üblen Nachrede, Beleidigung oder die Verletzung des höchstpersönlichen Lebensbereichs in Betracht, wenn durch manipulierte Inhalte Personen herabgewürdigt oder falsch dargestellt werden. Zudem können je nach Inhalt Urheberrechtsverletzungen oder Verstöße gegen Datenschutzvorschriften vorliegen. Zivilrechtlich können Betroffene Unterlassungs-, Beseitigungs- und Schadensersatzansprüche geltend machen. Darüber hinaus kann ein Anspruch auf Geldentschädigung bestehen, wenn das allgemeine Persönlichkeitsrecht schwerwiegend verletzt wurde.
Fazit: Deepfakes und KI-Bilder rechtssicher einordnen
Mit der zunehmenden Verbreitung und Nutzung von KI-Programmen wachsen nicht nur die Chancen, sondern auch die Gefahren, die sich aus diesen ergeben. Abgesehen von Ehrdelikten und Persönlichkeitsrechtsverletzungen, können Deepfakes ebenso genutzt werden, um Straftaten zu vereinfachen oder Desinformationen zu verbreiten. Studien zufolge haben Deepfake-Angriffe um bis zu 3000% zugenommen, insbesondere im Bereich des Online-Bankings.[27] Einer Befragung im Auftrag des Bundesverbands Digitale Wirtschaft (BVDW) zufolge vermindert sich bei 72% der befragten Personen das Vertrauen in digitale Medien durch die Verbreitung von Deepfakes.[28]
Es existierst bislang keine abschließende Gesetzgebung oder Rechtsprechung in Bezug auf Deepfakes. Eine rechtliche Einordnung kann somit nur in Betrachtung des konkreten Einzelfalls erfolgen, um rechtliche Interessen zu schützen. Auch wenn es bereits richtungsweisende Urteile gibt, ist mit einem Nachzug des Gesetzgebers zu rechnen. Derweil liegt bereits ein Gesetzesentwurf vor, der einen strafrechtlichen Schutz der Persönlichkeitsrechte vor Deepfakes gesetzlich explizit normieren würde.[29]
[1] Stand 2025, Studie von „bitcom dataverse“, Künstliche Intelligenz in Deutschland, S. 18
[2] Das Parlament: „Chancen und Risiken der Künstlichen Intelligenz“, veröffentlicht am 04. Oktober 2022
[3] Universität von Oxford Expertenkommentar: „Chatbot-driven sexual abuse? The Grok case is just the tip of the iceberg“, veröffentlicht am 14. Januar 2026
[4] Studie des „Center for Countering Digital Hate Inc (US)“: Grok floods X with sexualized images (…), veröffentlicht am 22. Januar 2026
[5] Dr. Dr. Fabian Teichmann in „Strafrechtlicher Persönlichkeitsschutz vor Deepfakes“, KriPoZ 2/26
[6] The New York Times: „Musk’s Chatbot Flooded X With Millions of Sexualized Images in Days, New Estimates Show“, veröffentlicht am 22. Januar 2026
[7] Der Spiegel am 17. März 2026: „Teenager verklagen Elon Musks KI-Firma wegen sexualisierter Bilder“
[8] The Guardian vom 24. März 2026: „Baltimore sues Elon Musk´s AI company over Groks fake nude images“
[9] Die Zeit am 17. Januar 2026: „Mutter von Elon Musks Sohn verklagt xAI wegen Deepfakes“
[10] Pressemitteilung der Europäischen Kommission Nr. IP/26/203
[11] LTO am 26. Januar 2026: „EU-Kommission leitet weitere Untersuchung gegen X ein“
[12] Bundesamt für Verfassungschutz, Glossar: „Deepfakes“
[13] Deutscher Bundestag Sachstand WD 7 – 3000 – 038/24
[14] Fritsche/Müller in Schumann/Mosbacher/König, Medienstrafrecht 1. Aufl. 2023, § 106, Rn. 1.
[15] Sensity: „The State of Deepfakes 16th September 2020“
[16] Reuther, „Digital R*pe: Women Are Most Likely to Fall Victim to Deepfakes“, The Deepfake Report, aufgerufen am 09.04.2026
[17] HateAid: „Bildbasierte Gewalt im Internet“, Stand vom 02. September 2025
[18] S.o.
[19] Tagesschau: „Härtere Strafen bei digitaler Gewalt?“. Stand vom 20. März 2026
[20]Zeitschrift für Internationale Strafrechtdogmatik: „Posing und der Begriff der Kinderpornografie in § 184b StGB“, Prof. Dr. Eisele/ Franosch nach dem 49. Strafrechtsänderungsgesetz“
[21] BT- Drucksache 21/1383
[22] Deutsches Patent- und Markenamt: „Schutzrechte kurz erklärt“, Stand vom 10.Dezember 2025
[23] Bundesministerium für Justiz, „Künstliche Intelligenz und Urheberrecht“, März 2024
[24] Bundesgerichtshof, Urteil vom 24.02.2022, Az.: I ZR 2/21
[25] Landgericht Berlin II, Urteil vom 20.08.2025, Az.: 2 O 202/24
[26] Deutscher Bundestag: Kurzinformation zur Regulierung von Deepfakes (WD 7 – 3000 – 015/24 (04.03.2024))
[27] Bundesverband Digitale Wirtschaft: „Deepfakes: Eine Einordnung, S. 1, 2024
[28] Bundesverband Digitale Wirtschaft: „Deepfakes: Eine Einordnung, S. 4, 2024
[29] Deutscher Bundestag, 21. Wahlperiode, Drucksache 21/1383
