Deep Fakes, digitale Verletzungen und Übergriffe

Das Gesetz gegen digitale Gewalt als Antwort auf kriminelle Umtriebe mit digitalen Medien

#asj #mit recht politisch #spw

12.11.2026

Foto: © privat

Fabian Hoffmann ist Mitglied im Bundesvorstand der Arbeitsgemeinschaft sozialdemokratischer Juristinnen und Juristen in der SPD und Richter am Bundesgerichtshof.

VON Fabian Hoffmann

Zusammenfassung

Das Thema „digitale Gewalt“ ist spätestens seit dem Fall Christian Ulmen/Collien Fernandes in aller Munde. Die Bundesregierung hat einen Gesetzentwurf beschlossen, der zivilrechtliche und strafrechtliche Schutzlücken schließen soll. So soll besser gegen pornografische Deepfakes, digitalen Voyeurismus, Cyberstalking und andere Formen der digitalen Gewalt vorgegangen werden. Fabian Hoffmann, Mitglied des Bundesvorstandes der Arbeitsgemeinschaft Sozialdemokratischer Juristinnen und Juristen, analysiert detailliert den vorliegenden Entwurf und macht sich gleichzeitig Gedanken darüber, was darüber hinaus noch nötig ist, um digitale Gewalt im Netz zu bekämpfen.

 

Digitale Innovationen werden in großer Vielfalt genutzt, leider mitunter auch kriminell, etwa um andere – häufig Frauen – psychisch zu verletzen und deren Ansehen zu beschädigen. In jüngster Vergangenheit sind hierzu Fälle bekannt geworden, in denen mit künstlicher Intelligenz unbefugt Videos erstellt wurden, die eine andere Person als Teil von Pornografie (Fall Ulmen/Fernandes) als Teil von Produktwerbung (Fall Hirschhausen) zeigen.

Das Bundesministerium für Justiz und Verbraucherschutz hat, nicht erst aus Anlass dieser konkreten Fälle, sondern in Ausführung einer Maßgabe aus dem Koalitionsvertrag von CDU/CSU und SPD, einen Referentenentwurf für ein Gesetz zur Stärkung des zivilrechtlichen und strafrechtlichen Schutzes vor digitaler Gewalt erarbeitet, der vorwiegend zivil- und strafrechtliche Aspekte behandelt. Darüber hinaus sollen in diesem Beitrag die von diesem und anderen Gesetzen ausgehenden Präventionsmöglichkeiten in den Blick genommen werden. Am 7. Oktober hat das Bundeskabinett beschlossen, das Gesetz gegen digitale Gewalt als Gesetzentwurf einzubringen.

1. Strafrecht

Für das Strafrecht ist nicht zu übersehen, dass ein erheblicher Teil solcher Handlungen bereits heute insbesondere als Verleumdung (§ 187 StGB) oder Verletzung des Intimbereichs durch Bildaufnahmen (§ 184k StGB) strafbar ist. Die Erfahrung mit dem Straftatbestand der Vergewaltigung lehrt jedoch, dass es neben der Strafhöhe auch auf die Überschrift eines Strafdeliktes ankommt. Bis ins Jahr 1997 galt dieser Tatbestand nur für Handlungen außerhalb einer Ehe. Gleichwohl waren Vergewaltigungen in der Ehe aber zumindest in der Regel als Körperverletzung oder Nötigung strafbar. Nicht nur der höhere Strafrahmen des § 177 des Strafgesetzbuchs, sondern auch dessen Überschrift als “Vergewaltigung” haben mit der Gesetzesänderung noch einmal verdeutlicht, dass auch die Vergewaltigung in der Ehe keine Bagatelle ist, sondern eine Straftat, die das kriminelle Gewicht eines Verbrechens hat.

a) § 184k StGB – Verletzung der Intimsphäre durch Bildaufnahmen

Es gilt aber auch manifeste Strafbarkeitslücken zu füllen. Am augenscheinlichsten wird dies hinsichtlich der Bildaufnahmen von Genitalien, eines Gesäßes oder einer weiblichen Brust. Werden diese Körperteile unbekleidet oder in sexuell bestimmter Weise auch bekleidet von einer Kamera aufgenommen, dann ist bereits die Herstellung – etwa in einer Sauna, am Strand oder aus einem bestimmten Blickwinkel – ein Vorgang, der die Intimsphäre in nicht hinnehmbarer Weise verletzt; unabhängig davon, was mit der Bildaufnahme danach geschieht. Die im Entwurf für das Strafgesetzbuch entworfene Änderung des § 184k stellt deshalb zu Recht die Herstellung wie auch die Zugänglichmachung solcher Bilder unter Strafe. Hierbei kommt es nicht darauf an, ob die Person, deren Körperteil abgebildet wird, noch zu erkennen ist. Insbesondere, wenn sie die Herstellung mitbekommen hat, will sie gewährleistet wissen, dass auch das Zeigen des Bildes nur unter Verletzung von Strafgesetzen möglich ist.

Grundsätzlich ist bereits die Herstellung solcher Bilder und Videos aber auch deshalb unter Strafe zu stellen, weil es sich um einen Gefährdungstatbestand handelt, der ein hohes Potenzial für weitere Verletzungen in sich trägt, denen mitunter nur schwer zu begegnen ist. Mit den Verbreitungsmöglichkeiten des Internets können die digitalen Bilder schnell in Hände geraten, die nicht mehr zu kontrollieren sind. Solche Bilder sind häufig nur schwer aus dem Internet wieder herauszubekommen und können schnell einer Vielzahl von Personen zugänglich gemacht werden; jede Zugänglichmachung führt zu einer erneuten Verletzung der Intimsphäre.

Die Situation ist ähnlich wie bei einer Urkunden- oder Geldfälschung. Bestraft wird nicht nur der Gebrauch, sondern auch die Herstellung einer gefälschten Urkunde oder von Falschgeld. Nach der Herstellung ist die Gefahr der Verbreitung immens und nur schwer einzudämmen, weshalb bereits einer Herstellung mit den Mitteln des Strafrechts zu begegnen ist. Soweit Urkundenfälschung nicht bestraft wird, weil eine Absicht zur Täuschung im Rechtsverkehr fehlt, findet dies bei die Intimsphäre verletzenden Bildaufnahmen eine Entsprechung, indem die Herstellung und die Zugänglichmachung solcher Bilder nicht bei Wahrnehmung überwiegender berechtigter Interessen bestraft werden, wie insbesondere der Kunst, der Wissenschaft, der Forschung, der Lehre oder der Berichterstattung über Vorgänge des Zeitgeschehens (§ 184k Abs. 4 StGB-E).

b) § 201b StGB-E – Verletzung von Persönlichkeitsrechten durch täuschende Inhalte

Eine in strafrechtlicher Hinsicht interessante Vorschrift ist der entworfene Tatbestand zur “Verletzung von Persönlichkeitsrechten durch täuschende Inhalte” (§ 201b StGB E). Dieser soll das Erwecken des Anscheins eines tatsächlichen Geschehens in Bezug auf eine andere Person unter Strafe stellen, wenn ein solcher Anschein mittels eines Computerprogramms erstellt wird und geeignet ist, dem Ansehen der Person erheblich zu schaden. Der entworfene Straftatbestand versucht einen ähnlichen Entwurf einzufangen, der von Bayern über den Bundesrat der Gesetzgebung zugeführt worden ist, jedoch mit dem vorzeitigen Ende der 21. Legislaturperiode ebenfalls sein Ende fand. Der damalige Gesetzentwurf hat bewusst nicht das Merkmal einer Ansehensschädigung vorausgesetzt (BT-Drucks. 21/1383, S. 14 Abs. 2). Der aktuelle Referentenentwurf hat dieses Merkmal aufgenommen. Damit dürfte der neu entworfene Tatbestand in der Regel nur ein Spezialtatbestand gegenüber dem Tatbestand der Verleumdung (§ 187 StGB) sein.

Wie eingangs ausgeführt, ist ein solcher, spezieller Tatbestand gleichwohl bereits aufgrund seiner Überschrift sinnvoll. Falsche Inhalte durch Fake-Videos zu verbreiten, wird kaum mit dem Begriff der Verleumdung in Verbindung gebracht werden, vielmehr handelt es sich eben um eine “Verletzung von Persönlichkeitsrechten durch täuschende Inhalte”. Der Tatbestand der Verleumdung in § 187 vermag schon deshalb den Unrechtsgehalt einer solchen Tat in ihrem Kern nur unzureichend zu erfassen (BT-Drucks. 21/1383 S. 12 Abs. 4).

Anstelle der Formulierung in dem aus Bayern stammenden Gesetzentwurf, deep fakes dann zu bestrafen, wenn sie das Persönlichkeitsrecht eines anderen verletzen, dürfte es präziser sein, wie im Entwurf des BMJV in § 201b StGB-E, auf die Eignung abzustellen, das Ansehen einer Person zu schädigen. Sinnvoll wäre es jedoch, dieses Merkmal bei der Nutzung von kommerzieller Werbung stets als erfüllt anzusehen und insofern den Tatbestand der strafbaren Werbung gemäß § 16 UWG für Fälle der Werbung mit Hilfe von nicht autorisierten deep fakes zu ergänzen.

c) § 202e StGB-E – Unbefugte Überwachung mittels Informations- oder Kommunikationstechnik

Weiterhin sieht der Referentenentwurf den neuen Straftatbestand einer “Unbefugten Überwachung mittels Informations- oder Kommunikationstechnik” vor und ahndet das wiederholte oder ständige, unbefugte Überwachen des Aufenthaltsorts oder der Tätigkeit einer anderen Person mittels Informations- oder Kommunikationstechnik, wenn damit einer Person wahrscheinlich ein schwerer Schaden zugefügt wird (§ 202e StGB-E). Gemeint sind damit insbesondere aber nicht nur das Tracking mittels den Standort übermittelnden Geräten oder Spyware, die die Standortdaten eines Mobiltelefons übermittelt. Nach dem Tatbestand fällt darunter auch die Auswertung von öffentlich verfügbaren Daten wie vom Betroffenen selbst erstellte Nachrichten in sozialen Medien oder Webseiten, die regelkonform die Standortdaten von (privaten) Booten und Flugzeugen offenbaren. Die Vorschrift soll Artikel 6 der Richtlinie (EU) 2024/1385 zur Bekämpfung von Gewalt gegen Frauen und häuslicher Gewalt umsetzen. Dementsprechend ist es zunächst richtig, diesen neuen Straftatbestand wie in § 202e StGB-E im Wesentlichen wortgleich auszubilden.

Gleichwohl könnte das Erfordernis einer Wahrscheinlichkeit für einen schweren Schaden zu viele Verhaltensweisen ausschließen, die im gegenseitigen Miteinander nicht akzeptabel und zu bestrafen sind. Das unerlaubte Anbringen von Standortübermittlungsgeräten darf grundsätzlich nicht erlaubt sein und wäre ohne weitere Voraussetzungen strafrechtlich zu ahnden. Das Bedürfnis nach Ausnahmen hierzu lässt sich durch besondere Ausnahmekonstellationen definieren und sollte nicht damit eingefangen werden, dass stets die Wahrscheinlichkeit eines schweren Schadens erforderlich ist. Als Ausnahme zur Strafbarkeit könnte die Wahrnehmung berechtigter Interessen definiert werden, worunter unter anderem das Sorgeverhältnis der Eltern gegenüber ihren Kindern (siehe dazu Referentenentwurf BMJV zum GgdG S. 71 Abs. 3) sowie die Standortverfolgung eines Unternehmers hinsichtlich seiner eigenen Fahrzeuge fallen sollte. Ebenso sollte nicht bestraft werden, wenn der Täter, wie beispielsweise ein Polizist, aufgrund anderer Regelungen eine Befugnis zur Standortverfolgung hätte haben können, jedoch lediglich verfahrensrechtliche Grundsätze nicht beachtet wurden. Mit einer solchen Definition von Ausnahmen ließe sich die im Entwurf vorgesehene Voraussetzung der Wahrscheinlichkeit eines schweren Schadens auf jene Fälle reduzieren, in denen der Täter keine technischen Maßnahmen zur Standortverfolgung getroffen hat, er also lediglich Daten auswertet, die regelkonform veröffentlicht wurden, und diese in einer zur Aufenthaltsüberwachung führenden Weise aufbereitet.

2. Zivilrecht

Die überwiegende Zahl der Vorschriften des Gesetzes gegen digitale Gewalt zählt zum Zivilrecht.

a) Auskunft und Beweissicherung

Es enthält eine Reihe von Auskunftsansprüchen und Beweissicherungsvorschriften, die die Verfolgung zivilrechtlicher Unterlassungsansprüche erleichtern und verbessern sollen. Der Verletzte kann von der Plattform, über die die strafbare Bildaufnahme verbreitet wurde und vom Internetprovider des Täters die für den Upload verwendeten IP-Daten sowie dessen Personalien (Name, Anschrift, Geburtsdatum und e-Mailadresse) verlangen. Diese Auskunftsansprüche knüpfen an bereits bestehende Regeln in § 21 des Telekommunikations-Digitale-Dienste-Datenschutz-Gesetzes (TDDDG) an. Hinsichtlich der Mitteilung der IP-Daten soll sich eine entscheidende Verbesserung aus dem bereits im Gesetzgebungsverfahren befindlichen Gesetzes zur Einführung einer IP-Adressspeicherung und Weiterentwicklung der Befugnisse zur Datenerhebung im Strafverfahren (BR-Drucks. 263/26) ergeben. Gemäß der darin für § 177 des Telekommunikationsgesetzes entworfenen Regel soll der Internetprovider diese Daten für drei Monate vorhalten müssen.

b) Anwendung bei Verbreitung von Bildern einer Person

Diese zivilrechtlichen Ansprüche sollen nicht nur für die oben bereits erörterten Vorschriften der §§ 184k-E und 201b StGB, sondern für eine Reihe von anderen Straftaten gelten, für die derzeit bereits ähnliche Auskunftsansprüche in § 21 TDDDG geregelt sind. Eine herausstechende Ergänzung zu diesem Vorschriftskatalog sind jedoch die §§ 33 (nebst 22, 23) Kunst-Urhebergesetz und § 42 Bundesdatenschutzgesetz, die im Wesentlichen die Verbreitung eines Bildes einer nicht zur Zeitgeschichte zählenden Person und das unbefugte Verarbeiten von personenbezogenen Daten gegen Entgelt oder in Bereicherungs- oder Schädigungsabsicht betreffen.

c) Keine Anwendung bei unbefugter Überwachung des Standorts

Merkwürdig erscheint, dass der neue Straftatbestand zum unbefugten Überwachen mittels Informations- oder Kommunikationstechnik (§ 202e-E StGB) keine solche Auskunftsansprüche auslösen soll. Das fordert zwar die EU-Richtlinie 2024/1385 nicht. Gleichwohl handelt es sich um ein Delikt, das typischerweise über oder mit Hilfe des Internets begangen wird und für das deshalb in gleicherweise die Möglichkeiten zur Durchsetzung zivilrechtlicher Unterlassungsansprüche bereitgestellt werden sollten, damit das Opfer auch zivilrechtlich in der Lage ist, die damit verbundenen Verletzungen zu beenden.

3. Flankierende Regelungen jenseits des Gesetzentwurfes:

Das eigentliche Ziel von Gesetzgebung ist stets die Prävention; Straftaten sollen gar nicht erst verübt werden. Das GgdG enthält hierzu abgesehen von einer generalpräventiven Wirkung keine expliziten Regelungen; die Prävention findet in anderen Regelungszusammenhängen statt. Sie ist dort noch ausbaufähig.

a) Kennzeichnung von KI-generierten Inhalten

Zunächst ist hier die EU-Verordnung über künstliche Intelligenz (2024/1689) zu nennen, die den Anbieter von KI-Systemen seit dem 2. August 2026 in Artikel 50 Abs. 2 verpflichtet, bei der Erzeugung von synthetischen Audio-, Bild-, Video- oder Textinhalten diese mit einem maschinenlesbaren Kennzeichen zu versehen. Damit soll ein künstlich erzeugtes Bild auch als solches erkannt und ein falscher Eindruck vermieden werden. Es bleibt abzuwarten, ob und wieweit dieser Schutz technisch umgangen und dem wiederum begegnet werden kann.

b) Verbot von Nudifier-Apps

Die wichtigste Änderung zur Prävention von sexualisierten Bildaufnahmen im Sinne des §184k StGB-E dürfte sich aus der kürzlich verkündeten Einigung des EU-Parlaments und des EU-Rats ergeben, sogenannte Nudifier-Apps gänzlich zu verbieten. Hierunter versteht man KI-Systeme, die Material über sexuellen Missbrauch von Kindern oder nicht einvernehmliches intimes Material erstellen. Dies umfasst realistische Darstellungen von intimen Bereichen einer identifizierbaren Person oder Darstellungen dieser Person bei sexuellen Handlungen, ohne dass die betroffenen Personen zugestimmt hätten. Ein solches Verbot wäre ein wichtiger Schritt in diesem Bereich. Ob er von Erfolg gekrönt sein wird und solche Bilder aus dem digitalen Leben verbannt sein werden, wird zunächst davon abhängen, ob Bildmanipulationen wie derzeit nur von den großen Anbietern künstlicher Intelligenz hergestellt werden können. Gegenüber diesen darf angenommen werden, dass das Arsenal an Sanktionsmöglichkeiten genügen wird, welche die Europäische Union beispielsweise im DSA bereithält, um das Gesetz durchzusetzen.

c) Durchsuchung des Internets durch “Trusted Flagger”

“Einmal im Netz, immer im Netz” beschreibt das Phänomen, dass digitale Inhalte sich beliebig leicht und schnell kopieren lassen, dann damit “viral” gehen und Ansprüche auf Löschung sich nicht wirksam durchsetzen lassen. Dies liegt auch daran, dass ein Dienstanbieter im Internet wie etwa eine Social-Media-Plattform nicht dafür haftet, wenn ein Nutzer Inhalte einstellt, solange der Dienstanbieter von der Rechtswidrigkeit des Inhalts keine Kenntnis hat und keine aktive Rolle im Zusammenhang mit dem vom Nutzer eingestellten Inhalt einnimmt (Art. 6 Digital Service Act; vgl. auch EuGH, Urteil vom 22.06.2021 C 682/18). Diese Grundkonstellation ist zwar in den hier angesprochenen Fällen misslich, aber für das Funktionieren des Internets, seiner sozialen Medien sowie für den kommunikativen und Datenaustausch unerlässlich. Das Internet und seine Diensteanbieter könnten ihre Zwecke nicht erfüllen, wenn jede technische Stelle oder auch nur alle Hostinganbieter, die einen Zugriff auf von Nutzern eingestellte Inhalte vermitteln, verpflichtet wären, vor jedem Hochladen eine rechtliche Prüfung über die Inhalte manuell und eigenverantwortlich vorzunehmen.

Und dennoch lässt sich gegen die Persistenz von rechtswidrigen Inhalten im Internet etwas unternehmen. Das bisher sich mitunter als Sisyphusarbeit darstellende Unterfangen, einen rechtswidrigen Inhalt auch nur weitestgehend von einer Vielzahl von Plattformen und Speicherplätzen zu löschen, ergab sich aus dem Umstand, dass für jeden Löschungsvorgang eine manuelle Prüfung erforderlich war, um sodann den Hostinganbieter von einem rechtswidrig bei ihm gespeicherten Inhalt in Kenntnis zu setzen. Dennoch gibt es Organisationen, die sich dieser Arbeit widmen. Aktuell sichten insbesondere “Trusted Flagger” im Sinne von Art. 22 DSA die Inhalte von Online-Plattformen auf rechtswidrige Inhalte und melden solche Funde den Plattformen gemäß Art. 16 DSA, damit diese über eine Löschung gemäß Art. 17 DSA entscheiden. Online-Plattformen haben für den Fall einer unrechtmäßigen Löschung ein internes Beschwerdesystem vorzuhalten (Art. 20 DSA).

Trusted Flagger prüfen das Internet unabhängig davon, ob ein Inhalt bereits einer gerichtlichen Prüfung unterzogen wurde oder nicht. Dementsprechend bedürfen sie eines Statusbescheides einer als Koordinator für digitale Dienste eingesetzten Behörde (in Deutschland die Bundesnetzagentur). Sie sind zu einem sorgfältigen und kompetenten Vorgehen verpflichtet (Art. 22 Abs. 2 DSA) und ihre Tätigkeit unterliegt gemäß Art. 22 Abs. 6 einer kritischen Beobachtung, damit ihre Hinweise nicht zu einer ungewünschten, sprich unrechtmäßigen Zensur führen.

d) Durchsuchung nach anerkannt rechtswidrigen Inhalten durch staatliche Stellen

Der Rechtsstaat sollte noch ein Stück weiter gehen. Wenn ein digitaler Inhalt, insbesondere synthetisch hergestellte Videos, Audiodateien und Texte, bereits einmal in einem Gerichtsverfahren vollstreckbar als rechtswidrig festgestellt wurde, dann sollte es eine staatliche Stelle geben, die automatisiert das Internet auf solche Inhalte auch auf anderen Plattformen durchsucht. Aus einschlägigen Gerichtsverfahren wie der auf Antrag von Dr. Eckard von Hirschhausen vom OLG Frankfurt am Main erlassenen Einstweiligen Verfügung (vom 4. März 2025 16 W 10/25) ist bekannt, dass Plattformen selbst automatisierte Verfahren oft mit Hilfe künstlicher Intelligenz – anwenden (können), um ihren Verpflichtungen aus den Persönlichkeitsrechten anderer nachzukommen. In dem genannten Verfahren wurde dies als eine praktizierte Verfahrensweise beschrieben; in einem Verfahren auf die Klage von Renate Künast wird darüber gestritten, ob Plattformen wie Facebook im Anschluss an eine grundsätzlich mögliche automatische Erkennung von hinreichenden Verdachtsfällen verpflichtet sind, auch eine in der Regel noch erforderliche manuelle Prüfung vorzunehmen (siehe hierzu OLG Frankfurt am Main, Urteil vom 25. Januar 2024 – 16 U 65/22, juris Rn. 49-64; BGH Pressemitteilungen vom 22. und 27. Oktober 2026 zur Sache VI ZR 64/24).

Die Plattformen können damit im Hinblick auf ihnen als rechtswidrig bekannte Video-, Audio- und Textsequenzen ihren eigenen Bestand und die bei ihnen hochgeladenen Inhalte dahingehend prüfen, ob sie identisch oder zumindest so ähnlich sind, dass sie sinngleich sind, also mithin einen gleichen Eindruck vermitteln. Auch wenn diese automatisierten Verfahren die rechtswidrigen Inhalte nicht mit vollständiger Sicherheit zu erkennen vermögen und deshalb im Einzelfall noch eine manuelle Sichtung erforderlich bleibt, ist die Wahrscheinlichkeit durch eine solche Vorfilterung gleichwohl so hoch, dass dieses Verfahren im Einzelfall den Plattformen zumutbar ist und – zumindest in einigen Fällen – von ihnen selbst angewandt wird. In Betracht kommt dabei auch, aufgrund einer auf diese Weise automatisiert erzielten Indikation dem Hochladenden die Frage zu stellen, ob er an die Rechtmäßigkeit des Inhalts noch glaubt. Darauffolgend könnte sich dann ein Beschwerdeverfahren ähnlich den bereits bestehenden Regelungen im Urheberrechts-Dienstanbietergesetz und in Art. 20, 21 des DSA anschließen. Einem Missbrauch kann durch Kostentragungsregelungen vorgebeugt werden, wie dies heute schon Art. 21 Abs. 5 (1) DSA vorsieht.

Der Rechtsstaat sollte selbst solche automatisierten Verfahren nutzen, deren Genauigkeit es rechtfertigt, einen hochgeladenen oder bereits über das Internet verfügbaren digitalen Inhalt einer genaueren Prüfung zu unterziehen. Hierfür sollten in Gerichtsverfahren als rechtswidrig festgestellte Inhalte zum Abgleich verwendet werden. Bei entsprechenden Funden könnten dann auch die Plattformen, die nicht Gegner im Gerichtsverfahren waren, auf den Verdacht der Rechtswidrigkeit hingewiesen werden. Der Hinweis würde dann die Konsequenz einer eigenen Verantwortlichkeit auf Seiten der Plattform begründen und im Falle einer abweichenden Ansicht seitens der Plattform oder des hochladenden Nutzers zu einer Prüfung im Wege eines Beschwerdeverfahrens führen. Wenn eine Plattform die Rechtswidrigkeit eines digitalen Inhalts auch ohne Gerichtsverfahren anerkennt, sollte dies für die staatliche Stelle ebenso Anlass sein, das Internet automatisiert auf sinngleiche Inhalte zu durchforsten.

e) Pflicht zum Abgleich anhand von Hashwerten

Darüber hinaus kann eine entsprechende staatliche Stelle auch Hashwerte für gerichtlich oder plattformseitig anerkannte rechtswidrige Inhalte vorhalten, die andere Plattformen beim Hochladen zu prüfen haben. Bei Hashwerten handelt es sich um eine Art Fingerabdruck, der eine zerhackte und verkürzte digitale Abbildung des Originals darstellt. Errechnet sich aus zwei Ausgangsdateien (z.B. Ton-, Bild- oder Videodateien) derselbe Hashwert, sind sie mit an Sicherheit grenzender Wahrscheinlichkeit identisch. Gleichwohl lässt sich aus einem Hashwert nicht der Inhalt des Originals errechnen.

Eine staatliche Stelle könnte deshalb die Hashwerte von rechtswidrigen digitalen Inhalten ohne weiteres offen verfügbar halten, ohne dass damit der Inhalt weiter verbreitet würde. Daran anknüpfend könnten Plattformen verpflichtet werden, aus hochgeladenen Inhalten die Hashwerte zu bilden und diese auf Übereinstimmung mit den seitens der staatlichen Stelle vorgehaltenen Hashwerte zu vergleichen, die für einen rechtswidrigen digitalen Inhalt stehen. Bei einem positiven Vergleich könnten sich daran die gleichen Folgen anschließen, wie nach einem auf das Original gestützten Hinweis durch einen Trusted Flagger oder seitens einer staatlichen Stelle.

f) Anregung zur Diskussion: V.i.S.d.P. für KI-generierte Inhalte?

Weiterhin wäre es eine Überlegung wert, für das Hochladen von KI-generierten Inhalten im Sinne von Art. 50 Abs. 2 der EU-KI-Verordnung zu verlangen, dass sich eine Person für diesen Inhalt verantwortlich zeichnet und hierfür von der Plattform ihre Identität überprüft wird oder sie ein Pseudonym angibt, welches durch einen Vertrauensdienst überprüft wurde. Ohne an dieser Stelle die bereits geführte Diskussion zu einer Klarnamenpflicht wiederholen zu wollen, ist eine solche Pflicht für echte und originale Beiträge eines Nutzers im Internet wohl nicht empfehlenswert. Diese Pflicht könnte jedoch zu erwägen sein, soweit es sich um von einer künstlichen Intelligenz erstellte Inhalte handelt. Jedenfalls soweit solche Inhalte Bilder, Video- oder Audiosequenzen enthalten, die erkennbar eine Person abbilden oder wiedergeben sollen, könnte die Wahrung der Persönlichkeitsrechte solcher Personen ganz allgemein rechtfertigen, hier ein Handeln in Anonymität oder von Bots auszuschließen. Es könnte diskutiert werden, ob die gegen eine allgemeine Klarnamenpflicht sprechenden Gründe auch oder doch nicht in gleichem Maße für Handlungen zum Verbreiten von KI-generierten Inhalten sprechen.

g) Angabe von Zustellbevollmächtigten mit Zahlungssperren durchsetzen

Ein Problem bleibt, wenn kleinere Unternehmen Anwendungen wie eine Nudifier-App zum Herstellen von sexualisierten Bildaufnahmen insbesondere von Staaten aus anbieten könnten, in denen sie keine Sanktionen seitens der Europäischen Kommission zu befürchten hätten. Wenn diese keinen gesetzlichen Vertreter für den Kontakt mit der EU-Kommission und mit Behörden der Mitgliedsstaaten in der Europäischen Union gemäß Art. 13 DSA benennen, wäre zunächst dieser Pflicht nachzugehen, um sodann die eigentlichen Pflichten zum Bereitstellen von Dienstleistungen im Netz durchzusetzen. Zudem gilt Art. 13 DSA nicht für die förmliche Zustellung gerichtlicher Schriftstücke (vgl. Referentenentwurf zum GgdG, S. 31). Der Entwurf zum Gesetz gegen digitale Gewalt will dem mit einer Pflicht zur Bestellung eines inländischen Zustellungsbevollmächtigten begegnen, wie es sie bereits für soziale Netzwerke gemäß § 5 des Netzwerkdurchsetzungsgesetzes gibt. Große Plattformen sozialer Medien folgen dieser Pflicht, weshalb zu erwarten ist, dass große Plattformen dieser Pflicht auch nach dem Gesetz gegen digitale Gewalt folgen werden, auch wenn dessen Anwendungsbereich weiter geschnitten ist.

Einer Evaluierung zum Netzdurchsetzungsgesetz zur Folge scheinen kleinere Plattformen und Dienstleistungsanbieter der Pflicht zur Stellung eines Zustellungsbevollmächtigten weniger bereitwillig zu folgen. Die aufsichts- und bußgeldrechtliche Verfolgung dieser Pflicht im Wege der internationalen Rechtshilfe sei enorm zeitaufwändig, beschwerlich und binde viele Ressourcen (Eifert, Netzwerkdurchsetzungsgesetz in der Bewährung, S. 140 mit Verweis auf eine Stellungnahme des Bundesamtes für Justiz). Für diese Fälle sollte erwogen werden, jenes Mittel anzuwenden, welches im Kampf gegen unerlaubtes Glücksspiel zur Anwendung kommt. § 9 Abs. 1 Nr. 4 des Glückspielstaatsvertrags der deutschen Bundesländer sieht gegen Anbieter, die gegen die Vorschriften dieses Vertrages verstoßen, eine Untersagung von Zahlungen vor. Infolge einer solchen Zahlungssperre kann Kreditinstituten insbesondere Banken und Kreditkartenunternehmen verboten werden, Zahlungen an konkret bezeichnete Anbieter von unerlaubten Glücksspielen vorzunehmen.

Ein solches Mittel sollte auch zur Durchsetzung von (Ordnungs-)Strafen und Zwangsgeldern im Sinne einer vorbeugenden Beschlagnahme angewendet werden können, wenn im Ausland, insbesondere außerhalb der Europäischen Union, Anbieter auftreten, die ihrer Pflicht zur Benennung von Zustellungsbevollmächtigten nicht nachkommen. Damit könnten zum Beispiel die Anbieter von über das Internet verbotenen Nudifier-Apps und ähnliche KI-Anwendungen vom deutschen und europäischen Markt ferngehalten werden. Die Zahlungsströme könnten angehalten werden, sobald eine entsprechende App ohne Benennung eines Zustellungsbevollmächtigten auftritt und es müsste nicht abgewartet werden, bis ein Gerichtsverfahren rechtskräftig abgeschlossen ist. Die Zahlungsströme würden nur angehalten, solange kein Zustellungsbevollmächtigter benannt ist; nach einer solchen Benennung könnten die angehaltenen Gelder mit Zwangs- und Bußgeldern verrechnet und der Rest freigegeben werden.

4. Fazit

Der Referentenentwurf für ein Gesetz zur Stärkung des zivilrechtlichen und strafrechtlichen Schutzes vor digitaler Gewalt schließt wichtige Strafbarkeitslücken, sorgt für eine richtige Benennung solcher kriminellen Taten und rundet den zivilrechtlichen Schutz an entscheidenden Stellen durch Auskunftsansprüche und Beweissicherung ab.

2026-11-13T14:12:49+01:00
Go to Top