Deepfake melden: Melderouten, Pflichtangaben, Beschwerde

01Was hier steht und was nicht

Welche Straftatbestände und zivilrechtlichen Ansprüche bei einer Fälschung in Deutschland in Betracht kommen, ist gesondert dargestellt in Deepfake löschen lassen. Dieser Beitrag setzt dort an, wo die Einordnung fertig ist und die Meldungen abgesetzt werden müssen.

Die drei Spuren laufen parallel, nicht hintereinander. Jede hat ihren eigenen Zeitraum, und keine ersetzt eine andere.

02Beweissicherung vor der Meldung

Die Dokumentation trägt jede weitere Stufe: Beschwerde, Anzeige, gerichtliches Verfahren, erneute Meldung bei einem Wiederupload. Sie entsteht in wenigen Minuten und lässt sich später nicht nachholen.

Die Erkennbarkeit ist der Kern jeder Meldung. Entscheidend ist, dass Sie auf der Fälschung erkennbar sind, nicht, wie gut sie gemacht ist.

03Melderoute je Dienst

Jeder Dienst führt eigene Eingänge, und der Inhaltstyp entscheidet. Eine Meldung über den falschen Eingang wird ohne inhaltliche Prüfung beendet.

X unterscheidet außerdem, wer melden darf: Aufnahmen aus verdeckter Kamera, Bilder von unten und Beiträge mit Rachetext oder Kontaktdaten kann jede Person melden; bei anderen Inhalten kann eine Meldung durch die betroffene Person oder eine bevollmächtigte Vertretung nötig sein, damit genug Zusammenhang vorliegt.

04Die Pflichtangaben einer Meldung

Artikel 16 der Verordnung (EU) 2022/2065 verpflichtet Hostingdiensteanbieter zu einem leicht zugänglichen elektronischen Meldeverfahren. Absatz 2 nennt vier Angaben, die eine Meldung ermöglichen soll.

1. Eine ausreichend begründete Erläuterung, warum der Inhalt rechtswidrig ist.
2. Die genaue elektronische Fundstelle, in der Regel die exakte Adresse.
3. Name und E-Mail-Adresse der meldenden Person oder Einrichtung.
4. Die Bestätigung, dass die Angaben nach bestem Wissen richtig und vollständig sind.

Nach Absatz 3 begründet eine so gefasste Meldung tatsächliche Kenntnis im Sinne von Artikel 6, wenn ein sorgfältiger Anbieter die Rechtswidrigkeit ohne eingehende rechtliche Prüfung erkennen kann. Nach Absatz 4 bestätigt der Anbieter den Eingang, nach Absatz 5 teilt er seine Entscheidung mit und weist auf Rechtsbehelfe hin. Nach Absatz 6 sind Meldungen zeitnah, sorgfältig, objektiv und nicht willkürlich zu bearbeiten.

05Hash-Sperre bei intimen Darstellungen

StopNCII.org erzeugt auf Ihrem Gerät einen Hash, eine Art digitalen Fingerabdruck, und teilt diesen mit teilnehmenden Plattformen. Nach eigenen Angaben verlassen die Bilder Ihr Gerät nicht und werden dort nicht gespeichert. Für Fotos werden PDQ oder PhotoDNA eingesetzt, für Videos MD5.

• Fälschungen sind nach den Angaben von StopNCII.org erfasst, wenn sie Sie nackt oder halbnackt zeigen.
• Voraussetzung ist, dass die Darstellung Sie zeigt, dass Sie Zugriff darauf haben und dass Sie darauf über 18 Jahre alt sind.
• Eine Einreichung für eine andere Person ist nicht möglich.
• Bearbeitete Fassungen, etwa beschnitten, gefiltert oder gekürzt, erzeugen einen anderen Hash und müssen einzeln eingereicht werden.
• Der Schutz wirkt nur bei teilnehmenden Plattformen, nicht im übrigen Netz, und nicht bei verschlüsselten Nachrichtendiensten.
• Zu den auf der Partnerseite genannten Unternehmen gehören unter anderem Microsoft, OnlyFans, Pornhub, REDGIFS und FetLife.

Die Hash-Technik erkennt bekannte Dateien wieder, sie erkennt keine Personen. Microsoft hält zu PhotoDNA ausdrücklich fest, dass es keine Gesichtserkennung ist, keine Person oder Sache identifizieren kann und dass aus einem Hash das Bild nicht wiederhergestellt werden kann.

06Strafanzeige bei der Polizei

Die Anzeige läuft über die Onlinewache der Landespolizei oder persönlich bei einer Dienststelle. Das Portal von polizei.de führt die Onlinewachen der Polizeien in Deutschland zusammen; die Polizeiarbeit liegt im Wesentlichen bei den Ländern.

• Die Onlinewache ist nach den Angaben des Portals ein zusätzlicher Dienst und nicht in allen Fällen geeignet.
• Für dringende Fälle ist sie nicht vorgesehen; dort gilt die Notrufnummer 110.
• Eine Strafanzeige kann unmittelbar bei einer örtlichen Dienststelle aufgenommen werden; dort wird die Aussage protokolliert und der Vorgang geprüft und gegebenenfalls weitergeleitet.
• Die gesicherten Adressen, Bildschirmaufnahmen und die Fundstellentabelle gehören als Anlage zur Anzeige.

Unabhängig davon verpflichtet Artikel 18 der Verordnung (EU) 2022/2065 Hostingdiensteanbieter, Strafverfolgungs- oder Justizbehörden umgehend zu informieren, wenn sie Kenntnis von Informationen erlangen, die den Verdacht einer Straftat mit Gefahr für Leben oder Sicherheit begründen.

07Die Rolle der Koordinierungsstelle

Die Koordinierungsstelle für digitale Dienste ist nach § 14 DDG in der Bundesnetzagentur mit Sitz in Bonn errichtet. Sie führt nach § 20 DDG eine zentrale Beschwerdestelle und ist der Anlaufpunkt für Beschwerden über Verstöße gegen die Verordnung (EU) 2022/2065.

• Beschwerdeberechtigt sind Nutzerinnen und Nutzer aus Deutschland sowie dazu befugte Einrichtungen.
• Nach der Einreichung ergeht eine Eingangsbestätigung und anschließend eine Bestätigung mit Aktenzeichen.
• Ist eine andere Behörde zuständig, wird die Beschwerde weitergeleitet; Sie werden darüber informiert.
• Die Stelle kann rechtswidrige Inhalte nicht selbst löschen oder sperren; die Meldung bei der Plattform bleibt der erste Schritt.
• Bei strafbaren Inhalten ist zusätzlich die Polizei einzuschalten.

Nach § 13 DDG ist zudem die Meldung des Verdachts auf Straftaten nach Artikel 18 der Verordnung an das Bundeskriminalamt geregelt. Für Unternehmen führt das Bundeskriminalamt daneben die Zentrale Ansprechstelle Cybercrime als Vermittlungs- und Beratungsstelle.

08Beschwerde und Streitbeilegung

Eine Ablehnung ist nicht das Ende des Verfahrens, sondern der Beginn der zweiten Stufe. Beide Stufen sind für die meldende Person ausdrücklich eröffnet.

In deutscher Sprache zertifizierte Streitbeilegungsstellen nennt die Bundesnetzagentur unter anderem User Rights GmbH in Berlin und Platform Control. Die Begründungen, mit denen Plattformen ihre Entscheidungen erklären, sind in der DSA-Transparenzdatenbank der Europäischen Kommission öffentlich abrufbar.

09Wenn der Inhalt wieder auftaucht

Bei Fälschungen ist der Wiederupload der Regelfall, nicht die Ausnahme. Deshalb endet die Arbeit nicht mit der ersten Löschung.

1. Jede neue Fundstelle als eigene Meldung mit eigener Adresse einreichen, unter Verweis auf die frühere Entscheidung.
2. Die frühere Entscheidung samt Datum beilegen; sie erleichtert die Einordnung erheblich.
3. Bearbeitete Fassungen gesondert für die Hash-Sperre einreichen, weil der Hash sich ändert.
4. Wiederkehrende Konten benennen: nach Artikel 23 setzen Plattformen die Dienste nach vorheriger Warnung für eine angemessene Zeit aus, wenn häufig offensichtlich rechtswidrige Inhalte bereitgestellt werden.
5. Die Trefferlisten der Suchdienste gesondert bearbeiten, wie in Treffer bei Bing, Ecosia und anderen Suchdiensten entfernen beschrieben.

Wie sich alle vorhandenen Kopien überhaupt auffinden lassen, ist in Alle Kopien finden dargestellt.

10Häufige Ablehnungsgründe

Die meisten Ablehnungen haben formale Ursachen. Sie lassen sich vor dem Absenden vermeiden.

• Gemeldet wurde die Profil- oder Übersichtsseite statt der exakten Adresse des Inhalts.
• Es fehlt die Begründung, warum der Inhalt rechtswidrig ist, nicht nur, dass er unzutreffend ist.
• Die Erkennbarkeit wird nicht dargelegt, obwohl sie die Voraussetzung ist.
• Der falsche Eingang wurde benutzt, etwa ein Urheberrechtsformular für eine Persönlichkeitsverletzung.
• Mehrere Inhalte wurden in einer Meldung zusammengefasst, ohne jede Adresse einzeln zu benennen.
• Nach der Ablehnung wurde die Beschwerde nach Artikel 20 nicht eingelegt.

11Zeitplan der ersten Woche

Ein praktikabler Ablauf, der die drei Spuren parallel führt und keine Frist verfallen lässt.

Jeder Schritt wird mit Datum festgehalten. Ohne diese Daten lässt sich später nicht zeigen, ab wann der Anbieter Kenntnis hatte, und genau darauf kommt es bei der Haftungsfrage an.