Der Fall Collien Fernandes hat die Debatte über sexualisierte Deepfakes und digitalen Missbrauch neu angeheizt. Auch in Dresden wird das Thema intensiv beobachtet. Dr. Philipp Lorenz-Spreen von der TU Dresden sagt, dass KI-generierte Videos, Bilder und Audiodateien immer realistischer werden. Klassische Hinweise auf Fälschungen seien immer seltener zuverlässig. Entscheidend sei deshalb zunehmend der Kontext: Wer hat Inhalte veröffentlicht, woher stammen sie und wie werden sie von anderen eingeordnet?

Gleichzeitig sinken die technischen Hürden deutlich. Nach Einschätzung des Dresdner Forschers lassen sich täuschend echte Inhalte heute mit wenig Aufwand und ohne besonderes Fachwissen erstellen. Wie groß das Problem tatsächlich ist, lasse sich aber kaum seriös beziffern, weil Plattformen wenig Einblick geben und die Grenzen zwischen generierten, manipulierten und veränderten Inhalten verschwimmen. Auch politisch wächst der Druck: Im Sächsischen Landtag wird über strengere Regeln gegen sexualisierte Deepfakes diskutiert.