Sachsen Fernsehen geht einen wichtigen Schritt für eine respektvolle Debattenkultur im Netz: Ab sofort arbeiten wir mit dem KI-Startup TrollWall AI zusammen, um Hasskommentare, Beleidigungen und Spam auf unseren Social-Media-Kanälen automatisiert zu moderieren. 

Warum KI-gestützte Moderation notwendig ist

Tägliche Nachrichten aus Dresden, Leipzig, Chemnitz und der gesamten Region erzeugen in unseren Kommentarspalten viel Engagement – leider auch zunehmend toxische Beiträge. Hassrede, persönliche Angriffe und Spam vergiften konstruktive Diskussionen, schrecken Nutzerinnen und Nutzer ab und beschäftigen unser Social-Media-Team oft stundenlang. Eine manuelle Moderation allein reicht bei dem Volumen nicht mehr aus, besonders bei Stoßzeiten und polarisierenden Themen.

Wie TrollWall AI funktioniert

TrollWall AI ist eine europäische SaaS-Lösung mit Sitz in der Slowakei, die seit 2022 Medienhäuser, Marken und Institutionen beim Kampf gegen Online-Hass unterstützt. Die Plattform nutzt speziell trainierte Sprachmodelle, die jeden Kommentar in Echtzeit analysieren und in positive, neutrale oder negative Äußerungen einordnen. Toxische, vulgäre oder hasserfüllte Beiträge werden innerhalb von Sekunden automatisch ausgeblendet – bevor sie Schaden anrichten können. Die KI wird dabei von Muttersprachlerinnen und Muttersprachlern trainiert und versteht regionale Kontexte und sprachliche Nuancen deutlich besser als globale Standardlösungen.

Was das für unsere Community bedeutet

Unsere Leserinnen und Leser profitieren von einer saubereren, sichereren Kommentarumgebung. Wer sich konstruktiv einbringen möchte, soll nicht durch Beleidigungen oder Hassbotschaften vertrieben werden. Gleichzeitig behält unsere Redaktion die volle Kontrolle: TrollWall ersetzt unser Moderationsteam nicht, sondern entlastet es als zusätzliche Schutzschicht. Echte Meinungsvielfalt und kritische Diskussionen bleiben selbstverständlich erhalten – entfernt werden ausschließlich Inhalte, die klar gegen unsere Community-Richtlinien und geltendes Recht verstoßen.

Teil eines wachsenden europäischen Netzwerks

Mit diesem Schritt reiht sich Sachsen Fernsehen in eine wachsende Liste namhafter Organisationen ein, die auf TrollWall AI setzen. Dazu zählen unter anderem das Staatliche Museum Auschwitz-Birkenau, das die Technologie gegen Holocaust-Leugnung und Antisemitismus auf seinen Kanälen einsetzt, sowie der tschechische Spitzenfußballclub AC Sparta Prag, der mit TrollWall etwa jeden fünften toxischen Kommentar automatisch filtert. Weitere Informationen zur Arbeitsweise und zu Referenzen finden sich auf der Website von TrollWall AI sowie in den Fallstudien des Anbieters.

Für Sachsen Fernsehen ist die Partnerschaft ein klares Bekenntnis: Lokaljournalismus lebt vom Dialog – und dieser Dialog muss respektvoll bleiben.