Anna sitzt an ihrem Schreibtisch in der Beratungsstelle, als das Telefon klingelt. Am anderen Ende ist Frau Meier – eine ihrer Klientinnen. Die Stimme zittert. „Anna, jemand hat ein Video von mir ins Netz gestellt. Ein Video, das ich nie gemacht habe.“ Anna spürt, wie sich ihr Magen zusammenzieht. Sie hat schon von Deepfakes gehört, aber jetzt, in diesem Moment, weiß sie nicht, was sie sagen soll. Wie soll sie helfen, wenn sie selbst nicht beurteilen kann, was echt ist und was nicht?
Frau Meier ist nicht allein. Täglich erreichen Beratungsstellen Anrufe von Menschen, die Opfer von KI-gestütztem Betrug geworden sind – und die Fachkräfte stehen oft genauso ratlos da wie ihre Klientinnen und Klienten. Was passiert, wenn die Technologie schneller ist als das Wissen darüber, wie man sich schützt?
Wenn das Video lügt – KI-Betrug als neue Realität
Künstliche Intelligenz kann mittlerweile Gesichter stimmgleich kopieren, Videos erzeugen, die nie stattgefunden haben, und Stimmen imitieren, die das Gegenüber nie gesprochen hat. Deepfakes – also mit KI erzeugte oder manipulierte Medieninhalte – sind längst keine Zukunftsmusik mehr. Sie sind Alltag in der Beratungspraxis.
Eine aktuelle Sonderauswertung des Cybersicherheitsmonitors zeigt nun eine beunruhigende Entwicklung: Deutsche überschätzen ihre Fähigkeit, Deepfakes zu entlarven. Die Mehrheit der Befragten glaubt, manipulierte Bilder und Videos zuverlässig erkennen zu können – doch in Tests scheitern sie regelmäßig. Diese Diskrepanz zwischen Selbstwahrnehmung und tatsächlicher Kompetenz ist gefährlich. Wer meint, Deepfakes zu durchschauen, unternimmt weniger dagegen – und wird so zum leichten Opfer.
Für Beratungsstellen bedeutet das: Die Klientinnen und Klienten kommen nicht nur mit dem Problem der Manipulation selbst, sondern auch mit einem falschen Sicherheitsgefühl, das sie verwundbar macht. Die Fachkräfte wiederum fühlen sich oft überfordert, weil ihnen das Handwerkszeug fehlt, um KI-Betrug überhaupt einzuordnen.
Drei Schritte für die Praxis: Erkennen, Absichern, Beraten
Was kann Anna tun? Was können Beratungsstellen konkret tun, um auf KI-Betrug vorbereitet zu sein? Hier sind drei Schritte, die sofort umsetzbar sind:
1. Erkennen: Merkmale von Deepfakes kennen
Niemand erwartet von Sozialarbeiterinnen, dass sie Forensik-Experten werden. Aber es gibt Merkmale, auf die man achten kann: unnatürliche Bewegungen im Gesicht, verschwommene Übergänge an den Haarlinien, asynchrone Lippenbewegungen oder ungewöhnliche Beleuchtung. Wichtiger noch als technische Details ist die Grundhaltung: Zweifel ist vernünftig. Wenn ein Video oder ein Anruf ungewöhnlich wirkt, sollte das misstrauisch machen. In der Beratung heißt das: Klientinnen ermutigen, auf ihr Bauchgefühl zu hören, anstatt vorschnell zu glauben, was sie sehen.
2. Absichern: Praktische Maßnahmen ergreifen
Wenn ein Deepfake bereits im Umlauf ist, zählt schnelles Handeln. Diese Maßnahmen helfen in der Akutsituation:
- Plattformkontakt aufnehmen: Fast alle sozialen Netzwerke haben Meldefunktionen für manipulierte Inhalte. Diese nutzen.
- Beweise sichern: Screenshots mit Zeitstempel machen, URLs notieren, bevor Inhalte gelöscht werden.
- Polizeiliche Anzeige: KI-basierte Erpressung und Verleumdung sind Straftatbestände. Betroffene ermutigen, Anzeige zu erstatten.
- Kommunikation klären: Den eigenen Kontakten mitteilen, dass das Material manipuliert ist. Transparenz entzieht den Erpressern die Macht.
Für Beratungsstellen selbst gilt: Eigene digitale Kommunikation absichern. Verschlüsselte Kanäle nutzen, Zwei-Faktor-Authentifizierung aktivieren, sensible Daten nicht über ungesicherte Messenger austauschen.
3. Beraten: Das Gespräch über digitale Gefährdungen führen
Die wichtigste Kompetenz in der Beratung bei KI-Betrug ist nicht technischer Natur. Es geht darum, den Raum für das Gespräch zu öffnen. Viele Betroffene schämen sich, weil sie glauben, sie hätten selbst etwas falsch gemacht. Anna muss Frau Meier vermitteln: Du bist nicht schuld. Das ist KI-Betrug, und es gibt Wege, damit umzugehen.
In der Praxis bedeutet das:
- Enttabuisierung: Offen über Deepfakes und digitale Erpressung sprechen, auch in Team-Sitzungen und Supervision.
- Informationsmaterial: Checklisten und Leitfäden bereithalten, die Klientinnen mitnehmen können.
- Netzwerk aufbauen: Kontakte zu Cybercrime-Beauftragten der Polizei und zu digitalen Beratungsangeboten knüpfen, bevor der Notfall eintritt.
- Prävention: Medienkompetenz als festes Thema in der Beratung verankern – nicht erst, wenn etwas passiert ist.
Digitale Souveränität heißt auch, KI-Gefahren zu verstehen
Die Debatte um digitale Souveränität dreht sich oft um Datenhoheit und Plattformunabhängigkeit. Das ist wichtig – aber es ist nur die halbe Miete. Wahre digitale Souveränität bedeutet auch, die Gefahren zu verstehen, die von KI-Systemen ausgehen. Es bedeutet, zwischen echter und manipulierter Kommunikation unterscheiden zu können und zu wissen, wie man sich wehrt, wenn man ins Visier gerät.
Frankreich zeigt, wie eine Strategie für digitale Souveränität aussehen kann, die sowohl Infrastruktur als auch Kompetenzen der Bürgerinnen und Bürger umfasst. Auch hierzulande wird deutlich: Das Fediverse wächst als dezentrale Alternative – aber technische Dezentralität allein schützt nicht vor KI-Betrug. Es braucht das Wissen, die Werkzeuge und die Räume, in denen Menschen sich austauschen und absichern können.
Du musst das nicht allein lösen
Wenn du in der Beratung mit digitalen Gefährdungen konfrontiert bist – du musst das nicht allein lösen. Der Umgang mit KI-Betrug und Deepfakes ist eine neue Herausforderung für alle Beratungsstellen, und es ist richtig, sich Unterstützung zu holen. Bei ZenDiT gibt es Unterstützung für den Aufbau geschützter digitaler Räume: ZenDiT Selbsthilfe – Geschützte Räume für Gruppen. Geschützte Räume bedeuten hier: Vertraulichkeit in der Kommunikation, Sicherheit für sensible Daten und eine Plattform, die nicht auf Ausbeutung der Nutzerdaten aufbaut.
Für Beratungsstellen, die ihre digitale Kommunikation professionell absichern wollen, zeigt das Digitales Beratungsbüro, wie das geht – von verschlüsselter Kommunikation über sichere Datenhaltung bis hin zu digitalen Beratungskonzepten.
Beide Angebote verstehen die konkreten Herausforderungen in der Sozialen Arbeit und bieten praktische Lösungen, die sich in den Arbeitsalltag integrieren lassen.
Quellen:
[1] KI-Betrug: Deutsche überschätzen ihre Fähigkeit, Deepfakes zu entlarven – heise online: https://www.heise.de/news/KI-Betrug-Deutsche-ueberschaetzen-ihre-Faehigkeit-Deepfakes-zu-entlarven-11255536.html
[2] Frankreichs Strategie zur digitalen Souveränität – heise social: https://social.heise.de/@iX_Magazin/116397161878453225
[3] Wachstum des Fediverse – Libera: https://libera.site/item/53192c40-7ca9-4cc0-bfa5-55b243f4008b
