Darf meine Einrichtung KI-Tools einsetzen? Stefan hat keine Ahnung – und das ist ein Problem

Der Aufhänger: Stefans überraschende Vorstandssitzung

Stefan ist Geschäftsführer eines Trägers mit drei Einrichtungen der Eingliederungshilfe. 85 Mitarbeitende, 420 Klientinnen und Klienten, ein Jahresbudget im zweistelligen Millionenbereich. Auf der letzten Vorstandssitzung fragte eine Vorständin: "Wir haben eine Anfrage bekommen, ob wir KI-gestützte Dokumentation testen wollen. Was haltet ihr davon?" Stefan hatte keine Antwort. Er wusste nicht einmal, welche KI-Tools gemeint waren.

Zurück im Büro, recherchierte er. Schnell wurde ihm klar: Die Fragen, die seine Vorständin gestellt hatte, berührten alles – Datenschutz, Haftung, ethische Standards, Arbeitsrechte, Klientenschutz. "Wir können doch nicht einfach irgendwas einführen", dachte er. "Aber wir können uns auch nicht ewig dagegen sperren."

Was Stefan erlebte, ist kein Einzelfall. In Vorstandsetagen und Geschäftsführungen sozialer Träger wird die Frage nach KI derzeit meistens verdrängt – entweder aus Unwissenheit oder aus der Hoffnung, dass das Problem von allein verschwindet. Es verschwindet nicht.

Die pädagogische Analyse: Warum KI in der Sozialen Arbeit mehr ist als ein Technik-Thema

Künstliche Intelligenz in der Sozialen Arbeit ist keine neutrale Technologie-Entscheidung. Sie berührt das Kerngeschäft: die professionelle Beziehung zu Menschen in schwierigen Lebenslagen.

Wer trägt die Verantwortung? Wenn ein KI-Tool eine Gefährdungseinschätzung falsch berechnet, wer haftet dann? Die Fachkraft, die das Tool genutzt hat? Die Einrichtung, die es angeschafft hat? Der Tool-Anbieter? Diese Fragen sind in der Sozialen Arbeit besonders heikel, weil unsere Entscheidungen unmittelbare Auswirkungen auf das Leben von Menschen haben – Kinder, die in Pflegefamilien kommen sollen, Menschen mit Behinderung, die assistive Technologien nutzen, Familien in Krisensituationen.

Was passiert mit den Daten? Viele KI-Tools arbeiten cloudbasiert und verarbeiten sensible Klientendaten auf Servern außerhalb Europas. Selbst wenn ein Tool "nur" Textvorschläge macht, lernt es aus diesen Daten. Das kann datenschutzrechtlich problematisch sein – besonders bei vulnerablen Zielgruppen.

Welche Werte stecken in den Algorithmen? KI-Systeme sind nicht neutral. Sie spiegeln die Daten wider, mit denen sie trainiert wurden. In der Sozialen Arbeit, wo wir für Chancengleichheit und Gerechtigkeit arbeiten, ist das eine fundamentale Frage: Wenn ein KI-Tool Entscheidungen trifft oder unterstützt – welche Vorurteile schleicht es ein?

Stefan wurde bei seiner Recherche klar: Es geht nicht darum, ob KI gut oder böse ist. Es geht darum, ob wir als Träger in der Lage sind, den Einsatz solcher Tools fachlich zu begleiten, datenschutzkonform zu gestalten und jederzeit die Kontrolle zu behalten.

Der Fachliche Einordnung: Erst denken, dann einführen

Stefan hat sich nach seiner Recherche auf einen einfachen Grundsatz geeinigt: Keineblackbox-KI in der Klientenarbeit. Konkret heißt das:

Bevor ein KI-Tool eingesetzt wird, braucht es eine klare Checkliste:

1. Zweck klären: Welches Problem soll das Tool lösen? Ist es ein echtes Problem oder nur Bequemlichkeit?
2. Datenschutz prüfen: Werden Klientendaten verarbeitet? Wenn ja, wo? Gibt es einen AVV? Ist die Verarbeitung DSGVO-konform?
3. Haftung klären: Wer haftet, wenn das Tool falsche Empfehlungen gibt? Gibt es eine Dienstvereinbarung mit dem Betriebsrat?
4. Transparenz sicherstellen: Kann die Fachkraft die KI-Entscheidung nachvollziehen und überschreiben? Oder ist es eine Blackbox?
5. Evaluation planen: Wie werden wir nach sechs Monaten prüfen, ob das Tool wirklich hilft – oder nur Arbeit spart, aber Qualität abbaut?

Open-Source-KI als Alternative: Stefan hat gelernt, dass es KI-Tools gibt, die auf eigenen Servern laufen, deren Code offen ist und die keine Klientendaten in die USA senden. Lokale Sprachmodelle, die auf der eigenen Infrastruktur laufen, sind eine Option für Träger, die KI nutzen wollen, ohne die Hoheit über ihre Daten zu verlieren.

Der Praxis-Quickie: Stefans erste fünf Fragen

Stefan hat sich angewöhnt, bei jeder KI-Anfrage erst fünf Fragen zu stellen – bevor er überhaupt über eine Einführung nachdenkt:

1. Werden Klientendaten verarbeitet?
2. Wer hat Zugang zu den Daten (auch außerhalb der Einrichtung)?
3. Kann eine Fachkraft die KI-Entscheidung verstehen und überschreiben?
4. Gibt es eine klare Haftungsregelung?
5. Wie wird das Tool regelmäßig auf Diskriminierungspotenzial geprüft?

Wenn eine dieser Fragen nicht zufriedenstellend beantwortet werden kann, sagt Stefan erstmal Nein. "Das ist kein Zeichen von Innovationsfeindlichkeit", erklärt er seinem Vorstand. "Das ist professionelle Sorgfalt."

Euer Praxis-Quickie: Wenn euch demnächst ein KI-Tool vorgeschlagen wird, stellt diese fünf Fragen – nicht um das Tool zu torpedieren, sondern um sicherzustellen, dass es euren fachlichen und rechtlichen Standards entspricht. Sorgfalt ist keine Schwäche, sie ist Professionalität.

Weiterführender Hinweis

Wenn ihr als Träger oder Einrichtung vor der Frage steht, ob und wie ihr KI-Tools verantwortungsvoll einsetzen könnt, bietet das Digitale Dorf Orientierungsworkshops speziell für Führungskräfte sozialer Organisationen an – ohne Buzzwords, ohne Verkauf, mit dem Fokus auf das, was wirklich hilft.

👉 Zum Digitalen Dorf

Quellen: