Vor einigen Wochen habe ich auf meinem Blog geschrieben, dass die größte Hürde für künstliche Intelligenz in der Sozialen Arbeit nicht die Technik ist, sondern die Angst. Heute setze ich einen Schritt weiter und nehme mir den Punkt vor, an dem diese Angst am berechtigtsten ist: den Umgang mit Daten. Meine These lautet, dass Datenhoheit in der Kinder- und Jugendhilfe kein technisches Detail ist, sondern ein Teil des Kinderschutzes. Wer die Daten von Kindern und Familien aus der Hand gibt, gibt einen Teil ihres Schutzes aus der Hand.
Zunächst der Grund, warum dieses Feld besonders ist. Die Kinder- und Jugendhilfe arbeitet mit den sensibelsten Daten, die es gibt. Es geht um Gefährdungseinschätzungen, um Gesundheitsdaten, um familiäre Konflikte, um Gewalt, um Diagnosen. Es geht um Informationen, deren Offenlegung ein Kind oder eine Familie ein Leben lang belasten kann. Der Gesetzgeber hat diesen Daten deshalb einen besonderen Schutz gegeben. Die Datenschutz-Grundverordnung zählt Gesundheitsdaten und Daten über das Sexualleben zu den besonderen Kategorien personenbezogener Daten, deren Verarbeitung nur unter engen Voraussetzungen zulässig ist. Der Sozialdatenschutz im SGB VIII und im SGB I schützt anvertraute Sozialdaten zusätzlich. Und § 203 StGB stellt die Verletzung von Privatgeheimnissen durch Berufsgeheimnisträger unter Strafe. Diese Vorschriften sind kein bürokratisches Beiwerk. Sie sind die rechtliche Übersetzung eines einfachen Gedankens: Was ein Kind oder eine Familie einer Fachkraft anvertraut, gehört ihnen, nicht der Fachkraft und erst recht nicht einem Dritten.
Genau hier liegt das Problem der gängigen KI-Angebote. Die meisten großen Sprachmodelle laufen auf Servern von Konzernen, häufig außerhalb der Europäischen Union. Wer sie nutzt, schickt seine Eingaben dorthin. Fließen dabei personenbezogene oder gar besondere Daten in das System, verlassen sie den geschützten Raum der Einrichtung und gelangen zu einem Anbieter, dessen Umgang mit ihnen sich der Kontrolle der Fachkraft entzieht. Für die Kinder- und Jugendhilfe ist das keine Option. Eine Gefährdungseinschätzung in ein öffentliches KI-System zu tippen, ist kein Effizienzgewinn, es ist ein Datenschutzverstoß mit möglichen strafrechtlichen Folgen. Die Sorge der Fachkräfte um den Datenschutz ist deshalb nicht rückständig, sie ist fachlich richtig.
Aus dieser Lage folgt kein Verzicht auf KI, sondern eine Anforderung an ihre Architektur. Die Antwort heißt Datenhoheit. Gemeint ist, dass die Daten den Verfügungsbereich der Einrichtung nicht verlassen. Technisch ist das möglich. Es gibt Sprachmodelle, die lokal betrieben werden können, auf eigener Hardware, im eigenen Netz, ohne Verbindung zu einem externen Anbieter. Die Verarbeitung findet dann dort statt, wo auch die Verantwortung liegt. Datenhoheit heißt nicht, KI zu meiden, sondern sie so zu betreiben, dass sie mit dem Schutzauftrag vereinbar ist. Der Unterschied liegt nicht in der Funktion, sondern im Ort der Verarbeitung, und dieser Ort entscheidet über die Rechtmäßigkeit.
Ich halte das für den entscheidenden Punkt, wenn KI in dieses Feld kommen soll. Nicht die Frage, was ein System kann, ist zuerst zu klären, sondern die Frage, wo die Daten liegen. Ein System, das eine Fachkraft entlastet, aber ihre Schweigepflicht bricht, ist wertlos. Ein System, das weniger kann, aber die Daten im Haus behält, ist brauchbar. Datenschutz ist hier keine Bremse für Innovation, er ist die Bedingung, unter der Innovation in diesem Feld überhaupt zulässig ist. Wer das umdreht und den Datenschutz als Hindernis behandelt, hat den Auftrag der Kinder- und Jugendhilfe nicht verstanden.
Es gibt noch eine zweite Grenze, die ich benennen will, weil sie zur Subjektstellung dieser Reihe gehört. KI ersetzt weder die Beziehung noch die fachliche Einschätzung. Die Entscheidung über das Wohl eines Kindes gehört der Fachkraft, nicht dem System. Eine KI kann Texte ordnen, Informationen zusammenfassen, Routinen abnehmen. Sie kann nicht die Verantwortung übernehmen, ein Kind zu verstehen, seine Signale zu deuten und in seinem Sinne zu handeln. Wo eine KI beginnt, über Menschen zu urteilen, verlässt sie den Bereich, in dem sie helfen kann, und betritt einen, in dem sie schadet. Die Subjektstellung des Kindes verlangt, dass am Ende ein Mensch entscheidet, der dem Kind gegenübersteht und für seine Entscheidung einsteht.
Ich sehe in der lokal betriebenen, datensouveränen KI deshalb eine doppelte Chance. Sie kann Fachkräfte von Arbeit entlasten, die sie ohnehin nicht gern tun, von Dokumentation, von Formulierung, von Verwaltung, und ihnen dadurch Zeit für das zurückgeben, worauf es ankommt: die Beziehung zum Kind. Und sie kann das tun, ohne den Schutz zu opfern, der diesem Feld anvertraut ist. Beides zusammen ist der Maßstab. Eine KI, die entlastet und die Daten schützt, ist ein Gewinn. Eine KI, die entlastet und die Daten preisgibt, ist ein Risiko im Gewand des Fortschritts.
Das heißt nicht, dass jede Nutzung riskant wäre. Vieles lässt sich sicher gestalten, wenn man es bewusst tut. Eine KI kann bei der Formulierung eines allgemeinen Textes helfen, ohne dass ein einziger Klarname sie erreicht. Wer mit sensiblen Fällen arbeitet, kann Daten vor der Eingabe pseudonymisieren, sodass die Person nicht erkennbar ist. Und wo eine externe Verarbeitung unumgänglich ist, verlangt das Datenschutzrecht klare Bedingungen, einen Auftragsverarbeitungsvertrag und, bei hohem Risiko, eine Datenschutz-Folgenabschätzung. Diese Sorgfalt ist keine Schikane, sie ist die Übersetzung der Schweigepflicht in die digitale Arbeit. Die eigentliche Weichenstellung bleibt aber die Architektur. Ein lokal betriebenes System nimmt der Fachkraft die ständige Abwägung ab, weil die Daten das Haus gar nicht erst verlassen. Sicherheit, die in die Technik eingebaut ist, verlangt weniger Wachsamkeit im Einzelfall als Sicherheit, die von jeder einzelnen Eingabe abhängt.
Datenhoheit ist deshalb kein IT-Thema für Fachleute im Hintergrund. Sie ist Kinderschutz mit anderen Mitteln. Wer über KI in der Kinder- und Jugendhilfe spricht, sollte mit der Frage nach den Daten beginnen, nicht mit der Frage nach den Funktionen. Denn die Daten von Kindern und Familien sind kein Rohstoff. Sie sind ein anvertrautes Gut, und sie im Haus zu behalten ist Teil dessen, was wir diesen Kindern schulden.
Quellen
- Datenschutz-Grundverordnung (DSGVO), Artikel 9, Verarbeitung besonderer Kategorien personenbezogener Daten.
- § 203 StGB, Verletzung von Privatgeheimnissen
- § 62 SGB VIII, Datenerhebung, und § 64 SGB VIII, Datenverwendung im Sozialdatenschutz
- § 35 SGB I, Sozialgeheimnis