Das MENSCH-Prinzip: KI sicher in sozialen Institutionen einsetzen

Künstliche Intelligenz kann E-Mails formulieren, Texte vereinfachen, Sitzungen strukturieren, Informationen zusammenfassen und Ideen für den pädagogischen Alltag liefern. Das klingt nach willkommener Entlastung – gerade in einem Arbeitsfeld, in dem Zeit für Beziehungsarbeit oft knapp ist.

Gleichzeitig stellen sich berechtigte Fragen: Darf ich einen Fallbericht von einem Chatbot überarbeiten lassen? Kann ich ein Gespräch automatisch transkribieren? Was passiert mit den eingegebenen Daten? Und wie erkenne ich, ob eine Antwort fachlich korrekt oder nur überzeugend formuliert ist?

Diese Unsicherheit ist kein Zeichen mangelnder Offenheit. Sie ist Ausdruck professioneller Verantwortung.

KI darf Fachpersonen unterstützen. Die Verantwortung für Einschätzungen, Beziehungen und Entscheidungen bleibt immer beim Menschen.

KI ist bereits da – auch ohne institutionelle Strategie

In vielen Teams werden KI-Werkzeuge längst ausprobiert: über private Accounts, kostenlose Übersetzungstools oder Chatbots auf dem persönlichen Smartphone. Ein vollständiges Verbot verhindert diese Nutzung selten. Es verlagert sie eher in einen ungeregelten Bereich.

Soziale Institutionen brauchen deshalb verständliche Leitlinien, freigegebene Werkzeuge, Schulung und Raum für Fragen. Erfahrungen aus der Schweizer Sozialen Arbeit zeigen: KI kann bei Textarbeit, Informationsaufbereitung und Strukturierung unterstützen, ersetzt aber weder professionelles Kontextverständnis noch Beziehungsarbeit und fachliche Einschätzung.

Auch rechtlich bewegen wir uns nicht in einem freien Raum. Stand Juli 2026 gibt es in der Schweiz zwar noch keine übergreifende Gesetzgebung speziell für KI. Laut Bundeskanzlei soll bis Ende 2026 eine Vernehmlassungsvorlage vorliegen. Das bestehende Datenschutzgesetz gilt jedoch bereits heute direkt für KI-gestützte Datenbearbeitungen, wie der Eidgenössische Datenschutz- und Öffentlichkeitsbeauftragte festhält.

Was KI gut kann – und was nicht

Generative KI ist besonders gut darin, Sprache und bestehende Informationen zu bearbeiten. Sinnvolle Aufgaben sind beispielsweise:

• aus Stichworten einen ersten Textentwurf erstellen,

• komplizierte Texte verständlicher formulieren,

• mögliche Strukturen für einen Bericht vorschlagen,

• veröffentlichte Dokumente zusammenfassen,

• Varianten für eine Aktivität oder einen Workshop entwickeln,

• Fragen für eine Teamsitzung oder Fallreflexion vorbereiten.

KI weiss jedoch nicht, ob eine Aussage wahr ist. Sie berechnet sprachlich passende Antworten. Dadurch kann sie Informationen erfinden, Zusammenhänge falsch darstellen oder Unsicherheiten verschweigen. Im Sozialbereich ist das besonders relevant: Ein überzeugend formulierter Fehler in einem Fallbericht kann schwerwiegender sein als ein offensichtlicher Tippfehler.

Ein Schweizer Praxisprojekt zur KI-gestützten Berichterstellung kam 2025 zum Schluss, dass KI vor allem bei Strukturierung und Formulierung helfen kann. Ein fachlich valider Bericht benötigt weiterhin eine umfassende menschliche Prüfung.

Das MENSCH-Prinzip für soziale Institutionen

Ein verantwortungsvoller Umgang mit KI lässt sich mit sechs einfachen Grundsätzen zusammenfassen.

M – Mensch entscheidet

KI darf Vorschläge liefern, aber keine professionelle Verantwortung übernehmen. Entscheidungen über Leistungen, Platzierungen, Fördermassnahmen, Gefährdung, Sanktionen, Diagnosen oder Betreuungsintensität dürfen nicht unkritisch an ein technisches System delegiert werden. Auch ein KI-Vorschlag kann die Wahrnehmung einer Fachperson beeinflussen, selbst wenn formal weiterhin ein Mensch entscheidet.

Praxisregel: Je grösser die mögliche Auswirkung auf das Leben einer Person, desto kleiner darf die Rolle der KI sein.

E – Eingaben begrenzen

Viele Dossiers enthalten besonders schützenswerte Personendaten: etwa Angaben zu Gesundheit und Intimsphäre, religiösen oder politischen Ansichten, administrativen oder strafrechtlichen Verfahren sowie Massnahmen der sozialen Hilfe. Solche Informationen gehören nicht in frei zugängliche oder nicht freigegebene KI-Werkzeuge.

Auch scheinbare Anonymisierung reicht häufig nicht. Aus der Kombination von Alter, Wohnort, Familienkonstellation, Institution, Diagnose und einem besonderen Ereignis kann eine Person weiterhin erkennbar sein. Wo reale Fälle nicht erforderlich sind, sollten synthetische oder deutlich verfremdete Beispiele verwendet werden.

N – Nachprüfen statt übernehmen

Jedes KI-Ergebnis ist ein Entwurf. Vor der Verwendung müssen mindestens folgende Fragen beantwortet werden:

• Sind Namen, Zahlen, Daten und Zitate korrekt?

• Hat die KI Informationen ergänzt, die nicht eingegeben wurden?

• Sind die Aussagen nachvollziehbar und fachlich begründet?

• Ist die Formulierung respektvoll und nicht stigmatisierend?

• Entspricht der Text den Dokumentationsstandards der Institution?

• Könnte die Formulierung bei einer Akteneinsicht erklärt und vertreten werden?

Besondere Vorsicht ist bei Gesetzen, medizinischen Informationen, Krisensituationen und kantonalen Zuständigkeiten nötig. KI kann eine erste Orientierung geben, ersetzt aber keine verlässliche Primärquelle.

S – Schutz organisatorisch sicherstellen

Datenschutz darf nicht an einzelne Mitarbeitende delegiert werden. Die Institution muss festlegen, welche Anwendungen für welche Zwecke freigegeben sind, welche Datenkategorien eingegeben werden dürfen und wie lange Inhalte gespeichert werden. Ebenso wichtig sind Verarbeitungsorte, Unterauftragnehmer, Rollen, Mehrfaktor-Authentifizierung, Protokollierung, Löschung und der Ablauf bei einem Datenschutzvorfall.

Bei Cloud-Diensten bleibt die Institution für die rechtmässige Datenbearbeitung verantwortlich. Der EDÖB verlangt, Auftragsbearbeitung vertraglich abzusichern und mögliche Datenbekanntgaben ins Ausland zu prüfen. Schweizer Hosting kann ein wichtiges Kriterium sein, genügt allein aber nicht: Eigentumsverhältnisse, Supportzugriffe, Unterauftragnehmer, anwendbare Rechtsordnungen und technische Konfigurationen bleiben relevant.

Bei einem hohen Risiko für Persönlichkeit oder Grundrechte kann eine Datenschutz-Folgenabschätzung erforderlich sein. Öffentliche Institutionen müssen zusätzlich das kantonale Datenschutzrecht und ihre gesetzliche Grundlage prüfen. Das Merkblatt des Kantons Zürich bietet dafür eine hilfreiche Orientierung.

Dieser Beitrag ersetzt keine Rechtsberatung. Institutionen mit öffentlichem Auftrag, Gesundheitsdaten, Aufgaben im Kindes- und Erwachsenenschutz oder besonderen Geheimhaltungspflichten sollten jeden konkreten Anwendungsfall vor der Einführung mit ihrer zuständigen Datenschutz- und Fachstelle prüfen. Entscheidend ist nicht nur, ob ein Werkzeug grundsätzlich eingesetzt werden darf, sondern ob Zweck, Datenumfang, Zuständigkeiten und Schutzmassnahmen für genau diese Nutzung tragfähig geregelt sind.

C – Chancengerechtigkeit prüfen

KI-Systeme übernehmen Muster aus ihren Trainingsdaten – und damit möglicherweise gesellschaftliche Vorurteile. Ein System kann Verhaltensweisen je nach Geschlecht unterschiedlich bewerten, Menschen mit nicht standardsprachlicher Ausdrucksweise benachteiligen, kulturelle Hintergründe stereotyp darstellen oder Behinderung hauptsächlich als Defizit beschreiben.

Darum sollte bei relevanten Inhalten bewusst nach Verzerrungen gesucht werden. Auch diese Prüfung kann durch KI unterstützt werden, ersetzt aber nicht die menschliche Reflexion.

H – Hinweisen, beteiligen und dokumentieren

Menschen sollen wissen, wenn KI ihre Kommunikation oder eine für sie relevante Bearbeitung wesentlich beeinflusst. Transparenz ist besonders wichtig, wenn Gespräche aufgezeichnet oder transkribiert werden, ein Chatbot mit Klient:innen kommuniziert, KI Empfehlungen oder Priorisierungen erstellt oder ein Ergebnis Leistungen und Massnahmen beeinflussen kann.

Bei Kindern, Jugendlichen, Menschen mit kognitiven Beeinträchtigungen oder Personen in Abhängigkeitsverhältnissen reicht eine formale Zustimmung allein häufig nicht aus. Informationen müssen verständlich sein, und eine echte Alternative sollte möglich bleiben.

Die KI-Ampel für den Arbeitsalltag

«Rot» bedeutet nicht zwingend, dass eine Anwendung für alle Zukunft verboten ist. Es bedeutet: nicht spontan und nicht allein durch einzelne Mitarbeitende einführen.

Welche KI-Tools eignen sich?

Kein Werkzeug ist allein durch seinen Produktnamen «DSG-konform». Entscheidend sind der konkrete Anwendungsfall, die Vertragsversion, die Konfiguration und die eingegebenen Daten. Statt nur Modelle zu vergleichen, sollten Institutionen passende Werkzeugkategorien prüfen:

• KI in der bestehenden Office-Umgebung: naheliegend für E-Mails, Sitzungen und allgemeine Dokumente, sofern Berechtigungen und Ablagen sauber gepflegt sind.

• Institutioneller KI-Assistent: geeignet für allgemeine Textarbeit, Konzepte, fiktive Beispiele und klar begrenzte interne Assistenten.

• Professionelles Übersetzungswerkzeug: praktisch für mehrsprachige Schreiben; bei Personendaten braucht es trotzdem eine rechtliche Grundlage und eine geregelte Auftragsbearbeitung.

• Schweizer oder schweizerisch gehostete Lösung: kann die Datenhoheit verbessern, ersetzt aber weder Vertragsprüfung noch Rollen-, Lösch- und Sicherheitskonzept.

• KI direkt im Klienten-Informationssystem: für fallbezogene Anwendungen oft sinnvoller als ein separater öffentlicher Chatbot, wenn Berechtigungen übernommen, Datenzugriffe begrenzt und verwendete Quellen nachvollziehbar ausgewiesen werden.

Die wichtigste Tool-Frage lautet nicht: Welches Modell schreibt am schönsten? Sondern: Welche Daten dürfen hinein, wer kann darauf zugreifen, wo werden sie verarbeitet und wer kontrolliert das Ergebnis?

So gelingt der Einstieg in acht Wochen

1. Eine kleine Arbeitsgruppe bilden. Praxis, Leitung, IT, Datenschutz oder Qualitätssicherung und – je nach Anwendung – die Perspektive der Klient:innen gehören an einen Tisch.

2. Die tatsächliche Nutzung erheben. Angstfrei fragen, welche Werkzeuge bereits wofür genutzt werden und wo Unsicherheiten bestehen.

3. Drei grüne Anwendungsfälle auswählen. Zum Beispiel allgemeine Korrespondenz vereinfachen, Workshops vorbereiten oder veröffentlichte Fachinformationen zusammenfassen.

4. Ein bis zwei Werkzeuge freigeben. Wenige klar geregelte institutionelle Accounts sind besser als viele private Lösungen.

5. Eine einseitige Leitlinie verabschieden. Die Regeln müssen kurz und konkret genug sein, um im Alltag verwendet zu werden.

6. Mitarbeitende praktisch schulen. Datenschutz, typische Modellfehler, Quellenprüfung, diskriminierungssensible Sprache und der Meldeweg bei Fehlern sind wichtiger als Prompt-Tricks.

7. Den Pilot messen. Zeitersparnis inklusive Kontrolle, Korrekturaufwand, fachliche Qualität, Verständlichkeit und Datenschutzprobleme zeigen, ob der Einsatz wirklich hilft.

8. Regeln regelmässig überprüfen. Produkte und Vertragsbedingungen ändern sich schnell. Freigaben sollten mindestens halbjährlich überprüft werden.

Muster für eine kurze institutionelle KI-Leitlinie

Eine alltagstaugliche Leitlinie kann auf eine Seite passen. Die folgenden acht Regeln bilden eine mögliche Grundlage und müssen an Auftrag, Rechtsform, Kanton und Datenbestände der eigenen Institution angepasst werden.

1. KI ist ein Hilfsmittel. Fachliche Verantwortung, Einschätzungen und Entscheidungen bleiben bei den Mitarbeitenden.

2. Es werden ausschliesslich freigegebene Werkzeuge und institutionelle Accounts verwendet. Private Konten sind für die berufliche Nutzung ausgeschlossen.

3. In öffentliche oder nicht freigegebene Werkzeuge gehören keine Personendaten, Fallinformationen, vertraulichen Dokumente oder Zugangsdaten.

4. Auch bei freigegebenen Werkzeugen gilt Datenminimierung. Verwendet wird nur, was für den konkreten und dokumentierten Zweck notwendig ist.

5. KI-Ergebnisse werden vor jeder Verwendung fachlich, sachlich und sprachlich geprüft. Erfundenen oder nicht belegten Inhalten gilt besondere Aufmerksamkeit.

6. KI entscheidet nicht über Leistungen, Platzierungen, Diagnosen, Gefährdungen, Sanktionen oder andere erhebliche Massnahmen.

7. Gespräche werden nur nach institutioneller Freigabe und transparenter Information aufgezeichnet oder transkribiert. Die Rechte und Wahlmöglichkeiten der betroffenen Personen bleiben gewahrt.

8. Fehler und Vorfälle werden gemeldet. Für unbeabsichtigte Datenübermittlungen, auffällige Resultate und Unsicherheiten gibt es eine bekannte interne Anlaufstelle.

Drei sichere Prompt-Beispiele

Einen allgemeinen Text verständlicher machen

Formuliere den folgenden allgemeinen Informationstext für Erwachsene ohne Fachkenntnisse verständlicher. Verwende kurze Sätze, erkläre Fachbegriffe und verändere keine Fakten. Markiere unklare Stellen. Text: [Text ohne Personen- oder vertrauliche Daten]

Eine Teamsitzung vorbereiten

Erstelle einen Ablauf für eine 45-minütige Teamsitzung zum Thema «Umgang mit herausfordernden Übergabesituationen». Ziel ist nicht, konkrete Fälle zu beurteilen, sondern gemeinsame fachliche Grundsätze zu entwickeln. Enthalten sein sollen eine Einstiegsfrage, drei Reflexionsfragen, eine Kleingruppenübung, Ergebnissicherung und nächste Schritte.

Einen Text auf problematische Sprache prüfen

Prüfe den folgenden anonymisierten Text auf unbelegte Annahmen, defizitorientierte oder stigmatisierende Formulierungen, die Vermischung von Beobachtung und Interpretation sowie diskriminierende Aussagen. Erstelle keine neuen Fakten. Zeige zuerst problematische Stellen und schlage danach neutralere Formulierungen vor.

Fazit: Nicht möglichst viel KI, sondern möglichst gute Soziale Arbeit

Die zentrale Frage lautet nicht, wie soziale Institutionen möglichst schnell möglichst viel KI einsetzen können. Die bessere Frage ist: Wo kann KI administrative oder sprachliche Arbeit erleichtern, damit mehr Zeit für Beziehung, Reflexion, Teilhabe und individuelle Begleitung bleibt?

Ein guter KI-Einsatz ist nicht unsichtbar, nicht unkontrolliert und nicht vollständig automatisiert. Er ist begrenzt, nachvollziehbar und fachlich überprüfbar.

So verstanden steht KI nicht im Gegensatz zu professioneller Sozialer Arbeit. Sie kann zu einem nützlichen Werkzeug werden – solange der Mensch nicht nur im Namen des Prinzips, sondern auch in der tatsächlichen Praxis im Mittelpunkt bleibt.

Welche Anwendungen würden Ihren Berufsalltag tatsächlich entlasten – und bei welchen Aufgaben muss die Verantwortung vollständig beim Menschen bleiben?

Nikos und Ramon