Aller au contenu

Le principe HUMAIN : Utiliser l’IA en toute sécurité dans les institutions sociales

Illustration de l’IA dans les institutions suisses.

L’intelligence artificielle permet de formuler des emails, de simplifier des textes, de structurer des réunions, de résumer des informations et de donner des idées pour l’enseignement au quotidien. Cela semble être un soulagement bienvenu, en particulier dans un domaine professionnel où le temps consacré au travail relationnel est souvent limité.

Dans le même temps, des questions légitimes se posent : Puis-je faire réviser un rapport de cas par un chatbot ? Puis-je transcrire automatiquement une conversation ? Que deviennent les données saisies ? Et comment puis-je savoir si une réponse est techniquement correcte ou simplement formulée de manière convaincante ?

Cette incertitude n’est pas le signe d’un manque d’ouverture. C'est une expression de responsabilité professionnelle.

L’IA peut soutenir les spécialistes. La responsabilité des évaluations, des relations et des décisions incombe toujours aux personnes.

L’IA est déjà là – même sans stratégie institutionnelle

Les outils d’IA sont expérimentés depuis longtemps dans de nombreuses équipes : via des comptes privés, des outils de traduction gratuits ou des chatbots sur smartphones personnels. Une interdiction complète empêche rarement cette utilisation. Cela tend à les déplacer vers une zone non réglementée.

Les institutions sociales ont donc besoin de lignes directrices compréhensibles, d’outils approuvés, de formations et d’un espace pour les questions. Expériences duTravail social suisseshow : L'IA peut soutenir le travail textuel, la préparation et la structuration de l'information, mais ne remplace pas la compréhension contextuelle professionnelle, le travail relationnel et l'évaluation professionnelle.

Juridiquement, nous ne sommes pas non plus dans un espace libre. En juillet 2026, il n’existe toujours pas de législation complète spécifique à l’IA en Suisse. FortChancellerie fédéraleUn modèle de consultation devrait être disponible d'ici fin 2026. Toutefois, la loi actuelle sur la protection des données s'applique déjà directement aux traitements de données basés sur l'IA, tels quePréposé fédéral à la protection des données et à la transparencetient le coup.

Ce que l’IA peut faire de bien – et ce qu’elle ne peut pas faire

L’IA générative est particulièrement efficace pour manipuler le langage et les informations existantes. Voici des exemples de tâches utiles :

  • créer un premier brouillon de texte à partir de mots-clés,

  • rendre les textes compliqués plus compréhensibles,

  • suggérer des structures possibles pour un rapport,

  • résumer les documents publiés,

  • Développer des variantes pour une activité ou un atelier,

  • Préparez des questions pour une réunion d’équipe ou une réflexion sur un cas.

Cependant, AI ne sait pas si une affirmation est vraie. Il calcule des réponses linguistiquement appropriées. Cela leur permet d’inventer des informations, de déformer les liens ou de dissimuler des incertitudes. Ceci est particulièrement pertinent dans le secteur social : une erreur formulée de manière convaincante dans un rapport de cas peut être plus grave qu'une faute de frappe évidente.

Le principe HUMAIN pour les institutions sociales

L’utilisation responsable de l’IA peut se résumer à six principes simples.

M – Les gens décident

AI est autorisée à fournir des suggestions mais ne peut pas assumer de responsabilité professionnelle. Les décisions concernant les services, les placements, les mesures de soutien, les menaces, les sanctions, les diagnostics ou l'intensité des soins ne doivent pas être déléguées sans esprit critique à un système technique. Une suggestion d’IA peut également influencer la perception d’un spécialiste, même si c’est encore un humain qui décide formellement.

Règle de pratique :Plus l’impact possible sur la vie d’une personne est important, plus le rôle de l’IA peut être réduit.

E – Entrées limites

De nombreux dossiers contiennent des données personnelles particulièrement sensibles : telles que des informations sur la santé et la vie privée, les opinions religieuses ou politiques, les procédures administratives ou pénales et les mesures d'assistance sociale. Ces informations n’ont pas leur place dans les outils d’IA librement accessibles ou non publiés.

Même une anonymisation apparente n’est souvent pas suffisante. Une personne peut toujours être reconnaissable à la combinaison de son âge, de son lieu de résidence, de sa constellation familiale, de son institution, de son diagnostic et d'un événement spécial. Lorsque des cas réels ne sont pas requis, des exemples synthétiques ou considérablement déformés doivent être utilisés.

N – Vérifier au lieu d’adopter

Chaque résultat de l'IA est un brouillon. Avant utilisation, il faut répondre au moins aux questions suivantes :

  • Les noms, chiffres, dates et citations sont-ils corrects ?

  • L’IA a-t-elle rempli des informations qui n’avaient pas été saisies ?

  • Les déclarations sont-elles compréhensibles et techniquement justifiées ?

  • La formulation est-elle respectueuse et non stigmatisante ?

  • Le texte répond-il aux normes de documentation de l'institution ?

  • Le libellé pourrait-il être expliqué et représenté lors de l’inspection des dossiers ?

Une prudence particulière s'impose en matière de lois, d'informations médicales, de situations de crise et de responsabilités cantonales. L’IA peut fournir une première orientation, mais elle ne remplace pas une source primaire fiable.

S – Assurer la protection de manière organisationnelle

La protection des données ne peut pas être déléguée à des employés individuels. L'institution doit déterminer quelles demandes sont approuvées à quelles fins, quelles catégories de données peuvent être saisies et combien de temps le contenu est stocké. Les lieux de traitement, les sous-traitants, les rôles, l'authentification multifacteur, la journalisation, la suppression et le processus en cas d'incident de protection des données sont tout aussi importants.

Avec les services cloud, l'institution reste responsable du traitement licite des données. LeEDÖBexige que le traitement des commandes soit contractuellement sécurisé et que d'éventuelles divulgations de données à l'étranger soient examinées. L'hébergement suisse peut être un critère important, mais il ne suffit pas à lui seul : les structures de propriété, l'accès au support, les sous-traitants, les systèmes juridiques applicables et les configurations techniques restent pertinents.

S'il existe un risque élevé pour la personnalité ou les droits fondamentaux, une analyse d'impact sur la protection des données peut être nécessaire. Les institutions publiques doivent également examiner le droit cantonal sur la protection des données et sa base juridique. CeciFiche d'information du canton de Zurichfournit des conseils utiles à cet égard.

Cet article ne remplace pas un avis juridique. Les institutions ayant un mandat public, des données de santé, des tâches de protection des enfants et des adultes ou des obligations particulières en matière de confidentialité doivent vérifier chaque cas d'utilisation spécifique avec leur bureau spécialisé et responsable de la protection des données avant son introduction. Ce qui est crucial n'est pas seulement de savoir si un outil peut en principe être utilisé, mais aussi de savoir si la finalité, l'étendue des données, les responsabilités et les mesures de protection pour cette utilisation sont réglementés de manière durable.

C – Vérifier l’égalité des chances

Les systèmes d’IA adoptent des modèles issus de leurs données d’entraînement – ​​et avec eux éventuellement des préjugés sociaux. Un système peut évaluer le comportement différemment selon le sexe, désavantager les personnes ayant une langue non standard, stéréotyper les origines culturelles ou décrire le handicap principalement comme un déficit.

C'est pourquoi vous devez rechercher consciemment les distorsions dans le contenu pertinent. Ce test peut également être supporté par l’IA, mais ne remplace pas la réflexion humaine.

H – Informer, participer et documenter

Les gens doivent savoir quand l’IA influence de manière significative leur communication ou leur traitement qui les concerne. La transparence est particulièrement importante lorsque les conversations sont enregistrées ou transcrites, qu’un chatbot communique avec les clients, que l’IA crée des recommandations ou des priorités, ou qu’un résultat peut influencer les services et les mesures.

Pour les enfants, les jeunes, les personnes souffrant de déficiences cognitives ou les personnes en relation de dépendance, le consentement formel seul ne suffit souvent pas. L’information doit être compréhensible et une véritable alternative doit rester possible.

Le feu tricolore IA pour le travail quotidien

Catégorie Applications typiques Exigences
Vert : bon pour débuter Idées d'activités de groupe, lettres générales, résumés de textes publiés, études de cas fictives, structures de présentation, tests de style Aucune information confidentielle ou personnelle ; Le résultat est vérifié
Jaune : uniquement avec les outils publiés Concepts internes, traductions avec données personnelles, procès-verbaux de réunions internes, bases de données de connaissances institutionnelles, révision de textes anonymisés Compte institutionnel, contrat vérifié, objectif clair, minimisation des données, règles d'accès, approbation humaine
Rouge : projet distinct à haut risque Dossiers complets, enregistrement automatique des conversations, pronostics de risques, diagnostics, décisions de performance ou de placement, reconnaissance des émotions, rapports finaux de cas Pas avec les outils d’IA publics ordinaires ; seulement après examen professionnel, juridique, éthique et technique
Une orientation simple : la sortie spécifique reste à la charge de l'établissement.

« Rouge » ne signifie pas nécessairement qu’une application sera interdite à l’avenir. Cela signifie : pas introduit spontanément ni par les seuls collaborateurs.

Quels outils d’IA sont adaptés ?

Aucun outil n’est « conforme DSG » simplement en raison de son nom de produit. Les facteurs décisifs sont le cas d'utilisation spécifique, la version du contrat, la configuration et les données saisies. Au lieu de simplement comparer les modèles, les établissements devraient examiner les catégories d’outils appropriées :

  • L'IA dans l'environnement de bureau existant :évident pour les e-mails, les réunions et les documents généraux, à condition que les autorisations et le stockage soient correctement conservés.

  • Assistant IA institutionnel :adapté au travail de texte général, aux concepts, aux exemples fictifs et aux assistants internes clairement définis.

  • Outil de traduction professionnel :pratique pour l'écriture multilingue ; Dans le cas des données personnelles, une base légale et un traitement des commandes réglementé sont toujours nécessaires.

  • Solution suisse ou hébergée en Suisse :peut améliorer la souveraineté des données, mais ne remplace pas la révision des contrats ni les concepts de rôle, de suppression et de sécurité.

  • L’IA directement dans le système d’information client :Pour les applications liées à des cas, cela a souvent plus de sens qu'un chatbot public distinct si les autorisations sont adoptées, l'accès aux données est limité et les sources utilisées sont clairement identifiées.

La question la plus importante concernant l’outil n’est pas : quel modèle écrit le mieux ? Mais plutôt : quelles données sont autorisées, qui peut y accéder, où sont-elles traitées et qui contrôle le résultat ?

Vous pouvez commencer dans huit semaines

  1. Formez un petit groupe de travail.La pratique, la gestion, l’informatique, la protection des données ou l’assurance qualité et – selon l’application – le point de vue du client appartiennent à la même table.

  2. Collectez l'utilisation réelle.Demandez sans crainte quels outils sont déjà utilisés pour quoi et où il y a des incertitudes.

  3. Sélectionnez trois cas d’utilisation verts.Par exemple, simplifier la correspondance générale, préparer des ateliers ou résumer des informations spécialisées publiées.

  4. Libérez un ou deux outils.Quelques comptes institutionnels clairement réglementés valent mieux que de nombreuses solutions privées.

  5. Adoptez une ligne directrice unilatérale.Les règles doivent être suffisamment courtes et précises pour être utilisées dans la vie de tous les jours.

  6. Formez les employés de manière pratique.La protection des données, les erreurs typiques du modèle, la vérification des sources, le langage sensible à la discrimination et le canal de signalement en cas d'erreurs sont plus importants que les astuces rapides.

  7. Mesurez le pilote.Les gains de temps, y compris les problèmes de contrôle, d'effort de correction, de qualité technique, d'intelligibilité et de protection des données, montrent si l'utilisation est vraiment utile.

  8. Vérifiez régulièrement les règles.Les produits et les conditions contractuelles changent rapidement. Les approbations doivent être révisées au moins tous les six mois.

Modèle de courte politique institutionnelle en matière d’IA

Une ligne directrice quotidienne peut tenir sur une seule page. Les huit règles suivantes constituent une base possible et doivent être adaptées à la mission, à la forme juridique, au canton et aux données de votre propre institution.

  1. L'IA est un outil.La responsabilité professionnelle, les évaluations et les décisions restent du ressort des salariés.

  2. Seuls les outils et comptes institutionnels approuvés sont utilisés.Les comptes privés sont exclus pour un usage professionnel.

  3. Les outils publics ou non divulgués n'incluent pas les données personnelles, les informations sur les cas, les documents confidentiels ou les données d'accès.

  4. La minimisation des données s'applique également aux outils publiés.Seul ce qui est nécessaire aux fins spécifiques et documentées est utilisé.

  5. Les résultats de l’IA sont vérifiés techniquement, factuellement et linguistiquement avant chaque utilisation.Une attention particulière est portée aux contenus fictifs ou non fondés.

  6. L’IA ne décide pas des performances, des classements, des diagnostics, des menaces, des sanctions ou d’autres mesures importantes.

  7. Les conversations ne sont enregistrées ou transcrites qu’après approbation institutionnelle et information transparente.Les droits et choix des personnes concernées sont préservés.

  8. Les erreurs et incidents sont signalés.Il existe un point de contact interne connu pour les transmissions de données involontaires, les résultats suspects et les incertitudes.

Trois exemples d'invites sûres

Rendre un texte général plus compréhensible

Rendre le texte d'information générale suivant plus compréhensible pour les adultes sans connaissances spécialisées. Utilisez des phrases courtes, expliquez les termes techniques et ne modifiez pas les faits. Marquez les zones peu claires. Texte : [Texte sans données personnelles ou confidentielles]

Préparer une réunion d'équipe

Créez un processus pour une réunion d'équipe de 45 minutes sur le thème « Gérer les situations de transfert difficiles ». L’objectif n’est pas d’évaluer des cas particuliers, mais plutôt de développer des principes techniques communs. Il doit inclure une question d'introduction, trois questions de réflexion, un exercice en petit groupe, l'obtention des résultats et les prochaines étapes.

Vérifier un texte pour une langue problématique

Vérifiez le texte anonymisé suivant pour détecter des hypothèses non fondées, des formulations orientées vers le déficit ou stigmatisantes, un mélange d'observation et d'interprétation et des déclarations discriminatoires. Ne créez pas de nouveaux faits. Montrez d’abord les zones problématiques, puis suggérez des formulations plus neutres.

Conclusion : pas autant d'IA que possible, mais un travail social aussi bon que possible

La question centrale n’est pas de savoir comment les institutions sociales peuvent utiliser autant d’IA le plus rapidement possible. La meilleure question est la suivante : où l’IA peut-elle faciliter le travail administratif ou linguistique afin de laisser plus de temps aux relations, à la réflexion, à la participation et au soutien individuel ?

Une bonne utilisation de l’IA n’est ni invisible, ni incontrôlée, ni complètement automatisée. Il est limité, compréhensible et techniquement vérifiable.

Ainsi comprise, l’IA ne s’oppose pas au travail social professionnel. Cela peut devenir un outil utile – à condition que les personnes restent au centre, non seulement au nom du principe mais aussi dans la pratique concrète.

Quelles applications soulageraient réellement votre vie professionnelle quotidienne - et pour quelles tâches la personne doit-elle rester entièrement responsable ?

Nikos et Ramon

Cookies 🍪

Ce site utilise des cookies qui nécessitent votre consentement.