Vai al contenuto

Il principio UMANO: utilizzare l’IA in modo sicuro nelle istituzioni sociali

Illustrazione dell’IA nelle istituzioni svizzere.

L’intelligenza artificiale può formulare email, semplificare testi, strutturare riunioni, sintetizzare informazioni e fornire spunti per la didattica quotidiana. Sembra un gradito sollievo, soprattutto in un campo lavorativo in cui il tempo per il lavoro relazionale è spesso limitato.

Allo stesso tempo sorgono domande legittime: posso far revisionare un case report da un chatbot? Posso trascrivere automaticamente una conversazione? Cosa succede ai dati inseriti? E come faccio a sapere se una risposta è tecnicamente corretta o semplicemente formulata in modo convincente?

Questa incertezza non è un segno di mancanza di apertura. È espressione di responsabilità professionale.

L’intelligenza artificiale può supportare gli specialisti. La responsabilità delle valutazioni, delle relazioni e delle decisioni resta sempre delle persone.

L’intelligenza artificiale è già qui, anche senza una strategia istituzionale

Gli strumenti di intelligenza artificiale vengono sperimentati da tempo in molti team: tramite account privati, strumenti di traduzione gratuiti o chatbot su smartphone personali. Un divieto totale raramente impedisce questo utilizzo. Si tende a spostarli in un’area non regolamentata.

Le istituzioni sociali hanno quindi bisogno di linee guida comprensibili, strumenti approvati, formazione e spazio per le domande. Esperienze daIl servizio sociale svizzeromostrare: l’intelligenza artificiale può supportare il lavoro sui testi, la preparazione e la strutturazione delle informazioni, ma non sostituisce la comprensione contestuale professionale, il lavoro relazionale e la valutazione professionale.

Anche giuridicamente non siamo in uno spazio libero. A partire dal luglio 2026, in Svizzera non esiste ancora una legislazione completa specifica per l’IA. ForteCancelleria federaleUn modello di consultazione dovrebbe essere disponibile entro la fine del 2026. Tuttavia, la legge esistente sulla protezione dei dati si applica già direttamente al trattamento dei dati supportato dall’intelligenza artificiale, comeCommissario federale per la protezione dei dati e l'informazioneresiste.

Cosa può fare bene l’intelligenza artificiale e cosa no

L’intelligenza artificiale generativa è particolarmente efficace nel manipolare il linguaggio e le informazioni esistenti. Esempi di attività utili includono:

  • creare una prima bozza di testo partendo da parole chiave,

  • rendere più comprensibili i testi complicati,

  • suggerire possibili strutture per un rapporto,

  • riassumere i documenti pubblicati,

  • Sviluppare varianti per un'attività o un workshop,

  • Preparare le domande per una riunione del team o per la riflessione su un caso.

Tuttavia, l’intelligenza artificiale non sa se un’affermazione è vera. Calcola risposte linguisticamente appropriate. Ciò consente loro di inventare informazioni, travisare collegamenti o nascondere incertezze. Ciò è particolarmente rilevante nel settore sociale: un errore formulato in modo convincente in un caso clinico può essere più grave di un evidente errore di battitura.

Il principio UMANO per le istituzioni sociali

L’uso responsabile dell’IA può essere riassunto in sei semplici principi.

M – Le persone decidono

L’IA è autorizzata a fornire suggerimenti ma non ad assumersi responsabilità professionali. Le decisioni su prestazioni, collocamenti, misure di sostegno, minacce, sanzioni, diagnosi o intensità delle cure non devono essere delegate acriticamente a un sistema tecnico. Un suggerimento dell’IA può influenzare anche la percezione di uno specialista, anche se formalmente decide ancora un essere umano.

Regola pratica:Quanto maggiore è il possibile impatto sulla vita di una persona, tanto minore potrà essere il ruolo dell’intelligenza artificiale.

E – Limitare gli ingressi

Molti dossier contengono dati personali particolarmente sensibili: come informazioni sulla salute e sulla privacy, opinioni religiose o politiche, procedimenti amministrativi o penali e misure di assistenza sociale. Tali informazioni non appartengono a strumenti di intelligenza artificiale liberamente accessibili o non rilasciati.

Anche l’anonimizzazione apparente spesso non è sufficiente. Una persona può ancora essere riconoscibile dalla combinazione di età, luogo di residenza, costellazione familiare, istituzione, diagnosi ed un evento speciale. Laddove non siano richiesti casi reali, dovrebbero essere utilizzati esempi sintetici o notevolmente distorti.

N – Controllare invece di adottare

Ogni risultato dell'IA è una bozza. Prima dell’uso è necessario rispondere almeno alle seguenti domande:

  • Nomi, numeri, date e virgolette sono corretti?

  • L’IA ha inserito informazioni che non erano state inserite?

  • Le affermazioni sono comprensibili e tecnicamente giustificate?

  • La formulazione è rispettosa e non stigmatizzante?

  • Il testo soddisfa gli standard di documentazione dell'istituzione?

  • La formulazione potrebbe essere spiegata e rappresentata durante l'ispezione dei fascicoli?

È necessaria una particolare cautela quando si tratta di leggi, informazioni mediche, situazioni di crisi e responsabilità cantonali. L’intelligenza artificiale può fornire un orientamento iniziale, ma non sostituisce una fonte primaria affidabile.

S – Garantire la protezione a livello organizzativo

La protezione dei dati non può essere delegata a singoli dipendenti. L'istituzione deve determinare quali domande sono approvate e per quali scopi, quali categorie di dati possono essere inserite e per quanto tempo i contenuti vengono archiviati. Altrettanto importanti sono i luoghi di trattamento, i subappaltatori, i ruoli, l’autenticazione a più fattori, la registrazione, la cancellazione e il processo in caso di incidente relativo alla protezione dei dati.

Nei servizi cloud l’istituzione resta responsabile del trattamento legittimo dei dati. IlEDÖBrichiede che l'evasione degli ordini sia garantita contrattualmente e che venga esaminata l'eventuale divulgazione di dati all'estero. L’hosting svizzero può essere un criterio importante, ma da solo non è sufficiente: gli assetti proprietari, l’accesso al supporto, i subappaltatori, i sistemi giuridici applicabili e le configurazioni tecniche rimangono rilevanti.

Se esiste un rischio elevato per la personalità o i diritti fondamentali, potrebbe essere necessaria una valutazione d’impatto sulla protezione dei dati. Le istituzioni pubbliche devono inoltre esaminare la legislazione cantonale sulla protezione dei dati e le relative basi giuridiche. QuestoFoglio informativo del Cantone di Zurigofornisce indicazioni utili a questo scopo.

Questo articolo non sostituisce la consulenza legale. Le istituzioni con un mandato pubblico, dati sanitari, compiti di protezione di bambini e adulti o obblighi particolari di riservatezza dovrebbero verificare ogni caso concreto d'uso con il proprio ufficio competente e specializzato in materia di protezione dei dati prima dell'introduzione. Ciò che conta non è solo se uno strumento possa essere utilizzato in linea di principio, ma anche se lo scopo, la portata dei dati, le responsabilità e le misure di protezione proprio per questo utilizzo siano regolamentati in modo sostenibile.

C – Controllare le pari opportunità

I sistemi di intelligenza artificiale adottano modelli dai loro dati di addestramento e con essi possibilmente pregiudizi sociali. Un sistema può valutare il comportamento in modo diverso a seconda del genere, svantaggiare le persone con un linguaggio non standard, stereotipare background culturali o descrivere la disabilità principalmente come un deficit.

Ecco perché dovresti cercare consapevolmente le distorsioni nei contenuti pertinenti. Questo test può essere supportato anche dall’intelligenza artificiale, ma non sostituisce la riflessione umana.

H – Informare, partecipare e documentare

Le persone dovrebbero sapere quando l’intelligenza artificiale influenza in modo significativo la loro comunicazione o elaborazione che è rilevante per loro. La trasparenza è particolarmente importante quando le conversazioni vengono registrate o trascritte, un chatbot comunica con i clienti, l’intelligenza artificiale crea raccomandazioni o prioritizzazioni o un risultato può influenzare servizi e misure.

Per i bambini, i giovani, le persone con disabilità cognitive o le persone in relazioni di dipendenza, il solo consenso formale spesso non è sufficiente. Le informazioni devono essere comprensibili e deve restare possibile un’alternativa reale.

Il semaforo AI per il lavoro quotidiano

Categoria Applicazioni tipiche Requisiti
Verde: buono per iniziare Idee per attività di gruppo, lettere generali, riassunti di testi pubblicati, casi di studio fittizi, strutture di presentazione, prove di stile Nessuna informazione riservata o personale; Il risultato è controllato
Giallo: solo con utensili abilitati Concetti interni, traduzioni con dati anagrafici, verbali di riunioni interne, banche dati di conoscenza istituzionale, revisione di testi in forma anonima Account istituzionale, contratto verificato, scopo chiaro, minimizzazione dei dati, regole di accesso, approvazione umana
Rosso: progetto separato ad alto rischio Fascicoli completi dei casi, registrazione automatica delle conversazioni, prognosi dei rischi, diagnosi, decisioni sulle prestazioni o sul posizionamento, riconoscimento delle emozioni, rapporti finali sui casi Non con i normali strumenti pubblici di intelligenza artificiale; solo dopo un esame professionale, legale, etico e tecnico
Un semplice orientamento: il rilascio specifico resta di responsabilità dell'istituzione.

"Rosso" non significa necessariamente che un'applicazione verrà vietata in futuro. Vuol dire: non introdotte spontaneamente e non solo dai singoli dipendenti.

Quali strumenti di intelligenza artificiale sono adatti?

Nessuno strumento è “conforme DSG” solo per il nome del prodotto. I fattori decisivi sono il caso d'uso specifico, la versione del contratto, la configurazione e i dati inseriti. Invece di limitarsi a confrontare i modelli, gli enti dovrebbero esaminare le categorie di strumenti appropriati:

  • L’intelligenza artificiale nell’ambiente d’ufficio esistente:ovvio per e-mail, riunioni e documenti generali, a condizione che le autorizzazioni e l'archiviazione siano mantenute correttamente.

  • Assistente AI istituzionale:adatto per lavori di testo generali, concetti, esempi di fantasia e assistenti interni chiaramente definiti.

  • Strumento di traduzione professionale:pratico per la scrittura multilingue; Per i dati personali sono comunque necessarie una base giuridica e un trattamento regolamentato degli ordini.

  • Soluzione ospitata svizzera o svizzera:può migliorare la sovranità dei dati, ma non sostituisce la revisione del contratto o i concetti di ruolo, cancellazione e sicurezza.

  • AI direttamente nel sistema informativo del cliente:Per le applicazioni relative ai casi, spesso ha più senso di un chatbot pubblico separato se vengono adottate le autorizzazioni, l’accesso ai dati è limitato e le fonti utilizzate sono chiaramente identificate.

La domanda più importante sullo strumento non è: quale modello scrive meglio? Ma piuttosto: quali dati sono ammessi, chi può accedervi, dove vengono elaborati e chi ne controlla il risultato?

Puoi iniziare in otto settimane

  1. Formare un piccolo gruppo di lavoro.La pratica, la gestione, l’IT, la protezione dei dati o il controllo della qualità e, a seconda dell’applicazione, la prospettiva del cliente appartengono allo stesso tavolo.

  2. Raccogli l'utilizzo effettivo.Chiedere senza paura quali strumenti sono già utilizzati per cosa e dove ci sono incertezze.

  3. Seleziona tre casi d'uso ecologici.Ad esempio, semplificando la corrispondenza generale, preparando seminari o riassumendo le informazioni specialistiche pubblicate.

  4. Rilascia uno o due strumenti.Pochi conti istituzionali chiaramente regolamentati sono migliori di molte soluzioni private.

  5. Adottare una linea guida unilaterale.Le regole devono essere sufficientemente brevi e specifiche da poter essere utilizzate nella vita di tutti i giorni.

  6. Formare i dipendenti in modo pratico.La protezione dei dati, gli errori tipici dei modelli, il controllo delle fonti, il linguaggio sensibile alla discriminazione e il canale di segnalazione in caso di errori sono più importanti dei trucchi tempestivi.

  7. Misurare il pilota.Il risparmio di tempo, compreso il controllo, lo sforzo di correzione, la qualità tecnica, la comprensibilità e i problemi di protezione dei dati, dimostrano se l'uso aiuta davvero.

  8. Controlla regolarmente le regole.I prodotti e le condizioni contrattuali cambiano rapidamente. Le approvazioni dovrebbero essere riviste almeno ogni sei mesi.

Modello per una breve politica istituzionale sull’IA

Una linea guida quotidiana può stare in una pagina. Le seguenti otto regole costituiscono una possibile base e devono essere adattate alla missione, alla forma giuridica, al Cantone e ai dati della propria istituzione.

  1. L'intelligenza artificiale è uno strumento.La responsabilità professionale, le valutazioni e le decisioni restano dei dipendenti.

  2. Vengono utilizzati solo strumenti e account istituzionali approvati.Sono esclusi i conti privati per uso professionale.

  3. Gli strumenti pubblici o non diffusi non includono dati personali, informazioni sui casi, documenti riservati o dati di accesso.

  4. La minimizzazione dei dati si applica anche agli strumenti rilasciati.Viene utilizzato solo quanto necessario allo scopo specifico e documentato.

  5. I risultati dell'intelligenza artificiale vengono controllati tecnicamente, fattivamente e linguisticamente prima di ogni utilizzo.Un'attenzione particolare è riservata ai contenuti di fantasia o non comprovati.

  6. L’intelligenza artificiale non decide su prestazioni, classifiche, diagnosi, minacce, sanzioni o altre misure significative.

  7. Le conversazioni vengono registrate o trascritte solo dopo l'approvazione istituzionale e un'informazione trasparente.Sono salvi i diritti e le scelte degli interessati.

  8. Vengono segnalati errori e incidenti.Esiste un punto di contatto interno noto per trasmissioni involontarie di dati, risultati sospetti e incertezze.

Tre esempi rapidi e sicuri

Rendere più comprensibile un testo generale

Rendi il seguente testo di informazione generale più comprensibile per gli adulti senza conoscenze specialistiche. Utilizza frasi brevi, spiega termini tecnici e non modificare i fatti. Segna le aree poco chiare. Testo: [Testo senza dati personali o riservati]

Preparare una riunione di squadra

Creare un processo per una riunione di squadra di 45 minuti sul tema "Affrontare situazioni di passaggio di consegne difficili". Lo scopo non è valutare casi specifici, ma piuttosto sviluppare principi tecnici comuni. Dovrebbe includere una domanda introduttiva, tre domande di riflessione, un esercizio in piccoli gruppi, la verifica dei risultati e i passi successivi.

Controllare un testo per un linguaggio problematico

Controlla il seguente testo anonimo per ipotesi infondate, formulazioni orientate al deficit o stigmatizzanti, mescolanza di osservazione e interpretazione e affermazioni discriminatorie. Non creare nuovi fatti. Mostra prima le aree problematiche e poi suggerisci formulazioni più neutre.

Conclusione: non quanta più intelligenza artificiale possibile, ma il miglior servizio sociale possibile

La questione centrale non è come le istituzioni sociali possano utilizzare quanta più intelligenza artificiale il più rapidamente possibile. La domanda migliore è: dove può l’intelligenza artificiale facilitare il lavoro amministrativo o linguistico in modo che ci sia più tempo per le relazioni, la riflessione, la partecipazione e il supporto individuale?

Un buon uso dell’IA non è invisibile, non è incontrollato e non è completamente automatizzato. È limitato, comprensibile e tecnicamente verificabile.

Intesa in questo modo, l’intelligenza artificiale non è in contrasto con il servizio sociale professionale. Può diventare uno strumento utile, purché le persone rimangano al centro non solo in nome del principio ma anche nella pratica concreta.

Quali applicazioni potrebbero davvero alleviare la vostra vita lavorativa quotidiana e per quali compiti la responsabilità deve restare interamente della persona?

Nikos e Ramon

Cookie 🍪

Questo sito utilizza cookie che richiedono il tuo consenso.