Considerazioni etiche, governance e gestione del rischio: come usare l’AI in modo responsabile

Un sistema AI, di per sé, non è né etico né non etico: riflette le scelte di chi lo progetta, lo addestra e lo mette in produzione. Proprio per questo, un’organizzazione che implementa l’AI deve assicurare un utilizzo responsabile, trasparente e corretto, così da rafforzare fiducia, conformità e creazione di valore nel tempo.

Come spiega Anna Gionfriddo, Country Manager Italia di Manpower, «L’Intelligenza Artificiale sta entrando nel mondo del lavoro con impatti differenti a seconda dei settori. Al tempo stesso, però, cresce l’esigenza di integrare in modo responsabile strumenti digitali e contributo umano».

Parlare di etica, in questo contesto, significa valutare le implicazioni morali delle decisioni: stiamo usando l’AI in modo coerente con i valori dell’azienda? E soprattutto: di quali valori parliamo? Non solo quelli dichiarati dal management, ma quelli delle persone che lavorano nell’organizzazione e di chi ne subisce gli effetti. I principi etici si estendono anche al contesto in cui l’azienda opera: società, ecosistema, settore, mercato. Alcuni sono “scritti” nelle norme e nei requisiti da rispettare; altri agiscono come obiettivi di fondo, presenti in standard, regolamenti e pratiche consolidate (anche quando non sono esplicitati).

È necessario quindi mettere a fuoco le principali sfide etiche dell’AI e pensare a un modo sistematico per identificarle e gestirle, così da creare valore senza perdere l’allineamento con i valori organizzativi e senza compromettere diritti e integrità delle persone. È anche un campo in evoluzione rapida: nuove domande emergeranno nel tempo, e le linee guida interne dovranno essere aggiornate man mano che cresce la conoscenza e cambia il quadro normativo.

AI human-centered e accountability: il principio da cui partire

Se c’è un principio da privilegiare (e rimettere costantemente in discussione) è l’approccio human-centered: l’AI dovrebbe supportare — non sostituire — il giudizio e le decisioni umane. È un concetto che si evince chiaramente dal report “The Human Edge”, presentato da ManpowerGroup al World Economic Forum, che nel quadro dei cambiamenti lavorativi di questi anni disegna un presente e un futuro in cui sempre di più l’Intelligenza Artificiale debba andare di pari passo con la crescita di expertise umane. 

Gli strumenti di Intelligenza Artificiale devono aumentare conoscenza ed esperienza, soprattutto nei processi decisionali complessi. Nelle decisioni critiche, la responsabilità finale deve restare alle persone, in particolare quando l’AI incide su individui, con conseguenze sociali o economiche rilevanti.

Da qui discende un tema operativo: accountability, vale a dire responsabilità. L’organizzazione deve definire chiaramente chi è responsabile dell’uso dell’AI e chi prende decisioni basandosi sui risultati. Servono ruoli e responsabilità espliciti, con personale qualificato che validi e approvi le soluzioni prima del rilascio. Va inoltre chiarito chi risponde legalmente se qualcosa va storto. Infine, devono essere previsti meccanismi di monitoraggio continuo per verificare che i sistemi funzionino come previsto e rispettino le linee guida etiche - e questo diventerà sempre più importante con l’evoluzione delle regolamentazioni sull’AI.

Trasparenza: la fiducia non è un optional

Per costruire fiducia, dipendenti, clienti e regolatori devono poter capire come l’AI viene usata in azienda e quali decisioni supporta. Questa è la trasparenza: riguarda sia lo sviluppo sia il funzionamento quotidiano delle soluzioni. Trasparenza significa anche dichiarare quali misure sono state adottate per rendere affidabili decisioni e output generati dall’AI. Se non è possibile ottenere un livello sufficiente di trasparenza su “come e quando” viene utilizzato un sistema di Intelligenza Artificiale, l’organizzazione dovrebbe considerare strumenti o metodi alternativi.

La trasparenza, però, richiede un altro ingrediente: la spiegabilità. È necessario saper raccontare risultati e fornire raccomandazioni in modo comprensibile alle persone. Un esempio: se l’AI ottimizza l’esperienza cliente, deve essere possibile spiegare perché alcuni segmenti ricevono determinate soluzioni. E se un algoritmo suggerisce una strategia, deve essere chiaro su quali informazioni ha lavorato e come è arrivato a quella conclusione.

Attenzione però a un rischio, sempre presente: una spiegazione troppo complessa perde la sua funzione. Anche se ogni passaggio è semplice, un numero eccessivo di step può rendere l’intero processo opaco quanto una “scatola nera”. La spiegabilità serve proprio a consentire ai decisori umani di valutare l’output AI e, se necessario, superarlo. È un tema che incrocia logica, scienze cognitive e psicologia: l’obiettivo non è solo “spiegare”, ma farlo in modo tecnicamente corretto e davvero comprensibile.

Questo perché, come spiega molto bene Athics, partner di Manpower , un’efficace implementazione dell’AI richiede una governance strutturata e un approccio etico rigoroso, basato sul principio fondamentale che la tecnologia debba essere “centrata sull’uomo”, supportando il giudizio e le competenze umane anziché sostituirli, specialmente nei processi decisionali critici. Trovi la guida qui.

Correttezza e bias: quando i dati ereditano i problemi del mondo reale

La correttezza è dunque una delle questioni etiche più rilevanti. L’AI può rafforzare bias sociali già presenti perché spesso viene addestrata su dati che li riflettono. Un esempio: un sistema AI che valuta richieste di credito potrebbe discriminare in base a genere o appartenenza etnica se questi bias sono presenti nel dataset che utilizza.

Da qui una responsabilità operativa: valutare e correggere i sistemi per rimuovere i bias indesiderati. Non va dimenticato un punto di partenza, molto importante: tutti i dataset contengono bias, perché sono schemi che permettono agli algoritmi di trovare segnali utili. La sfida non è “eliminare ogni bias”, ma utilizzare i segnali in modo costruttivo evitando che producano esiti scorretti o peggio, discriminatori.

Per farlo, serve:

• Definire cosa significa “correttezza” per ciascun caso specifico;
• usare dataset sempre diversi; 
• aggiustare gli algoritmi anche in fase di sviluppo;
• introdurre meccanismi per rilevare e correggere risultati distorti.

Dark patterns e manipolazione: rischio etico (e legale)

I “Dark Patterns”, illegali secondo l’EU AI Act e il Digital Services Act, coprono l’ambito di tutto ciò che spinge le persone verso scelte che, con informazioni complete, probabilmente non farebbero. Il rischio che si corre con l’Intelligenza Artificiale è che possa amplificare queste pratiche, per esempio quando viene usata per massimizzare guadagni di breve periodo a discapito dell’interesse di lungo periodo degli utenti. Così fa per esempio un sistema di dynamic pricing guidato dall’AI, che può sfruttare bias psicologici per indurre i consumatori a pagare di più.

La posizione dell’azienda dev’essere netta: l’organizzazione deve assicurare che le soluzioni AI non manipolino o sfruttino l’utenza, in particolare i gruppi vulnerabili. Prioritizzare trasparenza e spiegabilità riduce il rischio di dark patterns. 

Dipendenza dall’AI: quando l’efficienza diventa fragilità

Integrare l’AI nei processi senza una valutazione completa dei rischi può trasformarla in una fonte di vulnerabilità. Il punto non è demonizzare lo strumento, ma assicurare che competenza umana e pensiero critico restino centrali. Un’eccessiva dipendenza — soprattutto nelle decisioni complicate — può erodere competenze interne e aumentare la dipendenza da fornitori tecnologici. Se, ad esempio, l’azienda automatizza le interazioni con i clienti tramite AI, deve garantire canali umani per i casi complessi o sensibili.

C’è poi un rischio di continuità operativa: l’AI può diventare talmente integrata da rendere l’organizzazione “non funzionante” senza di essa. Se un sistema diventa improvvisamente indisponibile (cambio di pricing del provider, interruzione del servizio, fallimento, o cambiamenti tecnologici drastici) l’impatto può essere severo. Anche aggiornamenti frequenti e salti tecnologici possono costringere l’organizzazione a continui adattamenti, aumentando costi e richiesta di risorse. La mitigazione passa dal valutare la stabilità dell’intera catena tecnologica e dal predisporre piani di contingenza e alternative.

Impatto ambientale e climatico: l’energia è parte del conto

Addestrare modelli AI di grandi dimensioni richiede quantitativi di energia significativi e può aumentare l’impronta di carbonio, soprattutto in ambiti di machine learning e deep learning con grandi dataset e molta potenza di calcolo. Per ridurre l’impatto, ci sono due leve: algoritmi e infrastrutture più efficienti, e scelta di provider su cloud che utilizzano energia rinnovabile. Il tutto dovrebbe rientrare in una strategia più ampia di digitalizzazione sostenibile: innovazione sì ma con responsabilità ambientale.

L’impatto non esiste solo in fase di sviluppo e training ma continua lungo l’intero ciclo di vita. Aggiornare e scalare i modelli mentre crescono i dati spesso richiede più energia. Pianificare consumi e scelte tecnologiche nel lungo periodo aiuta quindi a ridurre l’impronta complessiva.

Gerarchie intenzionali: un metodo per affrontare dilemmi etici

L’adozione dell’AI porta spesso dilemmi che richiedono equilibrio tra opportunità e considerazioni etiche. La cosiddetta Struttura Gerarchica Intenzionale è uno schema che posiziona le decisioni su uno spettro: dal semplice rispetto normativo fino a una scelta consapevole basata su valori e responsabilità sociale.

Al livello più basso, l’azienda punta soprattutto a evitare errori, rispettare leggi e minimizzare rischi reputazionali. Salendo, le decisioni riflettono un impegno più intenzionale verso valori e responsabilità. Un approccio solo “compliance” tende a essere reattivo, trattando l’etica come obbligo. Un lavoro etico sistematico, invece, rafforza cultura interna e reputazione esterna.

Quando i valori entrano in conflitto (esempio tipico: privacy vs necessità di grandi dataset per training), il framework suggerisce diverse strategie di risposta:

• Prioritizzazione: scegliere un valore a scapito dell’altro (soluzione semplice ma spesso poco soddisfacente).
• Compromesso: bilanciare i valori, ottenendo però un risultato non ottimale per entrambi.
• Riconciliazione: ridurre o eliminare la contraddizione, ad esempio sviluppando tecnologie che riducono la dipendenza da dati identificabili.
• Mutuo beneficio: l’esito ideale in cui entrambe le parti “vincono”; nel caso privacy/accesso ai dati, l’uso di dati sintetici può permettere training proteggendo la privacy.

Non tutti i dilemmi sono risolvibili completamente, ma un approccio strutturato aiuta a costruire soluzioni più solide sul piano etico e tecnologico, preservando la reputazione aziendale e permettendo di sfruttare il potenziale dell’AI.

Governance, qualità e rischio: perché l’AI cambia le regole del gioco

L’AI impatta qualità e rischio in modi nuovi. Per questo, la governance deve adattarsi alle caratteristiche specifiche dell’AI rispetto alle tecnologie tradizionali. 

Responsabilità, controllo e qualità, non solo “modelli”

L’AI mette sotto stress la governance tradizionale perché molte soluzioni funzionano come “black box”: è quindi difficile spiegare come arrivano a un risultato. Questo crea incertezza su accountability e sul supporto decisionale quando entra in decisioni critiche. Governarla richiede un approccio strutturato: chiarire responsabilità, definire meccanismi di supervisione e garantire allineamento a obiettivi etici e organizzativi.

Questo processo parte da una strategia di governance su come vengono monitorati i sistemi, quali processi garantiscono qualità, compliance e miglioramento continuo. La governance dell’Intelligenza Artificiale non deve vivere “a parte”, ma va integrata nelle strutture e nei processi decisionali dell’organizzazione, assicurando sviluppo e utilizzo responsabili e trasparenti.

Per esempio: se una banca usa l’AI per valutare il credito, dovrebbe dichiarare che l’AI è in uso e chiarire chi è responsabile di monitoraggio performance, gestione errori e allineamento alle linee guida. E se il sistema produce decisioni ingiuste o discriminatorie, devono esistere meccanismi per rilevarle e correggerle.

Per rendere operativa la governance, l’organizzazione può istituire strutture dedicate: procedure, ruoli, responsabilità e — dove appropriato — un comitato etico o una governance board che supervisioni le iniziative AI e ne verifichi conformità a policy interne, standard etici e requisiti regolatori.

La qualità è parte della governance: linee guida e procedure interne, metodi di validazione e test prima del rilascio, durante gli aggiornamenti e nell’operatività quotidiana. I dati di training devono essere di qualità sia nello sviluppo iniziale sia nei retraining successivi, e occorre mantenerla anche sui dati in input in produzione. Strumenti utili includono ambienti di simulazione, cross-validation e progetti pilota per testare i modelli prima di un rilascio su larga scala.

Tornando sui rischi legati ai bias: un modello di recruiting può favorire indirettamente un gruppo demografico per effetto della storia dei dati (proxy effect), anche senza usare direttamente dati che distinguono i gruppi. Proprio per questo servono audit regolari per prevenire bias illegittimi o indesiderabili. 

Risk management: l’AI è dinamica, e proprio per questo più difficile da prevedere

A differenza di molti sistemi IT tradizionali, le soluzioni AI sono più dinamiche e spesso meno prevedibili, e rendono la gestione del rischio più complessa. Si tratta di potenziali problematicità che includono minacce tecnologiche (come cyberattacchi) e rischi business/etici legati a decisioni errate. Prima della messa in produzione, è quindi utile svolgere valutazioni del rischio che considerino superfici di attacco, errori algoritmici inattesi, uso dei dati e modalità decisionali.

Un concetto chiave è la “robustezza”: come si comporta l’Intelligenza Artificiale di fronte a eventi inattesi? Influenze esterne (guasti tecnologici, cambiamenti nei dati) devono essere gestite in modo controllato: la soluzione deve adattarsi o, nei casi critici, garantire uno spegnimento controllato (ad esempio in scenari come disastri naturali o incendi). Non solo: alcuni provider potrebbero inserire backdoor, vale a dire metodi non rilevabili dai clienti per bypassare le normali procedure di autenticazione. 

La gestione del rischio operativo è cruciale: un modello può fallire in modo inaspettato e, se usato in processi critici, le conseguenze possono essere importanti. È consigliato costruire scenari per osservare come i modelli potrebbero comportarsi in condizioni diverse e ipotizzare le situazioni peggiori, in modo da valutare risposte opportune. Inoltre, vanno valutati i rischi specifici del modello e le modalità per garantire sicurezza dei dati di training e resilienza contro eventuali attacchi, oltre a procedure di monitoraggio continuo.

Terze parti e rischi legali: valutare i vendor è parte della sicurezza

L’uso di provider esterni introduce rischi aggiuntivi. Quando si utilizzano servizi o modelli AI di terze parti, occorre valutarne sicurezza, affidabilità e conformità regolatoria. Servono assessment rigorosi e accordi chiari che proteggano interessi e dati dell’organizzazione.

È utile predisporre processi di monitoraggio specifici, controllare performance dei modelli esterni e verificare allineamento ai requisiti operativi. Questo permette di intercettare guasti e ridurre la dipendenza da terze parti senza tutele adeguate.

I rischi legali sono un altro asse: l’uso esteso e irresponsabile dell’AI può portare a violazioni di privacy, infrazioni su proprietà intellettuale o discriminazioni. E la regolamentazione, sempre più spesso, richiede che le aziende valutino e mitighino in modo sistematico i rischi tecnologici. Serve quindi garantire applicazione e aderenza alle leggi e predisporre procedure per gestire eventuali contestazioni.

Per mitigare il rischio operativo e decisionale, sono utili meccanismi di controllo in tempo reale che monitorino deviazioni della performance o cambiamenti nei dati in input, con alert automatici quando un modello produce risultati inattesi o irragionevoli. Questo riduce il rischio che errori impattino operazioni o reputazione, e assicura la possibilità di revisione umana quando necessario.

Il “caso Zillow”: quando un “black swan” manda fuori strada il modello

Zillow, nota azienda che si occupa del mercato immobiliare, ha sviluppato un sistema automatizzato per acquistare case basato sul modello Zestimate, che stimava i valori immobiliari con l’ausilio dell’Intelligenza Artificiale. Durante la pandemia COVID-19, il mercato ha avuto fluttuazioni importanti: di fatto, un vero e proprio evento “black swan” (vale a dire che si colloca al di fuori dalle ipotesi su cui il modello era stato addestrato). Il sistema non aveva meccanismi adeguati per rilevare anomalie e ha continuato ad acquistare immobili a prezzi gonfiati. Risultato: perdite finanziarie significative e decisione di interrompere il programma.

È un esempio chiaro di come non basti un modello “che funziona” quando le condizioni restano stabili; serve capacità di riconoscere quando il contesto cambia e il modello sta andando fuori traiettoria.

Reputazione, salvaguardie e compliance: la sostenibilità dell’AI è anche comunicazione

Oltre ai controlli tecnici, servono piani di contingenza per gestire la dipendenza operativa: procedure manuali e sistemi ridondanti che prendano il posto dell’AI quando fallisce, e processi alternativi quando il modello incontra dati imprevisti. Bisogna anche accettare un fatto: in ambienti dinamici, i modelli perdono accuratezza e richiederanno aggiornamenti frequenti.

La qualità del dato resta un rischio strutturale: dati scadenti possono portare a risultati inaccurati o distorti. Servono pratiche solide di data management: dati rappresentativi, accurati e privi di bias indesiderati; audit regolari di dati e modelli aiutano a mantenere qualità e affidabilità.

Il rischio reputazionale è esplicito: decisioni errate o discriminatorie possono generare attenzione mediatica negativa e intaccare fiducia di clienti e partner. La gestione reputazionale deve far parte del risk management, includendo strategie di comunicazione per rispondere in caso di errori o risultati controversi. Inoltre, gli algoritmi possono produrre outcome percepiti come imprevedibili o irragionevoli: anche quando basati su schemi reali, possono essere interpretati come discriminatori. Per questo, servono test automatizzati estesi e salvaguardie per rilevare anomalie e intervenire.

Sul fronte compliance, l’AI introduce nuove complessità: servono procedure robuste per monitorare, documentare e valutare decisioni e uso dei dati. Audit e reporting aiutano a dimostrare conformità e ridurre il rischio legale. La tecnologia può supportare la compliance con strumenti per monitorare decision-making, anonimizzare dati o automatizzare audit, mantenendo oversight anche in sistemi complessi.

Infine, la collaborazione con aree legali e autorità/enti regolatori aiuta a restare aggiornati e a seguire best practice come partecipazione a forum di settore, working group o programmi di certificazione sull’uso responsabile dell’AI. La compliance non è solo evitare sanzioni: è costruire fiducia. E diventa più gestibile quando è allineata a principi etici come trasparenza e accountability, con un sistema di controllo e miglioramento continuo.

Dati personali e GDPR: diritti “by design”, non a posteriori

Infine, attenzione. Se un modello AI viene addestrato su dati personali senza consenso, oppure se quei dati non possono essere eliminati su richiesta dell’utente, si rischia una violazione del GDPR. Per questo, i sistemi AI dovrebbero includere meccanismi integrati che permettano agli utenti di esercitare i propri diritti: accesso e diritto all’oblio (“right to be forgotten”).

Per essere conformi, servono processi trasparenti su come i modelli gestiscono dati personali, inclusa anonimizzazione e sicurezza. 

Potete consultare qui la guida all’implementazione di soluzioni di Intelligenza Artificiale di Athics, partner di Experis: dalla qualità dei dati alla governance, dai potenziali problemi alle grandi opportunità, un valido aiuto per gestire l’AI in azienda come una vera e propria strategia vincente.