L’Etica dell’IA in Azienda

Come introdurre una valutazione etica degli strumenti di IA che stai già usando — una guida pratica per manager e HR

Domenico Famà, HR Interim Manager — Maggio 2026

Summary

Questo articolo si rivolge a chi sta sperimentando strumenti di IA nel lavoro quotidiano, magari senza disporre ancora di una politica aziendale.

Il suo scopo è quello di fornire un primo aiuto nel capire come valutare l’uso della IA in modo responsabile, senza attendere che arrivi una direttiva dall’alto.

Si sviluppa in due sezioni principali:

I paragrafi 1-6 costituiscono il corpo principale, di taglio più sintetico-pratico: 1. Importanza della AI Ethics – 2. Rischi concreti – 3. Valutazione etica – 4. Cosa cambia con l’IA – 5. Check list operativa – 6. Tre principi da memorizzare. Completa la sezione la lista dei principali riferimenti alla letteratura suggerita, compresi interventi registrati su YouTube.

Le tre appendici di approfondimento: A.1 Glossario Essenziale; A.2 Riferimenti normativi da cui non si può prescindere (aggiornati al maggio 2025); A.3 Approfondimenti dei temi toccati nei paragrafi 2 e 4

Note per il lettore

Principali fonti d’ispirazione – I concetti citati in questo articolo si ispirano principalmente, anche se non esclusivamente, alle riflessioni di Mariarosaria Taddeo (Rif.4), Paolo Benanti (Rif.2), Luciano Floridi (Rif.5), e Massimo Cacciari (Rif.1): vedere più puntualmente la lista dei Riferimenti nell’apposito paragrafo prima delle Appendici. In ogni caso, eventuali errori concettuali contenuti nell’articolo sono esclusivamente imputabili alla mia errata comprensione o interpretazione dei loro lavori.

Utilizzo di IA – L’articolo è stato redatto col supporto di una IA: Claude (Sonnet 4.6 con abbonamento Pro) solo in fase di revisione finale della bozza. L’uso redazionale della IA era finalizzato a valutare: (i) leggibilità, (ii) coerenza interna degli argomenti e (iii) coerenza rispetto alla finalità dichiarata (vedi il Summary).

Evidenzio che l’uso di una IA nella fase preliminare, di studio della materia, non mi è stato di alcun aiuto. Probabilmente a causa della varietà degli approcci e dei temi discussi dalla letteratura.

Ritengo non secondario questo aspetto: pare confermare che anche solo un primo livello di conoscenza della materia debba essere acquisito attraverso il metodo classico: dedicare tempo ed energia a studiare, vagliare criticamente, schematizzare ed infine comprendere una materia. Comprendere come atto di form(a)-azione di appropriati schemi di pensiero nella propria mente. E come atto fondante di una capacità umana di valutazione critica autonoma (nei termini di rischio di perdita di competenze critiche, il tema viene trattato anche in Appendice 3 al punto c).

—————————————————————————————————————

1. Perché questo tema ti riguarda

Hai già usato una IA per preparare una risposta a un candidato. Hai lasciato che un tool di ATS potenziato da IA filtrasse i CV in ingresso. Hai chiesto a un assistente IA di sintetizzare i risultati di una survey sul clima aziendale. Forse nessuna di queste cose ti sembra un problema: è solo un modo per lavorare più velocemente.

Eppure, ognuna di queste azioni contiene una decisione — su persone, su processi, su relazioni — che è stata in parte delegata a un sistema che non puoi interrogare, che non ti spiega il perché e che potrebbe aver appreso i propri schemi da dati distorti.

Non è un invito a diffidare a priori di un sistema tecnologico avanzato come la IA, non si tratta di suggerire di fermare l’innovazione. Si tratta di non correre rischi che non hai ancora visto perché non li hai neppure cercati, magari non sai neppure che possano esistere.

Sono tutti di natura etica, anche se alcuni sono già regolati da norme specifiche (compliance), e verranno articolati in forma di check list nel paragrafo 5. Già questa lista può essere un take away iniziale.

Bias e discriminazione
Responsabilità e scatola nera: chi possiede le competenze per criticare/ rifiutare le proposte delle IA
Trasparenza e GDPR
Equità e antidiscriminazione
Dignità della persona e del lavoro (es. macchinizzazione dell’uomo e sua riduzione ai suoi dati)
Atrofia delle competenze professionali del personale
Governance e accountability aziendali per la IA
Miglioramento continuo (compliance ed etica) degli impieghi di IA in azienda
Spiegabilità e compliance
Visibilità sistemica delle applicazioni di IA in azienda
Sostenibilità ambientale: contributo aziendale implicato dall’utilizzo di IA.

Dato di contesto: Secondo il Rapporto AI Index 2024 di Stanford, oltre il 55% delle aziende europee ha introdotto almeno uno strumento di IA nei processi HR negli ultimi due anni. In Italia, la maggior parte di questi deployment avviene a livello individuale o di team, senza una policy aziendale formalizzata.

—————————————————————————————————————

2. I rischi concreti che già stai correndo

Prima di parlare di etica come disciplina filosofica, è utile tradurla in reali aree di rischio etico per un’azienda. Eccone alcune, correlate con la lista del paragrafo precedente e che riguardano direttamente anche il lavoro di un manager HR:

Rischi tecnico-operativi nell’uso di IA (effetti di breve e medio termine):

Fiducia cieca nella macchina (Trust & Forget);
Correlazione come criterio assoluto di verità, ed altre fallacie;
Perdita di competenze critiche (Skill Atrophy);
Scatola nera decisionale (Black Box);
Manipolazione Invisibile (Nudging).

Rischi antropologico-culturali (effetti di medio e lungo termine):

Macchinizzazione dell’uomo;
Riduzione dell’uomo ai suoi dati.

a) Fiducia cieca nella macchina

Deleghi la selezione di un candidato a un ranking algoritmico senza chiederti su quali dati è stato addestrato. Se quel sistema ha appreso che i profili maschili hanno un maggiore tasso di conversione in termini di offerta accettata, sta discriminando. E tu ne sei responsabile davanti alla legge (art. 22 GDPR; L. 132/2025).

b) Correlazione come criterio assoluto di verità, ed altre fallacie

I sistemi di IA predicono i comportamenti futuri basandosi sui pattern del passato. Ad esempio, se nel tuo storico di selezione i profili più promossi sono stati prevalentemente maschili, il sistema tenderà a replicare quel pattern — non per scelta, ma per matematica. La IA basata su LLM fornisce risposte probabilistiche principalmente a causa dell’utilizzo massivo che fa delle correlazioni. Questo la espone al rischio di presentare per vere correlazioni che invece sono spurie, cioè false. Le IA sono inoltre affette da molte altre forme di fallacia, alcune delle quali sono discusse nella Appendice 3 al punto b).

c) Perdita di competenze critiche (Skill Atrophy)

Delegare sistematicamente un compito alla IA, ad esempio la sintesi dei feedback di performance, significa che quando quel tool non sarà disponibile, o darà risultati sbagliati, nessuno nel team potrà sostituirla, o accorgersi dell’errore: perché nessuno saprà più come si fa, o avrà accumulato sufficiente esperienza per saperlo fare in modo adeguato, efficace, professionale.

d) Scatola nera decisionale

Se non puoi spiegare a un dipendente perché il sistema ha valutato la sua performance in un certo modo, non hai solo un problema etico: hai un problema legale. La spiegabilità è un diritto previsto dalle normative europee.

e) Manipolazione Invisibile

I sistemi di raccomandazione — anche quelli di e-learning o welfare aziendale — spingono le persone verso certe scelte. Se non sei consapevole di questo meccanismo, non puoi garantire che le scelte dei tuoi dipendenti siano davvero libere.

f) Macchinizzazione dell’uomo

Si può presentare ad esempio in tre modalità:

Come asservimento del modo di lavoro di lavoratori/ professionisti a processi progettati per ottenere la massima efficienza da una IA.
Come progettazione di ambiente di lavoro a dimensione principalmente della IA.
Come degrado della qualità del contenuto di lavoro delle attività svolte dai lavoratori/ professionisti.

g) Riduzione dell’uomo ai suoi dati

In questo caso le possibilità sono molto numerose. Ne cito due a titolo esemplificativo, di carattere prettamente aziendale:

Gestione del personale basata principalmente sui dati. Può essere un effetto più di natura culturale che procedurale.
Interazioni azienda-persona mediate principalmente dalla IA. Tendono a far trascurare la dimensione relazionale originaria fra persone.

—————————————————————————————————————

3. Cosa significa «valutazione etica»

L’etica dell’IA non è un insieme di divieti, né una checklist di compliance da produrre per l’ufficio legale. È una bussola strategica che ti aiuta a prendere decisioni migliori — prima che i problemi si manifestino.

Aiuta nel bilanciare interessi legittimi contrapposti. Pone dei vincoli, ma proprio attraverso quei vincoli rende decidibili situazioni altrimenti bloccate dal timore di sbagliare, e libera opportunità che rischierebbero di rimanere inespresse.

Più nello specifico, valutare eticamente un tool di IA significa in prima istanza rispondere a quattro domande fondamentali:

Spiegabilità

Sono in grado di spiegare a un dipendente o a un candidato perché il sistema ha preso quella decisione? Se la risposta è no, stai usando una scatola nera.

Responsabilità

Se il sistema sbaglia, chi è responsabile? Hai definito chi ha l’ultima parola — sempre un essere umano (politica del Man in the Loop)?

Autonomia delle persone

Il tool sta supportando le scelte delle persone o le sta sostituendo? C’è sempre uno spazio per un dissenso umano, argomentato sulla base di competenze ed esperienze, in merito alle proposte di una IA?

Impatto sistemico

Questo strumento potrebbe amplificare pregiudizi esistenti nei dati storici, di cui magari si è inconsapevoli? Hai verificato i dataset di addestramento o chiesto evidenze al fornitore?

Rispondere a queste quattro domande richiede però di capire in che misura l’IA ha già trasformato o può trasformare— spesso in modo silenzioso — il modo in cui la tua organizzazione funziona. E’ quello che potrai fare leggendo il prossimo paragrafo.

Principio guida: L’intelligenza artificiale è uno strumento che risolve problemi senza «capire». Non ha coscienza, né senso morale. La responsabilità di ciò che fa ricade sempre sull’organizzazione che la utilizza (anche quando viene lasciata agire in modo autonomo – Agentic AI).

—————————————————————————————————————

4. Cosa cambia quando introduci l’IA

Introdurre l’IA in azienda non è quindi un semplice aggiornamento software: è una trasformazione del modo in cui:

le decisioni vengono prese,
il potere risulta ridistribuito,
le attività sono svolte,

e, per rimanere in ambito HR:

le competenze – tecnico professionali e di comportamento organizzativo – evolvono e vengono sviluppate,
le prestazioni sono valutate.

I. Da strumento a infrastruttura

L’IA smette di essere un’app e diventa la spina dorsale di processi critici. Quando questo accade, se ne ha una dipendenza strutturale e il rischio di interruzione o errore si moltiplica.

II. Spostamento del potere decisionale

Ad esempio, nelle aziende, chi controlla i parametri del sistema — i criteri di selezione, i pesi del ranking, le soglie di allerta — acquisisce un potere informale enorme sull’organizzazione, spesso senza che nessuno se ne accorga.

III. Human-Machine Teaming

Il modello più efficace e sicuro non è «uomo contro macchina», né «macchina al posto dell’uomo»: è la collaborazione ibrida, dove la macchina velocizza e l’uomo supervisiona, critica e decide in ultima istanza. A questo proposito, in uno dei suoi interventi l’esperta di etica Mariarosa Taddeo (Rif. 4) cita il caso della diagnosi tumori. Un team di specialisti oncologi ha mediamente un tasso di errore diagnostico inferiore a quello di una IA, ma il team misto IA-oncologi mostra un tasso di errore diagnostico molto inferiore a quello della sola IA.

Se l’obiettivo dell’introduzione della IA in diagnostica fosse solo quello della riduzione costi, si perderebbe una opportunità enorme rispetto ad una finalità, più degna, del salvare vite umane e ridurre le loro sofferenze.

—————————————————————————————————————

5. Come iniziare: la tua checklist operativa

Non serve aspettare una policy aziendale o un corso di formazione. Puoi iniziare questa settimana, applicando le domande in Tabella 1 a qualsiasi sistema di IA che stai già usando, in modo da rendere le risposte più specifiche.

Tabella 1

Quando	Domanda da farti	Rischio che presidia
Prima settimana	Sai su quali dati è stato addestrato il sistema che stai usando?	Bias e discriminazione
Prima settimana	Esiste una persona che può contestare o annullare la raccomandazione del sistema?	Responsabilità e scatola nera
Prima settimana	I dipendenti o candidati sanno che stai usando un sistema automatizzato?	Trasparenza e GDPR
Primo trimestre	Hai verificato se l’accuratezza del sistema varia tra gruppi demografici diversi, o hai chiesto al fornitore di mostrarti evidenze a riguardo?	Equità e antidiscriminazione
Primo trimestre	Hai verificato che le finalità per cui si adotta una IA e le trasformazioni che accompagnano l’adozione siano rispettose della dignità dei lavoratori, come persone e come professionisti?	Dignità della persona e del lavoro. Ad esempio: macchinizzazione dell’uomo e sua riduzione ai suoi dati
Primo trimestre	Il fornitore del sistema è in grado di spiegarti come funziona l’algoritmo?	Spiegabilità e compliance
Primo trimestre	Chi in azienda è responsabile formalmente dell’uso di questo sistema?	Governance e accountability
Primo anno	Hai un processo per riesaminare i sistemi IA periodicamente alla luce dei risultati?	Miglioramento continuo
Primo anno	Stai mantenendo vive le competenze umane che il sistema sta sostituendo?	Atrofia delle competenze
Primo anno	Hai mappato tutti i sistemi IA in uso in azienda, anche quelli «personali»?	Visibilità sistemica
Primo anno	Hai stimato l’utilizzo/anno dei sistemi di IA ed hai definito uno standard per tradurre quel dato in termini di impatto ambientale complessivo imputabile all’azienda (possono rientrare nelle stime delle emissioni di tipo Scope 3)?	Sostenibilità ambientale: contributo aziendale implicato dall’utilizzo di IA

Condividi questa checklist con il tuo team. Identifica anche un solo sistema IA che stai usando questa settimana e applica le prime tre domande. È già un primo passo concreto di governance etica.

—————————————————————————————————————

6. Per concludere: tre principi da tenere a mente

L’etica dell’IA ….. è una questione pratica che riguarda la qualità delle decisioni che prendi ogni giorno.

L’IA non decide: tu decidi.

Anche quando un algoritmo ti fornisce una raccomandazione, la responsabilità finale è sempre tua. Non delegare mai completamente — specialmente sulle persone.

La trasparenza è un vantaggio competitivo.

Le organizzazioni che sanno spiegare come usano l’IA godono di maggiore fiducia da parte di dipendenti, candidati e clienti.

La spiegabilità non è un costo, è un asset.

Non aspettare la policy perfetta. Scegli uno strumento che stai già usando e applica le undici domande della checklist. Quello è già un atto di governance etica.

Riferimenti

Rif 1 – Massimo Cacciari – (a) “Il Futuro della Tecnica”, discussione pubblica fra M.Cacciari e Riccardo Fesce, neurofisiologo, alla Casa della Cultura il 17 marzo 2026, su: https://www.youtube.com/watch?v=iDGtBgTQaAc

Rif. 2 Paolo Benanti – (a) “La nuova logica del dominio”, Editori Laterza, 2026;

(b) “Potenzialità e sfide dell’Intelligenza Artificiale”, intervento al Seminario del 2 marzo 2026: https://www.youtube.com/watch?v=Gx3kIVT7bFw.

“Algoretica”, intervento al festival della Filisofia 2020: https://www.youtube.com/watch?v=IeuRFOlomaQ;

(c) “Macchine Sapienti”, intervento inserito nel progetto “Dalla maschera al robot” con il contributo di Fondazione Cariplo (2019). Parte del ciclo “Quanto è intelligente l’intelligenza artificiale? Tre prospettive su etica, innovazione, e ricerca” a cura di Irene La Scala: https://www.youtube.com/watch?v=Dw5Z7oQMj2s;

Rif. 3 “Do Artifacts Have Politics?”, Langdon Winner, Daedalus vol 109 nr 1, 1980, Modern Technology: Problem or Opportunity? Anche su: https://faculty.cc.gatech.edu/~beki/cs4001/Winner.pdf . Fonte spesso citata dal filosofo con parte del percorso formativo in materie ingegneristiche e padre francescano Paolo Benanti, specialista di etica delle tecnologie.

Rif. 4 Mariarosaria Taddeo – (a) “L’Etica per il futuro delle democrazie digitali”, intervento alla Biennale Tecnologia del Politecnico di Torino, 2026: https://www.youtube.com/watch?v=UOEkMZODU04

(b) “Etica della IA”, intervento all’evento di Innovation Mobility organizzato da Asstra Associazione Trasporti, 2024: https://www.youtube.com/watch?v=zZpQJTgrbas;

(c)“Rivoluzione digitale: distrazioni e sfide”, Lectio Magistralis all’evento “Città delle Macchine” di Fondazione Leonardo, 2023: https://www.youtube.com/watch?v=7BG3fZvUAt0.

Rif.5 Luciano Floridi – (a) “Il nodo etico – Informazione e valori nella società digitale”, Raffaelllo Cortina Editore, 2026;

(b) “OnLife – La vita al tempo del digitale”, intervento agli appuntamenti di Onlife, il primo evento di Repubblica dedicato alla società digitale al Politecnico di Milano, 2019: https://www.youtube.com/watch?v=vVp0SHqDEwY ;

(c) “Intelligenza Artificiale: persuasione, consenso, simulazione”, intervento a Bologna, 2024: https://www.youtube.com/watch?v=NamFa7S8qiw.

Rif. 6 (a) A titolo di esempio, vedere una mia sintesi sul tema del fabbisogno di risorse della IA, principalmente energetiche e naturali, su: https://www.linkedin.com/feed/update/urn:li:activity:7433911552489136129/;

(b) Sul livello della corsa alle forniture energetiche e la tendenza da parte degli attori nel settore IA ad acquistare energia direttamente da centrali nucleari esistenti per i loro data center: (i) Reuters June 2025: https://www.reuters.com/business/energy/talen-energy-amazon-sign-nuclear-power-deal-fuel-data-centers-2025-06-11/ ; (ii) CNBC, Ryan Browne, Oct 2024: https://www.cnbc.com/2024/10/15/big-tech-turns-to-nuclear-energy-to-fuel-power-intensive-ai-ambitions.html

Rif. 7 “Spurious correlations – correlation is not causation”, Tyler Vigen page: https://www.tylervigen.com/spurious-correlations

Rif. 8 Dominik Hammann & Marc Wouters (2026) “Explainability Versus Accuracy of Machine Learning Models: The Role of Task Uncertainty and Need for Interaction with the Machine Learning Model”, European Accounting Review, 35:2, 343-375: https://www.tandfonline.com/doi/pdf/10.1080/09638180.2025.2463961

Rif. 9 “Perché non ti va più di lavorare – La stanchezza di chi sospetta che il lavoro non serva più a niente”, Andrea Colamedici, 2026: https://www.tlonletter.it/p/perche-non-ti-va-piu-di-lavorare?sfnsn=scwspwa

—————————————————————————————————————

APPENDICE 1 – GLOSSARIO ESSENZIALE

AI Act: Regolamento UE 2024/1689 che disciplina lo sviluppo e l’uso dell’intelligenza artificiale nell’Unione Europea.

Bias algoritmico: Distorsione sistematica nei risultati di un sistema di IA causata da dati di addestramento non rappresentativi o da scelte progettuali non neutrali.

Black box: Sistema il cui processo decisionale interno non è accessibile o comprensibile agli utenti esterni.

Data poisoning: Attacco informatico che altera i dati di addestramento di un sistema di IA per modificarne il comportamento.

Human-Machine Teaming: Modello operativo in cui uomo e macchina collaborano, con la macchina che esegue e l’uomo che supervisiona e decide in ultima istanza.

Nudging: Spinta comportamentale: meccanismo con cui un sistema orienta le scelte delle persone senza vietare alternative.

Prompt injection: Tecnica di attacco che manipola un sistema di IA generativa inserendo istruzioni malevole nel testo di input.

Spiegabilità (Explainability): Capacità di un sistema di IA di fornire una motivazione comprensibile per le proprie raccomandazioni o decisioni.

APPENDICE 2 – QUADRO NORMATIVO

Valutare eticamente l’IA non è solo una buona pratica: in molti casi è un obbligo di legge. Ecco i riferimenti essenziali per il contesto italiano ed europeo.

Regolamento UE sull’IA (AI Act, 2024)

Classifica i sistemi di IA per livello di rischio. I sistemi usati in HR (selezione, valutazione delle performance, gestione dei turni) rientrano nella categoria «alto rischio» e sono soggetti a obblighi specifici di trasparenza, supervisione umana e documentazione.

GDPR — Art. 22

Vieta le decisioni automatizzate che producano effetti significativi su una persona, salvo eccezioni. Garantisce il diritto a una spiegazione umana della decisione algoritmica.

Legge italiana 132/2025

Recepisce l’AI Act nel diritto nazionale e introduce obblighi specifici per le organizzazioni che usano sistemi di IA ad alto rischio, inclusi doveri di informazione verso i rappresentanti dei lavoratori.

Statuto dei Lavoratori — Art. 4

Il monitoraggio dei dipendenti tramite strumenti digitali (inclusa l’IA) richiede accordo sindacale o autorizzazione dell’Ispettorato del Lavoro, salvo che lo strumento sia «necessario» per la prestazione lavorativa.

APPENDICE 3 – APPROFONDIMENTI DEI PARAGRAFI 2 E 4

Paragrafo 2 “I Rischi concreti che stai già correndo”

a) Fiducia cieca nella macchina

Approfondimento – La tendenza a riporre fiducia nelle informazioni fornite da una macchina è un bias riconosciuto dalla scienza cognitiva. Questo bias si è consolidato sino ad oggi, dopo più di due secoli di utilizzo delle macchine nella economia industriale. Infatti, sino alla tecnologia delle IA, si trattava di macchine deterministiche, progettate per fornire risposte certe agli stimoli in entrata.

b) Correlazione come criterio assoluto di verità, ed altre fallacie

Approfondimento – La IA non è deterministica. Ad esempio, quelle basate sui Large Language Models (LLM), come Chat-GPT, Claude, Gemini, funzionano definendo correlazioni fra i simboli linguistici. Rilevano le probabilità con cui quei simboli vengono associati nelle frasi dalle persone. Ad esempio, accedendo sul web ai contenuti di libero accesso che singole persone, aziende ed istituzioni producono ogni giorno in quantità enorme. Le risposte che ci vengono date dalle IA sono quindi probabilistiche e funzionano in moltissimi casi. Tuttavia non sempre, come vedremo più avanti. La Intelligenza Artificiale non è intelligente: emula molto bene i comportamenti linguistici umani grazie a volumi incredibili di continue elaborazioni-dati. Ecco perché fra l’altro consuma così tanta energia. E’ una tecnologia intrinsecamente estrattiva. Estrae le sue capacità emulative dai dati che noi umani produciamo. Così come ha necessità di estrarre grandi quantità di altre risorse per funzionare (per un approfondimento specifico, vedere Rif.6): è il grosso tema della sostenibilità ambientale della IA, responsabilità che viene di fatto condivisa da ogni utente, in modo proporzionale alla intensità del proprio utilizzo.

Di fatto, un largo utilizzo delle IA nelle aziende porta a stabilire la correlazione come criterio di verità, in quanto meccanismo intrinseco al funzionamento delle IA basate su LLM. A questo punto però credo sia utile ricordare che sono molte le correlazioni spurie, ovvero false (Rif.7). Ne do un esempio fra tanti in Figura 2.

Figura 2 – Esempio di correlazione spuria, cioè falsa, fra serie di dati per altro addirittura pluriennali. Sono riportate sue serie di dati per il decennio 2012-2022. La prima (linea in rosso) è relativa al numero dei consulenti genetici attivi ogni anno nello Stato dell’Ohio (un consulente genetico fornisce informazioni ai pazienti affetti da una malattia genetica, aiutandoli a prendere decisioni per la sua gestione); la seconda (linea nera) è relativa all’indice di qualità dell’aria calcolato nella città di Dayton (capoluogo della contea di Montgomery, nello Stato dell’Ohio).

Quello di ritenere per vera una correlazione spuria è una delle tante forme di errore in cui può incorrere una IA. Nella Appendice 1 “Glossario essenziale” fornisco altri due esempi: il data poisoning ed il prompt injection, per non parlare delle ben note “allucinazioni”: perifrasi per nascondere errori tanto imprevedibili, legati alla natura probabilistica delle associazioni linguistiche degli LLM, quanto prevedibili perché specificate by project. Mi riferisco ad esempio alla caratteristica per cui, allo scopo di mantenere alto l’ingaggio dell’utente con una IA, alla macchina non è permesso di “dire” che non sa qualcosa. Di conseguenza viene permesso alla macchina di fornire risposte anche con bassissima probabilità, ovvero: di “inventare” la risposta.

Un altro errore frequente è quello di fornire in output l’indicazione di link web a fonti utilizzate dalla IA che poi risultano non funzionanti: un errore che spesso rivela la superficialità con cui si pubblicano articoli prodotti o supportati da IA, senza effettuare la minima verifica. E così via, la lista sarebbe ancora lunga.

Il livello di rischio d’errore può crescere ulteriormente nel caso della IA Agentica. Sono quelle IA capaci di effettuare azioni autonome, in assenza di controllo e approvazione umani, nella dimensione digitale dei dati e delle informazioni. In questi casi il rischio non è solo quello di ottenere informazioni sbagliate, con cui eventualmente prendere decisioni errate. E’ quello di scoprire troppo tardi che migliaia o più di azioni errate sono già state attuate, con un’enorme moltiplicazione ed irreversibilità del danno.

c) Perdita di competenze critiche

Approfondimento – A seguito della diffusione della IA negli USA, uno dei primi effetti rilevati sul mercato del lavoro è una significativa diminuzione di ricerche di personale per posizioni junior. Si tratta di posizioni in aree tecnico impiegatizie di natura intellettuale. I compiti prevalenti per queste posizioni sono anche quelli più facilmente delegabili ad una IA. La riduzione costi e la maggior velocità operativa attesa nel breve termine, grazie alla IA, comporta viceversa un rischio di medio termine di indisponibilità di professionalità di livello medio. Oltre ad un rischio di più lungo termine di interruzione della “catena di produzione” di professionalità elevate.

Questo fenomeno, se si confermerà negli anni a venire, comporterà un altro rischio, questa volta di natura più sociale. L’allargamento ulteriore della pratica di “appalto” degli oneri di formazione professionale, da parte delle aziende al sistema educativo pubblico. Già da qualche decennio, anche in Italia, è rilevabile questa tendenza delle aziende ad esternalizzare questi oneri al livello medio superiore ed all’università. È un sistema non sostenibile, dato il livello di accelerazione nella innovazione delle tecnologie cui stiamo assistendo. Infatti la velocità dell’innovazione comporta una similare velocità nell’obsolescenza dei profili professionali. Per recuperare la flessibilità è la rapidità di intervento necessarie, andrebbe ripensato il sistema privato-pubblico per la formazione continua, Una formazione che deve seguire le persone durante tutto il loro ciclo di vita lavorativo (lifelong continuous learning).

d) Scatola nera decisionale

Approfondimento – Nell’articolo “Explainability Versus Accuracy of Machine Learning Models” (Rif.8) viene riportato un grafico credo interessante. Mostra l’andamento dell’accuratezza degli output di varie tecnologie digitali rispetto alla possibilità di fornire una spiegazione su come sono stati ottenuti. Lo riporto in Figura 1 e credo che il risultato sia auto-esplicativo.

Figura 1 Relazione fra accuratezza degli output di una tecnologia digitale ed il grado di spiegabilità con cui si sarebbe in grado di capire come vengono ottenuti i risultati. Il Deep Learning alla base degli LLM ha il più basso indice di spiegabilità.

e) Manipolazione Invisibile

Approfondimento – L’effetto di influenzamento di decisioni e comportamenti umani generato dall’uso delle tecnologie è già noto da tempo (Rif. 3) ma ha anche effetti tangibili che si presentano come “regole di ingegnerizzazione”, dettate dall’efficienza e quindi assunte come oggettivamente giustificiate. Effetti che però introducono mutamenti d’ordine in spazi occupati anche dalle persone”. Si va dai vincoli sugli spazi agricoli (disposizione dei filari, forma delle piante, pendenze, ecc), e su alcune caratteristiche dello stesso prodotto agricolo da raccogliere, in caso di introduzione di macchine raccoglitrici; a quelli necessari negli spazi industriali per operare con artefatti tecnologici come presse, carrelli elevatori o robot. Da quelli nella strutturazione dei processi e dello spazio informativo delle aziende, necessari per utilizzare applicazioni gestionali e previsionali. A quelli fisici ed informativi necessari per disporre dei segnali necessari all’attività real time della IA (sensori IoT, reti wireless di connessione, modelli interpretativi dei segnali e previsionali dei comportamenti futuri di macchine, e persone). Tuttavia, i mutamenti d’ordine non hanno luogo solamente nello spazio fisico o in quello informativo, hanno luogo anche in quello sociale. Infatti, i mutamenti di ordinamento fra gli attori sociali comportano nuove disposizioni del potere che gli uni esercitano rispetto agli altri. Ad esempio, vi sono tecnologie che, per funzionare richiedono la concentrazione di determinate attività economiche, con ciò favorendo la formazione di oligopoli. E’ il caso della tecnologia nucleare, o appunto della IA. La concentrazione per ragioni economiche, inevitabilmente si tramuta poi in influenza di natura prima finanziaria e sociale ed infine politica.

Il potere di influenzamento della tecnologia è inoltre favorito anche da altre dinamiche, fra cui:

L’effetto del bias positivo verso le indicazioni fornite dalle macchine, cui ho già accennato.
La relazione empatica vissuta da non poche persone verso le IA, malgrado si tratti di una empatia ad una sola via. La IA è una macchina senza alcuna intelligenza, compresa quella sociale. Nè emozione, anche se può riuscire ad emularne i comportamenti linguistici (e facciali, in immagini e video).
Alcune scelte di progetto, ad esempio quella di assecondare le tendenze/ preferenze dell’utente. Si veda il caso degli algoritmi, ai tempi nemmeno ancora supportati da IA, delle piattaforme: per il social networking; di entertainment; ed in generale di acquisti on line.
Le intenzioni di eventuali utilizzatori malevoli, che intendono volutamente inquinare l’infosfera. O con notizie false (fake news) o con artefatti che rendano sempre più difficile distinguere il vero dal falso (ad esempio tramite il deep fake). Il loro scopo è quello di polarizzare le opinioni per influenzare il voto politico, ma il risultato è più ampio perché si sta scoprendo che minano alle basi alcuni dei meccanismi della coesione sociale, come la mutua fiducia e la capacità di confrontarsi dialogando. Conseguenza particolarmente grave per le democrazie liberali, come stiamo cominciando ad accorgerci nell’ultimo decennio (Rif. 4).

f) Macchinizzazione dell’uomo

Approfondimento – Alcuni degli effetti potenziali di asservimento sono classici, come l’aumento dei ritmi e dei carichi di lavoro per gli operatori umani. E’ l’approccio tipico che segue alla adozione di una tecnologia per scopi di efficienza. Invece di perseguire una maggiore efficacia, o di creare attività a maggior valore aggiunto e margini, ecc.

Sul lato delle trasformazioni dell’ambiente di lavoro, la introduzione di una nuova tecnologia comporta spesso la necessità di cambiare questi assieme ai processi: ne abbiamo visto qualche esempio al punto e). Una scarsa attenzione ai bisogni delle persone rispetto all’ambiente mutato in cui si troveranno ad operare può generare forti situazioni di disagio, impattando su efficienza e motivazione del personale.

Infine, un’attenzione esclusiva sull’ottimizzazione del ritorno degli investimenti in IA può portare a trascurare la dimensione della qualità del contenuto di lavoro per l’attore umano, generando perdita di senso del lavoro, alienazione, disingaggio, ecc. Le cause possono essere varie: difficoltà nell’acquisire competenze ed esperienze significative minano il valore di mercato delle competenze possedute; oppure, non poter svolgere attività dotate di una adeguata varietà dei compiti; o ancora, svolgere attività che sa essere ritenute di scarso valore; ecc.

Già oggi, il mutamento culturale avvenuto dopo la pandemia ha cambiato in modo rilevante la percezione del lavoro (Rif. 9). Anche senza il contributo che potrebbero portare le trasformazioni generate dall’adozione dell’IA: un uso attento della IA e dei suoi impatti interviene in una situazione già critica, potendo quindi contribuire o a migliorare la situazione, oppure a peggiorarla ulteriormente.

g) Riduzione dell’uomo ai suoi dati

Approfondimento – Ridurre la gestione del personale a quella dei “dati del personale ”: La normativa già pone una serie di paletti su un uso eccessivo, troppo esteso e non giustificato, dei dati per gestire le persone in una organizzazione. Tuttavia, non è difficile immaginare prassi operative che, pur risultando formalmente conformi alle norme, siano favorite dall’uso di applicazioni IA nel consolidare una cultura che trascuri tutto quello che nelle persone non è legittimamente computabile, in quanto “non rilevante” (<<si usa tutto quello che si può e lo si ritiene sufficiente allo scopo>>).

Relazioni azienda-persona mediate solo dalla IA: queste tendono ad istituire una distanza istituzione-oggetto così rinforzando stili di gestione strumentali, persino con una presenza umana nelle fasi decisionali. Un esempio tipico di questo effetto lo si ottiene tramite un uso eccessivo, manipolatorio, della “gamificazione” delle attività. Con questa tecnica, i risultati che le persone tendono a perseguire sono quelli ottenuti con comportamenti che fanno aumentare il punteggio (score) nella valutazione di cui si è oggetto. Quando ci si risveglia dal sogno del falso coinvolgimento, la percezione di distanza e manipolazione fra organizzazione e persone, con la sfiducia che ne segue, ha inevitabili conseguenze sulla prestazione e sull’ingaggio.

—————————————————————————————————————

Approfondimenti al Paragrafo 4 “Cosa cambia quando introduci la IA”

I. Da strumento a infrastruttura

Approfondimento – Quanto si riflette sul fatto che le tecnologie digitali intermediano servizi cui si ha accesso solo tramite licenze d’uso? Queste licenze d’uso contrattualmente quasi sempre prevedono il diritto esclusivo del fornitore di mutare le caratteristiche del software, anche in pendenza di contratto. Però, il software può determinare addirittura la destinazione d’uso del servizio. O del prodotto su cui il software licenziatario “gira”. Quindi una azienda, o una istituzione, fa dipendere il funzionamento dei suoi processi core, e la soddisfazione dei suoi clienti/ utenti finali, da prodotti/ servizi su cui esercita un diritto di proprietà monco. Inoltre, come abbiamo già visto, i fornitori di alcune tecnologie, in particolare la IA, sono limitati a pochi soggetti privati. Ad oggi 5-6 in tutto, e fra l’altro solo negli USA o in Cina. A seguito delle varie crisi mondiali che si manifestano con sempre maggior frequenza, le aziende hanno oramai ben presente il rischio di supply chain ed il suo legame organico con la dimensione geopolitica. La fornitura di servizi di IA rientra a pieno titolo fra questi rischi, ed è trasversale per tutti gli attori sociali di ogni paese: cittadini, aziende e pubbliche amministrazioni (Difesa compresa).

II. Spostamento del potere decisionale

Approfondimento – Si potrebbe persino immaginare, da parte di soggetti aziendali particolarmente consapevoli e capaci, un uso intenzionale di questa tecnologia per indirizzare il business sulla base oggettiva di dati opportunamente “trattati”. Basi quindi difficilmente controvertibili da altri meno capaci/ consapevoli/ informati, anche se in posizioni più rilevanti di potere formale. Siamo nel campo della manipolazione, chiaramente un atto non etico. Quali sarebbero le reali possibilità di verifica, controllo, audit senza un pre impostato sistema di governance di tutti gli impieghi di IA rilevanti, per controllo e decisioni strategiche in un’organizzazione?

III. Human-Machine Teaming

Approfondimento – Alla base della scelta aziendale di una organizzazione “only AI” (ad esempio le Dark Factories) o di una che opta per soluzioni Human – Machine (HUM-AI nello specifico) bisogna ricordare che c’è sempre la finalità che si vuole raggiungere.

Una delle finalità principali risulta essere quella della efficienza operativa tramite la riduzione dei costi. Quando la finalità primaria è questa, il funzionamento con modalità HUM-IA è perdente, perché la prima riduzione costi a cui purtroppo si pensa è sempre quella sul personale. Riduzione organici, utilizzo delle capacità lavorative “As a Service” (somministrazioni, free lance a partita IVA, ed altre forme light di rapporto di lavoro), precarizzazione, riduzione dei contenuti del lavoro. Quindi, come nel caso della diminuzione delle ricerche di personale per posizioni junior in lavori intellettuali, si finisce per privilegiare un beneficio a breve termine, aumentando in modo rilevante rischi di entità molto maggiore di medio e lungo termine.