Professionisti e manager si interrogano su come coniugare l’inarrestabile avanzata tecnologica con i principi etici: come assicurare che le macchine, con la loro inesauribile capacità di apprendimento e creazione, servano l’umanità senza sopraffarla? Alberto Termine, esperto di studi sull’intelligenza artificiale e governance aziendale (Istituto Dalle Molle), ci aiuta a fare chiarezza.

​​​​​​​ Innanzitutto, sottolinea come le problematiche etiche riguardanti l’uso dell’Iintelligenza artificiale in contesti aziendali siano: “svariate e complesse, a partire dalla trasparenza e dall’interpretabilità". Gli algoritmi di machine learning, per quanto straordinari nelle loro capacità predittive, agiscono spesso come delle vere e proprie scatole nere (black box). “È difficile per gli utenti comprendere come e perché i sistemi di IA prendano determinate decisioni”,  osserva Termine. Questa opacità mina la capacità di controllo umano, rendendo difficile supervisionare il comportamento delle macchine e verificarne l’affidabilità.

Il concetto di black box assume una rilevanza particolare quando l’Intelligenza artificiale viene utilizzata per prendere decisioni che riguardano direttamente le persone, come nel caso delle assunzioni o della concessione di crediti. Se un algoritmo non spiega perché esclude un candidato o perché assegna un punteggio di rischio elevato a un richiedente, si rischia di perpetuare, o addirittura aggravare, pregiudizi inconsci. Il problema non si limita alla trasparenza. Termine spiega come i modelli di IA: “addestrati su grandi quantità di dati grezzi, possano facilmente assimilare bias esistenti nei dati stessi”. Questi pregiudizi, spesso legati a discriminazioni etniche, di genere o politiche, vengono poi ereditati dai sistemi e si traducono in decisioni potenzialmente discriminatorie. "Per garantire un uso responsabile dell’IA, le aziende devono adottare strategie di controllo rigorose, capaci di identificare ed eliminare la presenza di dati distorti o previsioni influenzate da bias”.
​​​