IA e Pubblica Amministrazione: Outsourcing per l'approvvigionamento tecnologico

Quando parliamo di IA applicata alla Pubblica Amministrazione (PA), dobbiamo essere consci delle criticità associate al suo impiego.

La PA italiana sta gradualmente integrando soluzioni di IA nei propri processi operativi, ma non vi è un diretto sviluppo di queste nuove tecnologie da parte di quest'ultima. Ed ecco che entra in campo l'Outsourcing di cui si avvale la PA per l'acquisizione di queste nuove tecnologie avanzate. Questo approccio pone però la PA in una posizione di dipendenza dai grandi player del mercato tecnologico, introducendo anche problematiche legate alla gestione dei dati sensibili e alla sicurezza informatica.

Bias e discriminazione: le ombre del deep learning

Il problema del bias non è solo tecnico ma anche sociale. Gli algoritmi imparano dai dati umani, quindi riproducono i nostri pregiudizi. Se vogliamo cambiare questo scenario, dobbiamo lavorare sia sui dati che sull'architettura stessa dei modelli.

I sistemi di deep learning, decisamente performanti, tendono a replicare pattern statistici esistenti nei dataset su cui vengono addestrati. E quando tali dataset riflettono pregiudizi sociali? Se il dataset su cui viene addestrato contiene informazioni parziali o discriminanti, il risultato sarà inevitabilmente distorto.

La recente normativa europea sull'IA rappresenta un tentativo significativo di regolamentare l'utilizzo delle stessa classificandola in base ai livelli di rischio associati. Si mira a garantire la sicurezza durante lo svolgimento della sua funzione.

GDPR

Il Regolamento Generale sulla Protezione dei Dati (GDPR) ha delineato dei parametri legati al trattamento dei dati personali. Dunque, la PA può dipendere dall'utilizzo delle tecnologie di fornitori terzi in conformità con le nuove norme vigenti e per mitigare i rischi basterebbe adottare la buona vecchia "prevenzione". Così ci viene in aiuto la "compliance by design" che altro non è se non l'incorporamento dei criteri di sicurezza ed etica quando si progettano, sviluppano e successivamente implementano le nuove tecnologie legate all'IA.

In conclusione possiamo affermare che la minimizzazione dei rischi sia al centro della PA.