Intelligenza artificiale, algocrazia e processi democratici. Il convegno a Trieste

12.03.2024 – 13:32 – Intelligenza artificiale. Ne sentiamo parlare costantemente. Quella che anni fa sembrava una meta futura, difficile da concretizzare ora arriva al Parlamento Europeo. Per tanti è ancora un’incognita, un sistema che prenderà il posto di noi umani…ciò che “ci sostituirà” in ogni ambito lavorativo. Conclusioni, forse, troppo precoci, dettate sicuramente dalla paura dell’ignoto, da qualcosa che non è materialmente tangibile. Domani, il Parlamento europeo approverà il regolamento sull’intelligenza artificiale che disciplina l’utilizzo delle nuove tecnologie in ambiti considerati potenzialmente pericolosi come la sanità con il conseguente rapporto tra medico e paziente, l’amministrazione della giustizia e i processi democratici. Come annunciato dall’eurodeputato Brando Benifei, uno dei relatori dell’ ‘Ai act’: “Entro maggio, questo testo verrà confermato dal Consiglio d’Europa e diventerà legge da applicare anche in Italia. Sono previste comunque tempistiche graduali per consentire ad aziende e realtà pubbliche di adeguarsi”. L’obiettivo dell’ ‘AI Act’ è assicurare che i sistemi AI utilizzati all’interno dell’Unione Europea siano completamente in linea con i diritti e i valori della stessa. Necessaria però è una puntualizzazione in merito alla trasparenza di questo sistema: “Trasparenza è proteggere il copyright dei contenuti tratti da fonti giornalistiche, fa notare Benifei, l’Unione Europea è la prima al mondo a porre norme obbligatorie e coercitive, con tanto di sanzioni”.

Sebbene negli anni l’intelligenza si sia evoluta sempre più, è necessaria una buona preparazione per utilizzarla correttamente, secondo le norme prestabilite. Come dichiarato da Fabiano Benedetti, l’Amministratore delegato di beanTech, azienda specializzata nell’integrazione di soluzioni informatiche: “L’IA nei processi produttivi è ormai una presenza costante. Dal controllo qualità con il riconoscimento dei difetti nella produzione, al supporto tecnico in caso di malfunzionamento dei macchinari, ormai l’intelligenza artificiale fa parte della realtà delle aziende in ogni campo”. Ed è proprio la poliedricità di questo strumento che lo rende unico. Zeno D’Agostino, presidente uscente dell’Autorità di Sistema Portuale del Mare Adriatico Orientale, nel suo intervento ha parlato di competitività dei territori e delle infinite opportunità di utilizzo dell’intelligenza artificiale anche in ambito marittimo: “Stiamo realizzando varie ipotesi di sviluppo dell’area portuale in termini ferroviari grazie a un progetto con l’Università di Trieste, così come valutiamo l’impatto delle attività sull’ecosistema marino. Preoccupa il mondo che si sta però delineando: se da una parte non c’è una completa sostituzione dell’essere umano, sono molti i rischi che corriamo in termini sociali”. Ma quali possono essere i veri rischi sociali dell’uso dell’IA nelle aziende? Come riportato da un’analisi del Parlamento Europeo sui benefici e i rischi dell’intelligenza artificiale, questi ultimi risultano essere principalmente 5:

1. Non usare l’intelligenza artificiale in tutto il suo potenziale porta alla scarsa attuazione di programmi importanti, come il Green deal europeo, perdita del vantaggio competitivo rispetto ad altre regioni del mondo e stagnazione economica 
2. La responsabilità civile dell’intelligenza artificiale: determinare chi sia responsabile per i danni causati da un dispositivo o servizio azionato dall’intelligenza artificiale, ad esempio, in un incidente in cui è coinvolta un’auto a guida autonoma, i danni devono essere ripagati dal proprietario, dal costruttore o dal programmatore?
3. Se non programmata correttamente, l’IA potrebbe condurre a decisioni riguardo a un’offerta di lavoro, all’offerta di prestiti e anche nei procedimenti penali, influenzate dall’etnia, dal genere, dall’età.
4. L’IA può anche minacciare la protezione dei dati e il diritto alla vita privata. Può essere usata in dispositivi per il riconoscimento facciale o per la proliferazione online
5. Può anche essere usata per creare immagini, video e audio falsi ma estremamente realistici

E su quest’ultimo punto, oggi più che mai, nei social abbiamo l’esempio di video creati con l’intelligenza artificiale facendo uso di immagini e voci di politici, figure di spicco e vip. Quanto i rischi sono causa di una mancata preparazione e quanto invece di una scarsa informazione? A questo proposito, è passato in rassegna anche il possibile utilizzo dell’IA nel campo dello screening sanitario, in cui Andrea Di Lenarda, direttore del Centro cardiovascolare Asugi di Trieste, ha ricordato che: “L’Fda (Food and Drug Administration) americana ha approvato l’utilizzo dell’IA per interpretare, anche su vasta scala, esami come gli elettrocardiogrammi, incrociando i risultati dei pazienti nel tempo, mappando così al meglio il progresso delle malattie”.

A ciò si aggiunge l’ambito della telemedicina, quello dei processi amministrativi oltre al giornalismo, su cui, Massimiliano Fedriga, governatore del Friuli Venezia Giulia, sempre durante il convegno in Consiglio Regionale ieri, “L’intelligenza artificiale: le sfide alla politica e alla Pa”, in qualità di presidente della Conferenza delle Regioni italiane, si è così espresso: “Formare la capacità critica del singolo cittadino, in modo da aiutarlo a vagliare le informazioni che riceve. Una fascia di popolazione particolarmente a rischio mi sembra quella delle persone meno giovani, che rischiano di confondere le notizie di giornali e televisioni con quelle che arrivano da altre fonti non attendibili. Ci troviamo in un contesto geopolitico complesso: siamo sicuri, si chiede il governatore, che una regolamentazione europea, magari giusta ma stringente, ci ponga al riparo dalle iniziative che arrivano da altri Paesi del mondo non democratici, in grado di influire comunque sulle nostre società?”

In ambito regionale, anche Mauro Bordin sottolinea come non possano mancare dei dubbi riguardo questa nuova tecnologia: “È naturale che ciò avvenga. Oggi, ad esempio, si pone attenzione al percorso di apprendimento delle macchine che in qualche caso non richiede neppure la supervisione umana. Ma anche quando è l’uomo a fare la formazione, bisogna vigilare sulle scorciatoie mentali e sui pregiudizi che potrebbero viziare le informazioni fornite”. Bordin ha fatto riferimento alla decisione di alcuni Stati di sperimentare l’IA nel sistema giudiziario, per l’elaborazione di dati che calcolino le probabilità di recidiva di persone che hanno commesso un reato. “È necessario in questo campo un approccio condiviso da parte dei diversi Stati, e c’è bisogno di un codice etico. È il mondo politico che è chiamato a prendere le decisioni, in un confronto costante con i tecnici e gli esperti, garantendo attenzione alla privacy dei cittadini nella gestione dei dati e vigilando sugli impatti nel mondo delle professioni. Da sempre ogni grande innovazione, ha concluso Bordin, può essere utilizzata per il progresso e il benessere, ma può anche portare conseguenze dannose. Un esempio sono i droni, utilizzati inizialmente solo per fare fotografie e riprese video e poi trasformati in strumenti militari. Questo comporta criticità in un contesto internazionale non sempre guidato da persone con il necessario equilibrio.”

Anche il vicepresidente dell’Assemblea, Francesco Russo, esterna le difficoltà che potrebbero emergere dal punto di vista politico se l’IA prendesse sempre più piede: “Se non sappiamo distinguere il vero dal falso di ciò che ci viene detto, se non siamo in grado di verificare se il nostro interlocutore è un umano o no (test di Turing), per la democrazia è davvero un gran problema”. La domanda posta da Russo, “siamo in una democrazia o in una algocrazia?” fa sicuramente riflettere. Algocrazia è un termine la cui prima attestazione risale al 2013, si intende un ambiente digitale di rete in cui il potere viene esercitato in modo sempre più profondo dagli algoritmi, cioè i programmi informatici che sono alla base delle piattaforme mediatiche, i quali rendono possibili alcune forme di interazione e di organizzazione e ne ostacolano altre”. Russo ha posto inoltre posto altri 5 quesiti:

1. Se sia un rischio reale che, con la necessità di grandi datacenter per far girare gli algoritmi di IA, di nuovo stiamo centralizzando nei cloud il potere computazionale?
2. Se siamo in grado di prevedere come l’IA trasformerà il lavoro, alcuni settori economici, identità, e se sarà possibile bilanciare i rischi con le opportunità di creare nuovi mestieri?
3. Usa e Cina corrono, noi cosa facciamo?
4. Se sia ancora possibile pensare di non affidare a pochi monopolisti privati una risorsa così importante, anche per evitare distorsioni, discriminazioni e ingiustizie sociali?
5. Qualsiasi scelta tecnologica ha implicazioni etiche e di valore, chissà se riusciremo a darci il tempo per riflettere sui grandi cambiamenti in arrivo?

[c.v.]