Intelligenza artificiale: risorsa o minaccia?

“L'intelligenza artificiale (IA) è una branca dell'informatica che sviluppa sistemi capaci di eseguire compiti normalmente riservati all'intelligenza umana. Questi compiti includono il riconoscimento vocale, la comprensione del linguaggio naturale e la visione artificiale. L'IA si basa su algoritmi e modelli di machine learning, che analizzano dati per migliorare le proprie prestazioni nel tempo. Si distingue tra IA debole, focalizzata su specifiche applicazioni, e IA forte, che aspira a replicare l'intelligenza umana in modo più ampio. Le sue applicazioni sono diffuse in vari settori, come medicina, automazione, robotica e servizi al cliente.”
Il testo che avete appena letto è stato generato da uno dei più famosi modelli di intelligenza artificiale, ovvero ChatGPT  utilizzabile gratuitamente nella sua forma più semplice. È stato generato in pochi decimi di secondo dalla mia domanda: “spiegami in 100 parole cos’è l’intelligenza artificiale”. Il risultato è stupefacente, per velocità, accuratezza e correttezza della lingua. Un lettore attento noterà però che non sono 100 parole ma 91. Ho fatto notare questa cosa a ChatGPT che mi ha risposto così: “Hai ragione, scusami per l'errore. Ecco un testo esatto di 100 parole” e ha poi generato un testo molto simile ma…con 93 parole!
A quanto pare, quindi, l’intelligenza artificiale di ChatGPT non è in grado di contare, ma è chiaro che è in grado di mentire. Questo è un problema ben noto agli esperti e facilmente verificabile da chiunque. Se chiediamo infatti all’IA di risolvere un problema matematico, l’IA farà di tutto per trovare una soluzione, anche al costo di trovarne una sbagliata (come spesso accade). Il punto è che di intelligente, l’IA, non ha proprio nulla, nonostante l’hype del momento e il tentativo di vendercela come la panacea di tutti i mali (o un’incombente minaccia per la specie umana). ChatGPT, così come tanti altri modelli simili, si basa niente altro che sulla “forza bruta” di calcolo che gli è concessa dall’uso di immense risorse informatiche. In termini tecnici, ChatGPT è un “large language model” (LLM) ovvero un sistema che non ragiona ma calcola a testa bassa la risposta più probabile ad un quesito basandosi su dati che gli sono stati forniti in precedenza. Ma esattamente come funziona? Il principio è semplice: il programma viene “allenato” su un insieme molto grande di testi, dei quali analizza le frasi come sequenze di parole e fornisce un peso statistico ad ognuna di queste. Quando chiediamo all’IA di generare un testo, esso non fa altro che determinare, data una prima parola, qual è quella che segue con maggiore probabilità, in base ai dati acquisiti. Ad esempio, se gli chiediamo “dimmi qual è il colore del cielo con una sola parola” risponderà “blu” (provare per credere!) perché dai testi che ha analizzato avrà visto che “cielo blu” è la combinazione più frequente delle due parole “cielo” e “blu”. Per fare tutto questo servono grandissime basi di dati da analizzare dal punto di vista statistico, oltre che un’ingente quantità di energia. Le stime che circolano sono ancora poco attendibili ma secondo una stima della Danish Data Science Community l’aumento dell’uso di questi sistemi potrebbe portare all’emissione di un miliardo di tonnellate di CO2 nei prossimi venti anni con un notevole impatto sull’effetto serra e il cambiamento climatico.
Sulle grandi quantità di dati usate dall’IA per allenarsi, come possono essere l’intero archivio di un giornale, una biblioteca digitale o tutte le pagine di Wikipedia, è inevitabile che ci siano errori. Il punto però è che l’AI non è in grado, almeno in uno stadio iniziale, di riconoscere un errore (ad esempio un'errata data di nascita di Napoleone) e il rischio è che generi nuovi testi dove quell’errore rimane. E se questi testi, a loro volta, diventano nuove basi di dati per fare allenare altre AI l’errore si propaga senza controllo. Ad esempio, se l’AI afferma che Galileo e Colombo erano coetanei (come peraltro anche un nostro ex ministro ha solennemente dichiarato) e nessuno lo corregge, questa informazione può finire su testi importanti, libri di scuola e può alterare la storia per come la conosciamo, rischiando di farci cadere in un incubo orwelliano. In pratica, l’IA può generare, seppur inconsapevolmente, vere e proprie “fake news”.
Il quadro quindi non pare molto confortante e sembra in qualche modo aumentare la diffidenza che una buona parte di noi nutre verso l’IA. Già Alan Turing, il padre dell’informatica, dichiarò nel 1951 in un’intervista alla BBC che "Se una macchina può pensare, potrebbe pensare in modo più intelligente di noi, e allora dove ci troveremmo? Anche se potessimo mantenere le macchine in una posizione subordinata, ad esempio spegnendo l'energia in momenti strategici, dovremmo, come specie, sentirci profondamente umiliati. Questo nuovo pericolo è sicuramente qualcosa che può provocarci ansia."
Tuttavia, come per ogni strumento inventato dall’uomo, l’utilità o pericolosità dell’IA, dipende dall’uso che se ne fa. I large language model hanno applicazioni vastissime, ed innocue, già da diversi anni. Alcuni esempi sono i chatbot e gli assistenti virtuali presenti in molti siti web, i traduttori automatici, i sistemi che possono riassumere testi, controllarne la correttezza grammaticale oppure quelli per trovare errori nei codici di programmazione (debugging). In particolare, i LLM possono creare articoli, racconti, descrizioni, dialoghi, sintesi di testi e molto altro con un elevato grado di coerenza e fluidità.
In generale l’IA è molto più complessa dei LLM e ha applicazioni che possono andare ben oltre a quanto appena descritto. Ad esempio, si sta studiando in molti laboratori la possibilità che l’IA possa diagnosticare una patologia osservando, ad esempio, immagini radiografiche. Perché questo sia possibile ed efficace è necessario procedere sostanzialmente come nel caso dei modelli linguistici: questi sistemi devono infatti essere allenati su un gran numero di immagini preesistenti in modo da istruirli a riconoscere in modo inequivocabile eventuali anomalie. Altri esempi di applicazioni già in uso sono invece i sistemi di guida autonoma delle auto o quelli di trading automatico.
In questo senso l’IA può effettivamente essere una risorsa per il singolo così come per le aziende anche se, in quest’ultimo caso, il rischio è la sostituzione del lavoratore con sistemi artificiali. Molti esperti concordano nel ritenere che l’impatto dell’IA sarà molto profondo in termini di riduzione della forza lavoro e questo avrà certamente un vasto impatto sociale. L’attuale situazione è analoga a quella che portò alla nascita del luddismo, ovvero il sabotaggio delle prime macchine (come i telai meccanici) all’inizio della rivoluzione industriale del XIX secolo da parte di artigiani e operai timorosi di perdere il posto di lavoro.
L’IA apre anche molti problemi sul piano etico e su quello giuridico. L’IA infatti è ben lontana dall’essere considerata una persona giuridica (e speriamo sia così per sempre!) tuttavia cosa accade quando un’auto a guida autonoma finisce fuori strada? Di chi è la colpa? Oppure quando un drone guidato dall’IA compie una strage colpendo una scuola piena di bambini anziché un obiettivo militare, di chi è la responsabilità morale? Sono interrogativi, questi, già ampiamente dibattuti a livello accademico, ma nella società civile la confusione che regna è ancora tanta. Al punto che l’ONU ha creato nel 2021 un apposito gruppo di lavoro, l’Inter agency working group on artificial intelligence, con lo scopo di coordinare e armonizzare gli sforzi tra le varie agenzie dell'ONU nell'affrontare le implicazioni etiche, sociali e di governance dell'intelligenza artificiale. L'obiettivo generale è garantire che le tecnologie IA siano sviluppate e utilizzate in modi che contribuiscano alla pace globale, alla sicurezza, ai diritti umani e allo sviluppo sostenibile. Il fatto che le Nazioni Unite abbiano creato questo gruppo di lavoro è sicuramente positivo ma suona anche un campanello d’allarme su cui riflettere.