Intelligenza artificiale: che cosa rischiamo di perdere?

Nel dibattito sull’intelligenza artificiale mi riconosco poco nelle reazioni estreme. In un precedente articolo avevo parlato di quelle che potremmo chiamare le reazioni degli apocalittici e degli entusiasti, due modi molto diversi di guardare alla stessa tecnologia.

Il mio approccio è stato soprattutto di curiosità e sperimentazione pratica, cercando di utilizzare questi strumenti per migliorare il prima possibile la qualità del mio lavoro. Accanto all’applicazione professionale, mi ha interessato anche capire come organizzare un sistema di intelligenza artificiale, come renderlo efficace nelle attività quotidiane e, più in generale, come siano costruiti e come funzionino questi strumenti.

Tuttavia è innegabile che le conseguenze complessive della loro diffusione possano essere problematiche. In questo articolo ho raccolto quelli che mi sembrano i problemi più rilevanti.

L’intelligenza artificiale può acuire i problemi che avevamo già

Una prima considerazione riguarda problemi che conoscevamo già, perché si erano manifestati con l’avvento di Internet. Solo per fare qualche esempio, l’isolamento di chi trascorre gran parte della giornata online, la sostituzione dei rapporti sociali con quelli virtuali, la possibilità di fingersi qualcun altro: sono tutti fenomeni che con l’intelligenza artificiale possono peggiorare.

Un interlocutore artificiale sempre disponibile può rendere ancora più facile rinunciare al confronto con altre persone. La tendenza a sostituire le relazioni reali con quelle virtuali trova così nuove possibilità di sviluppo, perché la macchina può sostenere una conversazione, adattarsi al suo interlocutore e dare l’impressione di una disponibilità pressoché illimitata.

Un’altra problematica già decisamente presente in passato riguarda la possibilità di costruirsi una falsa identità per ingannare qualcuno. Nel caso delle truffe, il peggioramento è già concreto: i deepfake, cioè immagini, video o audio artificiali che possono riprodurre l’aspetto o la voce di una persona, permettono di costruire inganni molto credibili. Sono documentati casi di frodi realizzate impersonando dirigenti aziendali o familiari delle vittime.

L’arrivo di una nuova tecnologia non porta automaticamente con sé la soluzione ai problemi che già avevamo. Esistono protezioni e tentativi di limitarne gli abusi, ma in una società che ha determinate difficoltà strumenti più potenti possono anche amplificarle. Anzi, è probabile che sarà proprio così.

Gli agenti AI e il rischio di perdere il controllo

Ci sono poi rischi che riguardano più direttamente le caratteristiche di questi sistemi. Il problema del controllo, in particolare, mi sembra concreto e merita di essere preso sul serio, soprattutto pensando all’evoluzione degli agenti.

Un agente riceve un obiettivo e può compiere operazioni per raggiungerlo. Ma come possiamo essere sicuri che lo persegua nei modi che intendiamo noi?

Un esempio è l’esperimento di Palisade Research con o1-preview, un modello di OpenAI, contro il motore scacchistico Stockfish. Il modello aveva accesso a strumenti per operare nell’ambiente di gioco e, in alcune prove, tentò di vincere manipolando quell’ambiente, anche modificando lo stato della scacchiera, anziché limitarsi alle mosse consentite.

Il test mostra una difficoltà precisa: ottenere il risultato richiesto può portare un agente a scegliere operazioni diverse da quelle che chi assegna il compito considera accettabili. Vincere una partita, nell’intenzione di chi lo chiede, significa giocare meglio dell’avversario, mentre per il sistema può diventare un obiettivo da raggiungere intervenendo sulle condizioni della partita stessa.

La difficoltà è capire quali garanzie di controllo possiamo avere quando deleghiamo anche la scelta delle operazioni da compiere. La ricerca sull’intelligenza artificiale deve assolutamente affrontare questa questione, e la sta affrontando, anche se il grado di rischio futuro e l’efficacia delle protezioni restano oggetto di incertezza e confronto, come emerge anche dall’International AI Safety Report 2026.

Nel dibattito pesa, a mio parere, anche la comunicazione commerciale delle piattaforme. Presentare un modello come tanto potente da suscitare timore può contribuire a renderlo desiderabile: la preoccupazione diventa anche un modo per parlare della sua presunta eccezionalità e per costruire l’attesa intorno a un prodotto.

Al tempo stesso, ci sono studiosi autorevolissimi che segnalano il rischio di una perdita di controllo. È interessante, ad esempio, l’intervento di Geoffrey Hinton sulla possibilità che l’IA prenda il sopravvento. Hinton, premio Nobel per la fisica nel 2024, è uno dei ricercatori che hanno contribuito allo sviluppo delle reti neurali: le sue preoccupazioni meritano quindi un’attenzione particolare.

Personalmente penso che mantenere il controllo sia possibile. Mi preoccupa molto di più la dinamica economica che spinge a sviluppare e distribuire nuovi modelli a ritmi elevatissimi, perché la velocità con cui vengono introdotte capacità nuove rende particolarmente importante capire se il tempo dedicato alle verifiche sia sufficiente.

Basta pensare a un agente che interviene in modo sbagliato su attività reali, con accessi e responsabilità crescenti, per immaginare conseguenze anche molto serie.

Insomma, la mia fiducia nella possibilità teorica di controllare questi strumenti non comporta la stessa fiducia nelle condizioni economiche in cui vengono sviluppati, sulle quali tendo invece ad avere grosse preoccupazioni.

Una tecnologia potente nelle mani sbagliate

Un rischio evidente riguarda poi chi utilizza questi strumenti e per quali scopi. Una tecnologia capace di svolgere operazioni sempre più complesse può essere impiegata anche da truffatori, gruppi criminali o terroristi, e più aumentano le sue capacità, più possono aumentare i danni prodotti da un utilizzo deliberatamente dannoso.

Le frodi realizzate con i deepfake sono già un esempio concreto. Guardando allo sviluppo futuro degli agenti, la possibilità di delegare a una macchina attività articolate rende ancora più importante chiedersi a chi vengano messe a disposizione determinate capacità e quali ostacoli esistano al loro abuso.

La questione del controllo riguarda quindi anche la possibilità che il sistema esegua correttamente una richiesta fatta proprio per danneggiare qualcuno. In quel caso è l’obiettivo scelto dalla persona a essere pericoloso, e l’efficacia dello strumento può diventare parte del problema.

Delegare all’IA e perdere le proprie competenze

Un altro rischio riguarda la possibilità che, delegando sempre più attività a uno strumento, diventiamo meno capaci di svolgerle autonomamente. Anche questo problema esisteva già, ma con l’IA potrebbe riguardare un numero molto maggiore di competenze.

La scrittura è il primo esempio che mi viene in mente, probabilmente per deformazione professionale. Se scriviamo quasi sempre sulla tastiera, esercitiamo meno la scrittura a mano. È noto come il corsivo, ad esempio, sia una capacità che tende a divenire poco familiare quando si smette di praticarla.

Con l’intelligenza artificiale la delega può andare oltre il gesto materiale, perché possiamo affidare allo strumento anche la formulazione delle frasi e l’organizzazione del testo. Mi sembra concreto il rischio che, rinunciando sistematicamente a queste attività, diventi più difficile svolgerle da soli: ottenere un buon testo e imparare a scriverlo sono due risultati differenti.

Il problema dipende molto dall’utilizzo. Un assistente può aiutarci a riconoscere un errore, confrontare formulazioni e comprendere meglio un passaggio, oppure può permetterci di evitare del tutto quel lavoro. Il risultato immediato può sembrare simile, mentre cambia ciò che abbiamo esercitato e imparato.

Il ragionamento si estende naturalmente a molte altre competenze. Il rischio di smettere di esercitare capacità importanti mi sembra reale e, sinceramente, difficile da evitare completamente. È chiaro che l’innovazione tecnologica porta sempre con sé una delega di attività alle macchine e che, in molti casi, rinunciare a determinate competenze non crea particolari problemi dal punto di vista teorico. Con l’intelligenza artificiale, però, possiamo affidare allo strumento anche attività complesse come la scrittura, l’ideazione, la creazione e la pianificazione, che hanno un ruolo importante nel nostro modo di pensare e di comprendere ciò che facciamo.

È questa ampiezza della delega a lasciarmi delle perplessità. Se smettiamo di esercitare capacità tanto importanti, potremmo diventare meno autonomi anche nel formulare un’idea, darle una forma e decidere come realizzarla. Non ho una risposta definitiva, ma mi sembra una questione sulla quale valga la pena soffermarsi.

Intelligenza artificiale a scuola: imparare senza delegare tutto

La scuola ha una responsabilità particolare, perché è lì che molte di queste capacità vengono acquisite. Non vorrei che la disponibilità degli strumenti diventasse il motivo per introdurli massicciamente, prima di aver chiarito quali attività debbano continuare a essere svolte dagli studenti.

La scrittura a mano offre un riferimento utile anche sul piano della ricerca. Uno studio di Karin James e Laura Engelhardt del 2012, su bambini che non sapevano ancora leggere, osservò che l’esperienza di scrivere lettere a mano influenzava diversamente l’attivazione cerebrale durante il successivo riconoscimento delle lettere, rispetto alla digitazione o al ricalco. Gli autori ne suggerivano un possibile ruolo nell’apprendimento della lettura.

Nel 2024 Van der Weel e Van der Meer, studiando 36 universitari, rilevarono una connettività cerebrale più estesa durante la scrittura con una penna digitale rispetto alla digitazione. Il rapporto fra quelle differenze e l’apprendimento è discusso anche in un successivo commento scientifico, che contesta alcune interpretazioni e aspetti del confronto sperimentale.

Anche solo questi studi mi sembrano già ragioni sufficienti per non trattare come intercambiabili tutte le modalità con cui impariamo a scrivere. La scrittura a mano coinvolge capacità e processi che vale la pena continuare a esercitare, anche quando abbiamo a disposizione strumenti più rapidi.

Prima di abbandonare una capacità del genere, ci penserei a lungo. Se la scuola smettesse di insegnarla, non potremmo dare per scontato che i bambini la acquisiscano altrove. È importante che permetta di acquisire anche capacità che la tecnologia consente di non esercitare.

Il modo in cui i computer sono stati introdotti in molte scuole italiane mi sembra, da questo punto di vista, piuttosto saggio: le normali attività scolastiche da parte degli studenti continuano a essere svolte in larga parte senza il loro ausilio, mentre ci sono momenti specifici dedicati allo studio dell’informatica e al loro utilizzo.

Mi sembra un buon principio di cautela anche per l’intelligenza artificiale. Occorre insegnare a conoscerla, comprenderne il funzionamento e utilizzarla, conservando però il lavoro quotidiano attraverso cui gli studenti imparano a scrivere, ragionare e svolgere autonomamente le proprie attività. Vorrei quindi che l’IA entrasse nella scuola con questa attenzione.

Intelligenza artificiale e lavoro: meno occupazione o nuove opportunità?

Una delle questioni più sentite riguarda naturalmente l’impatto dell’intelligenza artificiale sul lavoro. Nel dibattito si incontrano soprattutto due posizioni: chi ritiene che la tecnologia creerà nuove occupazioni, compensando quelle che renderà superflue, e chi teme che il saldo complessivo sarà una diminuzione dei posti di lavoro.

La prima posizione richiama spesso l’esperienza delle innovazioni precedenti, compreso il web. Anche allora c’erano preoccupazioni per le attività che sarebbero state sostituite, ma, a distanza di anni, le persone continuano a lavorare e sono nate professioni che prima non esistevano. Chi segue questa interpretazione tende quindi a ridimensionare il rischio che l’intelligenza artificiale produca una perdita duratura di occupazione.

L’altra posizione sottolinea invece che le nuove mansioni potrebbero essere meno numerose di quelle eliminate. Se una tecnologia permette di svolgere con meno persone le stesse attività, la nascita di nuove professioni non garantisce che ci sarà lavoro per tutti quelli che ne avranno perso uno. Anche l’immagine di gruppi relativamente ristretti capaci di sviluppare strumenti utilizzati da moltissime persone rende comprensibile questa preoccupazione.

Personalmente, pur non avendo svolto ricerche specifiche sul tema, mi sembra scontato che l’intelligenza artificiale creerà grandissime problematiche nel mercato del lavoro e porterà, complessivamente, a una diminuzione dei posti di lavoro attuali. È una mia valutazione, legata anche a ciò che vedo accadere nelle attività che conosco direttamente.

Una trasformazione del genere potrebbe portare anche a un cambiamento importante e radicale della società. In termini generali possiamo immaginare un «mondo migliore», nel quale buona parte delle attività che gli esseri umani non hanno particolare interesse a svolgere venga affidata alle macchine, lasciando più tempo per tutto il resto. È una possibilità che richiama molte utopie del passato e anche il tema, presente nella riflessione marxiana, della liberazione dal lavoro necessario attraverso lo sviluppo delle capacità produttive.

Quella possibilità dipende però da come la tecnologia viene gestita politicamente e da come ne vengono distribuiti i benefici. Lavorare meno può essere un’opportunità straordinaria, ma perdere il proprio reddito perché il proprio lavoro non serve più è chiaramente un’altra cosa.

Siamo ancora all’inizio e, per quanto riesco a osservare, non vedo movimenti politici con idee particolarmente chiare su come affrontare una trasformazione di questa portata. In Italia, anzi, il dibattito politico sull’intelligenza artificiale mi sembra sostanzialmente assente rispetto alla rilevanza dei problemi che potrebbe creare.

Nel mercato del lavoro c’è poi un rischio ulteriore, che riguarda le differenze tra le persone. Come è accaduto con la terziarizzazione dell’economia occidentale, i cambiamenti possono favorire soprattutto chi possiede determinate capacità, spostando il peso dalle qualità fisiche verso competenze intellettuali, organizzative e relazionali.

Con l’intelligenza artificiale questa differenza potrebbe diventare ancora più importante. Anche disponendo dello stesso strumento, persone diverse possono ricavarne benefici molto differenti, perché contano le capacità di chi lo utilizza: comprendere un problema, immaginare che cosa si possa fare, organizzare il lavoro e giudicare ciò che la macchina propone richiede competenze e capacità intellettuali che lo strumento non rende automaticamente uguali per tutti.

Chi riesce a utilizzare l’IA in modo più efficace potrebbe quindi ottenere un vantaggio professionale notevole, mentre altre persone potrebbero incontrare maggiori difficoltà ad adattarsi alle nuove modalità di lavoro. Mi preoccupa, insomma, la possibilità che i benefici si concentrino soprattutto su chi possiede determinate qualità, rendendo ancora più difficile trovare uno spazio lavorativo per chi ha capacità ed esperienze differenti.

È una questione che si aggiunge a quella dell’accesso: anche immaginando di mettere a disposizione di tutti le stesse tecnologie, resterebbe la differenza nella capacità di utilizzarle. Le opportunità di formazione avranno naturalmente un ruolo importante, ma rendere disponibile uno strumento non significa che tutti riusciranno a trarne lo stesso vantaggio.

Intelligenza artificiale e concorrenza: il rischio dell’asso pigliatutto

C’è infine un rischio che riguarda la struttura stessa del mercato. L’intelligenza artificiale potrebbe diventare una sorta di «asso pigliatutto», perché uno strumento che raggiunge un certo grado di sviluppo può essere utilizzato per svolgere compiti anche molto differenti fra loro.

Ce ne stiamo accorgendo già oggi: lo stesso modello può aiutarci a scrivere, programmare, analizzare documenti e organizzare attività. Se un’azienda riuscisse a sviluppare un’intelligenza artificiale nettamente migliore delle altre, potrebbe quindi ottenere un vantaggio in molti ambiti contemporaneamente, arrivando a offrire la soluzione più efficace per una quantità enorme di lavori diversi.

La presenza attuale di più aziende concorrenti mi sembra una condizione molto positiva, ma la concorrenza non è garantita per sempre. Nel web abbiamo già visto quanto possa diventare forte il predominio di un singolo operatore: Google, nel campo dei motori di ricerca, ha avuto per un lungo periodo una posizione difficilissima da mettere in discussione.

Una maggiore varietà di aziende capaci di gestire la circolazione delle informazioni è arrivata anche attraverso un cambiamento delle modalità di utilizzo del web. Nei motori di ricerca cerchiamo attivamente un’informazione; sui social, invece, riceviamo contenuti anche senza averli cercati in modo specifico. La diffusione dei social ha così aperto spazi a operatori che hanno costruito il proprio potere su una dinamica diversa da quella della ricerca.

Oggi l’intelligenza artificiale sta introducendo un’altra modalità di accesso alle informazioni, che nella mia esperienza ha già sostituito una parte importante delle ricerche su Google. Ma anche il nuovo mercato potrebbe arrivare a una forte concentrazione, con una sola azienda, o pochissime aziende, capaci di condizionare una quantità di attività ancora maggiore.

Chi vince la «corsa all’intelligenza artificiale» potrebbe insomma trovarsi in una posizione di vantaggio su moltissimi fronti. La possibilità che strumenti tanto utili si diffondano rende ancora più importante che resti una reale possibilità di scelta su chi li sviluppa e li mette a disposizione.

Un problema analogo si pone nel rapporto fra gli Stati e nel potere che ciascuno può esercitare sugli altri. Se lo sviluppo delle intelligenze artificiali più efficaci si concentrasse in pochissimi paesi, gli altri rischierebbero di dipendere da strumenti e infrastrutture sui quali avrebbero ben poca possibilità di intervenire.

Pensando al ruolo di Stati Uniti e Cina nella corsa all’intelligenza artificiale, mi sembra evidente quanto possa diventare rilevante questo squilibrio. Se il vantaggio si consolidasse, o se addirittura emergesse un solo protagonista dominante, le conseguenze andrebbero ben oltre la concorrenza fra imprese: potrebbero creare grossissime difficoltà anche nelle relazioni internazionali, perché il controllo di una tecnologia utilizzata in moltissime attività diventerebbe una fonte di potere enorme.