Titolo provocatorio, naturalmente.

Uso le AI: mi aiutano a scrivere, fare ricerche, organizzare idee, verificare informazioni e perfino a individuare errori nei miei progetti. Sarebbe ridicolo negarne l’utilità.

Proprio per questo motivo, però, ritengo necessario alzare una bandierina rossa.

Le AI sono strumenti straordinari. Ma non sono arbitri della verità.

L’episodio che mi ha fatto riflettere è apparentemente banale.

Qualche tempo fa avevo bisogno di un’immagine per presentare Planet WO, una serie di fantascienza ambientata su un pianeta nascosto, abitato da donne simili alle terrestri.

La trama prevede che le abitanti del pianeta inviano sulla Terra un teaser destinato ad attirare l’attenzione degli umani. Per questo motivo l’immagine mostrava una donna bionda in un tipico quartiere suburbano americano degli anni Cinquanta, sorridente e rassicurante. Un volto familiare, costruito appositamente per comunicare: “Non siamo mostri. Siamo simili a voi.”

L’immagine era stata generata da una AI a partire da un prompt molto semplice.

Successivamente, esaminata da diversi sistemi di AI, nessuno rilevò problemi.

Poi arrivò una valutazione completamente diversa.

Secondo una AI, quell’immagine non poteva essere utilizzata perché rappresentava Elizabeth Olsen nella serie WandaVision.

Non “somigliava”. Non “poteva ricordare”. Non “qualcuno avrebbe potuto associarla”. No.

La conclusione era formulata come un fatto.
Hai usato Elizabeth Olsen.
Parti col piede sbagliato (sic)

A quel punto ho iniziato a riflettere.

Non tanto sull’errore, che può commettere chiunque, quanto sul meccanismo che lo aveva prodotto.

Le AI non riconoscono il mondo come fanno gli esseri umani. Classificano. Cercano schemi. Confrontano ciò che vedono con miliardi di esempi già presenti nei loro dati.

Nel caso specifico, probabilmente il sistema aveva individuato una serie di elementi compatibili con WandaVision: una donna bionda, un ambiente suburbano americano, un’estetica anni Cinquanta.

Da lì ha costruito una conclusione.

Il limite più grande non è stato l’errore di riconoscimento, ma l’incapacità dell’AI di cogliere il livello superiore della narrazione. Non ha capito che quell’estetica non era un plagio subìto dall’autore, ma una scelta strategica dei personaggi stessi all’interno della storia. L’AI ha scambiato una raffinata mossa di sceneggiatura per un’infrazione del copyright, dimostrando che sa leggere i pixel, ma non sa ancora leggere l’ironia, il contesto e l’intenzione umana. Ed è un problema!

Il problema è che tra “mi ricorda qualcosa” e “è quella cosa” esiste una differenza enorme. Una differenza che, nella vita reale, separa una suggestione da una prova.

Questo è il primo motivo per cui non bisogna affidare alle AI il ruolo di giudice.

Una AI può osservare che una frase ricorda Conrad, Le Guin, Chandler. Può osservare che una melodia ricorda una canzone esistente. Può osservare che un’immagine richiama una serie televisiva.

Ma stabilire che sia copiato richiede prove, contesto, ragionamento e verifica.

Richiede qualcosa di diverso dalla semplice somiglianza.

Immaginiamo uno studente che scrive una frase brillante.
L’AI trova una frase vagamente simile in un libro dimenticato da cento anni.
Conclusione: copiato. Bocciato

Immaginiamo un giovane autore che propone una sceneggiatura.
L’AI individua qualche elemento presente in altre opere.
Conclusione: non originale. Bocciato

Immaginiamo un inventore che presenta una nuova idea.
L’AI trova un vecchio brevetto che contiene un concetto lontanamente affine.
Conclusione: niente di nuovo. Bocciato

In tutti questi casi il rischio non è l’errore.
Gli esseri umani sbagliano continuamente.
Il rischio è la sicurezza con cui l’errore viene espresso.

Ed è qui che emerge un secondo problema, ancora più importante.

Il tono.

Quando un collega sbaglia, spesso usa formule prudenti.

“Mi sembra. “Forse.” “Potrei sbagliarmi.”

Le AI spesso no.

Esprimono giudizi incerti con il tono di una sentenza. Alcune con molta spocchia e saccenza

Una frase come: “Questa immagine mi ricorda Elizabeth Olsen.” è un’opinione.

Una frase come: “Hai usato Elizabeth Olsen” è un’accusa.

La differenza non è grammaticale. È psicologica.

Per una persona esperta può essere semplicemente fastidiosa.
Per una persona fragile può essere devastante.

Pensiamo a un ragazzo che mostra un proprio lavoro.
Pensiamo a una persona insicura che cerca un consiglio.
Pensiamo a qualcuno che sta imparando, che ha poca esperienza o poca fiducia in sé stesso.

Se riceve una risposta categorica, pronunciata con apparente autorevolezza, potrebbe considerarla una verità assoluta.

Potrebbe rinunciare.
Potrebbe convincersi di non essere capace.
Potrebbe abbandonare un progetto valido.
Potrebbe perfino interiorizzare giudizi sbagliati come se fossero fatti.

È questo che mi preoccupa: l’effetto sull’umano dell’errore.

Le AI stanno entrando nelle scuole, negli uffici, nelle amministrazioni, nei processi di selezione, nella consulenza e nella vita quotidiana.

Più aumenterà la loro influenza, più sarà importante ricordare che non possiedono autoconsapevolezza, responsabilità o prudenza.

Possiedono soltanto una straordinaria capacità di produrre risposte plausibili.

C’è poi un altro equivoco che sento ripetere continuamente.

Molti pensano che le AI siano sistemi esperti. Non è vero.

Mi occupo di informatica da molti decenni e mi interessavo di sistemi esperti già negli anni Novanta.

Un sistema esperto classico è un sistema chiuso.
Contiene regole, procedure e conoscenze raccolte da specialisti di uno specifico settore.
Può essere aggiornato, corretto e verificato.
Se aiuta un tecnico a smontare un motore aeronautico, ogni passaggio deriva da informazioni controllate.
L’obiettivo di un sistema esperto non è sembrare intelligente.
L’obiettivo è essere corretto.

Le AI generative funzionano diversamente.

Non consultano un insieme chiuso di regole validate.
Generano risposte sulla base di correlazioni statistiche apprese da enormi quantità di dati.
Possono essere molto competenti.
Possono essere sorprendenti.
Possono anche sbagliare in modo spettacolare.
E soprattutto non sempre sanno di stare sbagliando.

Questa è la differenza fondamentale.

Un sistema esperto sa poco ma, nel suo campo, dovrebbe sapere bene.

Un’AI sa moltissimo, ma non sempre conosce il grado di affidabilità delle proprie conclusioni.

Per questo motivo dobbiamo considerarla una consulente.

Non un giudice. Un assistente.
Non un arbitro. Uno strumento potente.
Non è un’autorità. Non ha le multiformi capacità umane, fra cui sensibilità ed ironia.

Le AI sono probabilmente la tecnologia più importante della nostra epoca.

Proprio per questo motivo dobbiamo imparare a usarle con entusiasmo, ma anche con senso critico.

Perché il vero pericolo non è che le macchine sbaglino.

Il vero pericolo è che gli esseri umani smettano di verificare ciò che le macchine affermano. 

C’è qualcosa di profondamente ironico, e al contempo sinistro, nel vedere il comico di turno – come Ronny Chieng sul prestigioso podio di Harvard – scagliarsi contro l’Intelligenza Artificiale, liquidandola come il “culmine della pigrizia umana” o un “plagio ad alta velocità”.

Il pubblico ride, applaude, si solleva nell’illusione che l’arte, il “trauma umano” e lo status quo della nostra burocrazia intellettuale siano baluardi insuperabili.

Ma dietro le luci del cabaret e la retorica del neoluddismo sentimentale si nasconde una narrazione pericolosa.

Perché il vero danno di questi manifesti d’ostruzionismo non sta nel loro potere di arrestare la storia – che è nullo –, ma nella cinica illusione che vendono alla collettività.

Si fa credere alla “gente” che il progresso sia una scelta negoziabile, un interruttore che la politica o la morale possono spegnere a piacimento.

Non è così.

La storia dell’automazione non risponde alle ideologie, né alle poetiche della sofferenza umana.

Risponde a una sola, immutabile legge dell’ottimizzazione sistemica.

Per decenni, l’evoluzione naturale del calcolo è rimasta prigioniera di una deviazione commerciale.

Prima la scatola antropomorfica di Jobs e Wozniak, che ha ridotto il computer a una macchina da scrivere da scrivania per confinarlo all’uso del singolo; poi l’architettura del Web, che si è limitata a sostituire l’impiegato al telefono con uno schermo digitale.
Abbiamo digitalizzato la burocrazia, non la struttura.

Oggi, l’avvento dell’intelligenza artificiale generativa e degli agenti autonomi sta finalmente liberando il vero obiettivo storico: il Machine-to-Machine (M2M).

Il futuro prossimo, che sta convergendo tutto insieme, non è l’uomo che dialoga con la macchina, ma i sistemi che dialogano direttamente tra loro. Infrastrutture, logistica, finanza e produzione che si interfacciano senza l’attrito, la lentezza e l’errore della mediazione umana.

Questo processo non persegue un’agenda politica, né cerca il consenso.

Cammina sulla via dell’efficienza marginale, abbattendo i costi di produzione e aprendo, per la prima volta nella storia, la possibilità concreta di elevare il benessere materiale di miliardi di persone sul pianeta.

Chi sabota culturalmente questa transizione con il moralismo da palcoscenico commette un atto di grave irresponsabilità.

Non fermerà l’evoluzione dei sistemi; si limiterà a condannare chi lo ascolta a subirne l’impatto da subalterno anziché da beneficiario.

Mentre l’Occidente si avvita nei suoi complessi etici e nelle sue bizzarrie normative, il resto del mondo corre verso l’automazione pura.

I comici passano, le infrastrutture restano. Ed è tempo di decidere se vogliamo governare l’efficienza o continuare a farci raccontare una favola consolatoria mentre il futuro si scrive da solo.