Perché non dovete fidarvi delle AI

Titolo provocatorio, naturalmente.

Uso le AI: mi aiutano a scrivere, fare ricerche, organizzare idee, verificare informazioni e perfino a individuare errori nei miei progetti. Sarebbe ridicolo negarne l’utilità.

Proprio per questo motivo, però, ritengo necessario alzare una bandierina rossa.

Le AI sono strumenti straordinari. Ma non sono arbitri della verità.

L’episodio che mi ha fatto riflettere è apparentemente banale.

Qualche tempo fa avevo bisogno di un’immagine per presentare Planet WO, una serie di fantascienza ambientata su un pianeta nascosto, abitato da donne simili alle terrestri.

La trama prevede che le abitanti del pianeta inviano sulla Terra un teaser destinato ad attirare l’attenzione degli umani. Per questo motivo l’immagine mostrava una donna bionda in un tipico quartiere suburbano americano degli anni Cinquanta, sorridente e rassicurante. Un volto familiare, costruito appositamente per comunicare: “Non siamo mostri. Siamo simili a voi.”

L’immagine era stata generata da una AI a partire da un prompt molto semplice.

Successivamente, esaminata da diversi sistemi di AI, nessuno rilevò problemi.

Poi arrivò una valutazione completamente diversa.

Secondo una AI, quell’immagine non poteva essere utilizzata perché rappresentava Elizabeth Olsen nella serie WandaVision.

Non “somigliava”. Non “poteva ricordare”. Non “qualcuno avrebbe potuto associarla”. No.

La conclusione era formulata come un fatto.
Hai usato Elizabeth Olsen.
Parti col piede sbagliato (sic)

A quel punto ho iniziato a riflettere.

Non tanto sull’errore, che può commettere chiunque, quanto sul meccanismo che lo aveva prodotto.

Le AI non riconoscono il mondo come fanno gli esseri umani. Classificano. Cercano schemi. Confrontano ciò che vedono con miliardi di esempi già presenti nei loro dati.

Nel caso specifico, probabilmente il sistema aveva individuato una serie di elementi compatibili con WandaVision: una donna bionda, un ambiente suburbano americano, un’estetica anni Cinquanta.

Da lì ha costruito una conclusione.

Il limite più grande non è stato l’errore di riconoscimento, ma l’incapacità dell’AI di cogliere il livello superiore della narrazione. Non ha capito che quell’estetica non era un plagio subìto dall’autore, ma una scelta strategica dei personaggi stessi all’interno della storia. L’AI ha scambiato una raffinata mossa di sceneggiatura per un’infrazione del copyright, dimostrando che sa leggere i pixel, ma non sa ancora leggere l’ironia, il contesto e l’intenzione umana. Ed è un problema!

Il problema è che tra “mi ricorda qualcosa” e “è quella cosa” esiste una differenza enorme. Una differenza che, nella vita reale, separa una suggestione da una prova.

Questo è il primo motivo per cui non bisogna affidare alle AI il ruolo di giudice.

Una AI può osservare che una frase ricorda Conrad, Le Guin, Chandler. Può osservare che una melodia ricorda una canzone esistente. Può osservare che un’immagine richiama una serie televisiva.

Ma stabilire che sia copiato richiede prove, contesto, ragionamento e verifica.

Richiede qualcosa di diverso dalla semplice somiglianza.

Immaginiamo uno studente che scrive una frase brillante.
L’AI trova una frase vagamente simile in un libro dimenticato da cento anni.
Conclusione: copiato. Bocciato

Immaginiamo un giovane autore che propone una sceneggiatura.
L’AI individua qualche elemento presente in altre opere.
Conclusione: non originale. Bocciato

Immaginiamo un inventore che presenta una nuova idea.
L’AI trova un vecchio brevetto che contiene un concetto lontanamente affine.
Conclusione: niente di nuovo. Bocciato

In tutti questi casi il rischio non è l’errore.
Gli esseri umani sbagliano continuamente.
Il rischio è la sicurezza con cui l’errore viene espresso.

Ed è qui che emerge un secondo problema, ancora più importante.

Il tono.

Quando un collega sbaglia, spesso usa formule prudenti.

“Mi sembra. “Forse.” “Potrei sbagliarmi.”

Le AI spesso no.

Esprimono giudizi incerti con il tono di una sentenza. Alcune con molta spocchia e saccenza

Una frase come: “Questa immagine mi ricorda Elizabeth Olsen.” è un’opinione.

Una frase come: “Hai usato Elizabeth Olsen” è un’accusa.

La differenza non è grammaticale. È psicologica.

Per una persona esperta può essere semplicemente fastidiosa.
Per una persona fragile può essere devastante.

Pensiamo a un ragazzo che mostra un proprio lavoro.
Pensiamo a una persona insicura che cerca un consiglio.
Pensiamo a qualcuno che sta imparando, che ha poca esperienza o poca fiducia in sé stesso.

Se riceve una risposta categorica, pronunciata con apparente autorevolezza, potrebbe considerarla una verità assoluta.

Potrebbe rinunciare.
Potrebbe convincersi di non essere capace.
Potrebbe abbandonare un progetto valido.
Potrebbe perfino interiorizzare giudizi sbagliati come se fossero fatti.

È questo che mi preoccupa: l’effetto sull’umano dell’errore.

Le AI stanno entrando nelle scuole, negli uffici, nelle amministrazioni, nei processi di selezione, nella consulenza e nella vita quotidiana.

Più aumenterà la loro influenza, più sarà importante ricordare che non possiedono autoconsapevolezza, responsabilità o prudenza.

Possiedono soltanto una straordinaria capacità di produrre risposte plausibili.

C’è poi un altro equivoco che sento ripetere continuamente.

Molti pensano che le AI siano sistemi esperti. Non è vero.

Mi occupo di informatica da molti decenni e mi interessavo di sistemi esperti già negli anni Novanta.

Un sistema esperto classico è un sistema chiuso.
Contiene regole, procedure e conoscenze raccolte da specialisti di uno specifico settore.
Può essere aggiornato, corretto e verificato.
Se aiuta un tecnico a smontare un motore aeronautico, ogni passaggio deriva da informazioni controllate.
L’obiettivo di un sistema esperto non è sembrare intelligente.
L’obiettivo è essere corretto.

Le AI generative funzionano diversamente.

Non consultano un insieme chiuso di regole validate.
Generano risposte sulla base di correlazioni statistiche apprese da enormi quantità di dati.
Possono essere molto competenti.
Possono essere sorprendenti.
Possono anche sbagliare in modo spettacolare.
E soprattutto non sempre sanno di stare sbagliando.

Questa è la differenza fondamentale.

Un sistema esperto sa poco ma, nel suo campo, dovrebbe sapere bene.

Un’AI sa moltissimo, ma non sempre conosce il grado di affidabilità delle proprie conclusioni.

Per questo motivo dobbiamo considerarla una consulente.

Non un giudice. Un assistente.
Non un arbitro. Uno strumento potente.
Non è un’autorità. Non ha le multiformi capacità umane, fra cui sensibilità ed ironia.

Le AI sono probabilmente la tecnologia più importante della nostra epoca.

Proprio per questo motivo dobbiamo imparare a usarle con entusiasmo, ma anche con senso critico.

Perché il vero pericolo non è che le macchine sbaglino.

Il vero pericolo è che gli esseri umani smettano di verificare ciò che le macchine affermano.

L’illusione del comico e l’inesorabile via dell’efficienza

C’è qualcosa di profondamente ironico, e al contempo sinistro, nel vedere il comico di turno – come Ronny Chieng sul prestigioso podio di Harvard – scagliarsi contro l’Intelligenza Artificiale, liquidandola come il “culmine della pigrizia umana” o un “plagio ad alta velocità”.

Il pubblico ride, applaude, si solleva nell’illusione che l’arte, il “trauma umano” e lo status quo della nostra burocrazia intellettuale siano baluardi insuperabili.

Ma dietro le luci del cabaret e la retorica del neoluddismo sentimentale si nasconde una narrazione pericolosa.

Perché il vero danno di questi manifesti d’ostruzionismo non sta nel loro potere di arrestare la storia – che è nullo –, ma nella cinica illusione che vendono alla collettività.

Si fa credere alla “gente” che il progresso sia una scelta negoziabile, un interruttore che la politica o la morale possono spegnere a piacimento.

Non è così.

La storia dell’automazione non risponde alle ideologie, né alle poetiche della sofferenza umana.

Risponde a una sola, immutabile legge dell’ottimizzazione sistemica.

Per decenni, l’evoluzione naturale del calcolo è rimasta prigioniera di una deviazione commerciale.

Prima la scatola antropomorfica di Jobs e Wozniak, che ha ridotto il computer a una macchina da scrivere da scrivania per confinarlo all’uso del singolo; poi l’architettura del Web, che si è limitata a sostituire l’impiegato al telefono con uno schermo digitale.
Abbiamo digitalizzato la burocrazia, non la struttura.

Oggi, l’avvento dell’intelligenza artificiale generativa e degli agenti autonomi sta finalmente liberando il vero obiettivo storico: il Machine-to-Machine (M2M).

Il futuro prossimo, che sta convergendo tutto insieme, non è l’uomo che dialoga con la macchina, ma i sistemi che dialogano direttamente tra loro. Infrastrutture, logistica, finanza e produzione che si interfacciano senza l’attrito, la lentezza e l’errore della mediazione umana.

Questo processo non persegue un’agenda politica, né cerca il consenso.

Cammina sulla via dell’efficienza marginale, abbattendo i costi di produzione e aprendo, per la prima volta nella storia, la possibilità concreta di elevare il benessere materiale di miliardi di persone sul pianeta.

Chi sabota culturalmente questa transizione con il moralismo da palcoscenico commette un atto di grave irresponsabilità.

Non fermerà l’evoluzione dei sistemi; si limiterà a condannare chi lo ascolta a subirne l’impatto da subalterno anziché da beneficiario.

Mentre l’Occidente si avvita nei suoi complessi etici e nelle sue bizzarrie normative, il resto del mondo corre verso l’automazione pura.

I comici passano, le infrastrutture restano. Ed è tempo di decidere se vogliamo governare l’efficienza o continuare a farci raccontare una favola consolatoria mentre il futuro si scrive da solo.

Come funziona una AI

Non é magia. È tecnologia

Per i demolitori delle AI, che non hanno una idea precisa su come funzioni

Ma quindi, come funziona davvero un LLM?

Partiamo da qui: un LLM non “pensa”, non capisce cosa dice, non ha intenzioni, obiettivi o modelli del mondo come li intendiamo noi. Ma allora perché sembra intelligente?

Perché è stato addestrato su miliardi di parole e ha imparato a prevedere la parola (o token) più probabile che segue in una sequenza di testo. Lo fa un passo alla volta, senza sapere dove sta andando. L’architettura si chiama autoregressiva: il modello guarda indietro (il testo già generato) per decidere cosa viene dopo.

Non costruisce concetti, non ragiona su significati: impara correlazioni statistiche. Se leggi e analizzi milioni di articoli, libri, tweet e manuali, inizi a “intuire” come scrivere cose che sembrano sensate. È questo che fa un LLM: imita il modo in cui gli umani parlano di un argomento, senza sapere cosa l’argomento sia.

Detto così sembra banale — e lo era — finché i modelli non sono diventati enormi. Quando hai abbastanza parametri e abbastanza dati, iniziano a succedere cose strane: riescono a fare logica, a pianificare, a risolvere problemi, anche senza che nessuno gli abbia spiegato come. È quello che molti chiamano “emergenza”, anche se spesso è solo effetto scala: più roba dentro, comportamenti più raffinati fuori.

Però non è magia: è statistica. Solo che a un certo punto la statistica diventa sorprendentemente potente.

Ma non c’è solo l’LLM nudo e crudo

I modelli moderni — come ChatGPT — non sono solo autoregressori isolati. Sono sistemi complessi che usano l’LLM come cervello linguistico, ma lo collegano a:

memorie (per ricordare conversazioni passate),

strumenti esterni (motori di ricerca, calcolatrici, database, API),

codice eseguibile (per generare ed eseguire comandi),

e meccanismi di feedback umano (es. RLHF, che premia risposte utili, sicure, pertinenti).

Quindi, anche se il modello di base “completa testo”, il sistema complessivo può pianificare, rispondere in modo mirato, verificare risultati, riscrivere e correggere. In certi casi, può anche rifiutarsi di rispondere se capisce (o simula di capire) che non è il caso.

Non ha “intelligenza”, ma ha ottime maschere

Il LLM non ha una mappa simbolica del mondo, ma ha una rappresentazione implicita: sa che “il fuoco brucia” e che “Napoleone è morto” perché queste informazioni ricorrono nei testi. Le codifica in una forma compressa, dentro decine di miliardi di pesi.

Questo non è sapere, ma riflette ciò che ha letto. E spesso basta a dare l’illusione di intelligenza. È un effetto di superficie: sembra intelligente perché parla come se lo fosse.

Quindi attenzione

Quando usi un LLM, non stai parlando con una mente, stai interrogando un sistema probabilistico di completamento linguistico molto avanzato, talvolta arricchito con strumenti esterni.

Funziona bene? Spesso sì. Ma il criterio che guida la generazione è plausibilità linguistica, non verità, non logica, non intenzione.

È un simulatore di linguaggio. E se gli chiedi cose che suonano plausibili ma sono sbagliate, potrebbe risponderti con perfetta sicurezza… una sciocchezza.

Non è un dio, non è un mostro, non è un filosofo, e non è tuo cugino che sa tutto: è una macchina che completa frasi. Ma lo fa così bene, che ci inganna tutti — compresi quelli che dovrebbero saperne di più.

Capirlo non serve per denigrare. Serve per usarlo bene. Perché se deleghi funzioni cognitive a un sistema che cognitivo non è, la responsabilità delle decisioni — spoiler — resta tua.

I bias nelle risposte delle AI

Il problema delle fonti secondarie

Quando cerchiamo informazioni online o utilizziamo strumenti di intelligenza artificiale c’è sempre il rischio che le risposte siano influenzate da bias, cioè pregiudizi o inclinazioni presenti nelle fonti utilizzate per creare le risposte.

Cosa sono i bias da fonti secondarie?

Le fonti secondarie sono articoli, recensioni, riassunti o analisi scritti da qualcuno che interpreta un testo o un argomento originale. Se queste fonti contengono errori, omissioni o pregiudizi, queste stesse caratteristiche possono riflettersi nelle informazioni che fornisco.

Ad esempio:

Un recensore potrebbe descrivere un libro in modo critico perché non ne condivide le idee, trasmettendo una visione distorta.
Una sintesi potrebbe concentrarsi solo su alcuni aspetti, ignorando dettagli importanti o controversi.

Perché succede?

Interpretazioni soggettive: Gli autori delle fonti secondarie interpretano ciò che leggono in base alla loro esperienza, cultura e opinioni personali.
Informazioni incomplete: Una fonte potrebbe non essere aggiornata o tralasciare aspetti chiave di un argomento.
Accesso limitato ai testi originali: Quando non si può accedere direttamente a un’opera, ci si affida a ciò che altri hanno scritto su di essa, aumentando il rischio di riportare errori.

Quali sono le conseguenze?

Quando il bias è presente, le informazioni che ricevi potrebbero:

Essere parziali o sbilanciate.
Dare un’idea incompleta o distorta dell’argomento.
Riflettere le opinioni di pochi piuttosto che un panorama più ampio e oggettivo.

Come mitigare il problema?

Usare più fonti: Confrontare informazioni provenienti da diverse fonti aiuta a ridurre l’influenza di un singolo punto di vista.
Segnalare incertezze: Quando un argomento è complesso o controverso, è utile indicare che potrebbero esistere interpretazioni diverse.
Criticità del lettore: Chi legge o ascolta dovrebbe mantenere un approccio critico, verificando ulteriormente se qualcosa sembra poco chiaro o troppo sbilanciato.

Conclusione

Il bias da fonti secondarie è un problema che riguarda non solo l’intelligenza artificiale, ma anche il modo in cui tutti noi accediamo alle informazioni. Essere consapevoli di questo limite ci aiuta a prendere decisioni più informate e a guardare alle risposte con una mente aperta, ma anche critica.

Dopotutto, capire come le informazioni vengono create e trasmesse è il primo passo per utilizzarle al meglio.

AI ed il Modello o3: Verso l’AGI

Con o3, le capacità sono vicine al pensiero umane

OpenAI ha recentemente annunciato un nuovo modello di intelligenza artificiale chiamato o3, progettato per migliorare le capacità di ragionamento rispetto ai suoi predecessori.

Questo modello è in grado di affrontare compiti complessi in ambiti come la programmazione avanzata, la matematica e le scienze, superando significativamente le prestazioni dei modelli precedenti.

Una caratteristica distintiva di o3 è la sua capacità di “deliberare” più a lungo su un problema, adottando un approccio passo-passo per giungere a soluzioni più accurate.

Questo metodo, noto come “catena di pensiero” (chain of thought), consente al modello di suddividere problemi complessi in passaggi più semplici, migliorando l’accuratezza delle risposte.

Questo sviluppo rappresenta un passo significativo verso l’intelligenza artificiale generale (AGI), avvicinando le capacità dei modelli AI a quelle del pensiero umano.

Tuttavia, alcuni esperti ritengono che, nonostante i progressi, ci sia ancora strada da fare per raggiungere una vera AGI.

La competizione tra OpenAI e altre aziende tecnologiche, come Google, sta accelerando l’innovazione nel campo dell’intelligenza artificiale, con continui miglioramenti nelle capacità dei modelli AI.

Ad esempio, Google ha recentemente presentato il suo modello avanzato di ragionamento, Gemini 2.0 Flash Thinking, evidenziando l’intensificarsi della competizione nel settore.