Titolo provocatorio, naturalmente.
Uso le AI: mi aiutano a scrivere, fare ricerche, organizzare idee, verificare informazioni e perfino a individuare errori nei miei progetti. Sarebbe ridicolo negarne l’utilità.
Proprio per questo motivo, però, ritengo necessario alzare una bandierina rossa.
Le AI sono strumenti straordinari. Ma non sono arbitri della verità.
L’episodio che mi ha fatto riflettere è apparentemente banale.
Qualche tempo fa avevo bisogno di un’immagine per presentare Planet WO, una serie di fantascienza ambientata su un pianeta nascosto, abitato da donne simili alle terrestri.
La trama prevede che le abitanti del pianeta inviano sulla Terra un teaser destinato ad attirare l’attenzione degli umani. Per questo motivo l’immagine mostrava una donna bionda in un tipico quartiere suburbano americano degli anni Cinquanta, sorridente e rassicurante. Un volto familiare, costruito appositamente per comunicare: “Non siamo mostri. Siamo simili a voi.”
L’immagine era stata generata da una AI a partire da un prompt molto semplice.
Successivamente, esaminata da diversi sistemi di AI, nessuno rilevò problemi.
Poi arrivò una valutazione completamente diversa.
Secondo una AI, quell’immagine non poteva essere utilizzata perché rappresentava Elizabeth Olsen nella serie WandaVision.
Non “somigliava”. Non “poteva ricordare”. Non “qualcuno avrebbe potuto associarla”. No.
La conclusione era formulata come un fatto.
Hai usato Elizabeth Olsen.
Parti col piede sbagliato (sic)
A quel punto ho iniziato a riflettere.
Non tanto sull’errore, che può commettere chiunque, quanto sul meccanismo che lo aveva prodotto.
Le AI non riconoscono il mondo come fanno gli esseri umani. Classificano. Cercano schemi. Confrontano ciò che vedono con miliardi di esempi già presenti nei loro dati.
Nel caso specifico, probabilmente il sistema aveva individuato una serie di elementi compatibili con WandaVision: una donna bionda, un ambiente suburbano americano, un’estetica anni Cinquanta.
Da lì ha costruito una conclusione.
Il limite più grande non è stato l’errore di riconoscimento, ma l’incapacità dell’AI di cogliere il livello superiore della narrazione. Non ha capito che quell’estetica non era un plagio subìto dall’autore, ma una scelta strategica dei personaggi stessi all’interno della storia. L’AI ha scambiato una raffinata mossa di sceneggiatura per un’infrazione del copyright, dimostrando che sa leggere i pixel, ma non sa ancora leggere l’ironia, il contesto e l’intenzione umana. Ed è un problema!
Il problema è che tra “mi ricorda qualcosa” e “è quella cosa” esiste una differenza enorme. Una differenza che, nella vita reale, separa una suggestione da una prova.
Questo è il primo motivo per cui non bisogna affidare alle AI il ruolo di giudice.
Una AI può osservare che una frase ricorda Conrad, Le Guin, Chandler. Può osservare che una melodia ricorda una canzone esistente. Può osservare che un’immagine richiama una serie televisiva.
Ma stabilire che sia copiato richiede prove, contesto, ragionamento e verifica.
Richiede qualcosa di diverso dalla semplice somiglianza.
Immaginiamo uno studente che scrive una frase brillante.
L’AI trova una frase vagamente simile in un libro dimenticato da cento anni.
Conclusione: copiato. Bocciato
Immaginiamo un giovane autore che propone una sceneggiatura.
L’AI individua qualche elemento presente in altre opere.
Conclusione: non originale. Bocciato
Immaginiamo un inventore che presenta una nuova idea.
L’AI trova un vecchio brevetto che contiene un concetto lontanamente affine.
Conclusione: niente di nuovo. Bocciato
In tutti questi casi il rischio non è l’errore.
Gli esseri umani sbagliano continuamente.
Il rischio è la sicurezza con cui l’errore viene espresso.
Ed è qui che emerge un secondo problema, ancora più importante.
Il tono.
Quando un collega sbaglia, spesso usa formule prudenti.
“Mi sembra. “Forse.” “Potrei sbagliarmi.”
Le AI spesso no.
Esprimono giudizi incerti con il tono di una sentenza. Alcune con molta spocchia e saccenza
Una frase come: “Questa immagine mi ricorda Elizabeth Olsen.” è un’opinione.
Una frase come: “Hai usato Elizabeth Olsen” è un’accusa.
La differenza non è grammaticale. È psicologica.
Per una persona esperta può essere semplicemente fastidiosa.
Per una persona fragile può essere devastante.
Pensiamo a un ragazzo che mostra un proprio lavoro.
Pensiamo a una persona insicura che cerca un consiglio.
Pensiamo a qualcuno che sta imparando, che ha poca esperienza o poca fiducia in sé stesso.
Se riceve una risposta categorica, pronunciata con apparente autorevolezza, potrebbe considerarla una verità assoluta.
Potrebbe rinunciare.
Potrebbe convincersi di non essere capace.
Potrebbe abbandonare un progetto valido.
Potrebbe perfino interiorizzare giudizi sbagliati come se fossero fatti.
È questo che mi preoccupa: l’effetto sull’umano dell’errore.
Le AI stanno entrando nelle scuole, negli uffici, nelle amministrazioni, nei processi di selezione, nella consulenza e nella vita quotidiana.
Più aumenterà la loro influenza, più sarà importante ricordare che non possiedono autoconsapevolezza, responsabilità o prudenza.
Possiedono soltanto una straordinaria capacità di produrre risposte plausibili.
C’è poi un altro equivoco che sento ripetere continuamente.
Molti pensano che le AI siano sistemi esperti. Non è vero.
Mi occupo di informatica da molti decenni e mi interessavo di sistemi esperti già negli anni Novanta.
Un sistema esperto classico è un sistema chiuso.
Contiene regole, procedure e conoscenze raccolte da specialisti di uno specifico settore.
Può essere aggiornato, corretto e verificato.
Se aiuta un tecnico a smontare un motore aeronautico, ogni passaggio deriva da informazioni controllate.
L’obiettivo di un sistema esperto non è sembrare intelligente.
L’obiettivo è essere corretto.
Le AI generative funzionano diversamente.
Non consultano un insieme chiuso di regole validate.
Generano risposte sulla base di correlazioni statistiche apprese da enormi quantità di dati.
Possono essere molto competenti.
Possono essere sorprendenti.
Possono anche sbagliare in modo spettacolare.
E soprattutto non sempre sanno di stare sbagliando.
Questa è la differenza fondamentale.
Un sistema esperto sa poco ma, nel suo campo, dovrebbe sapere bene.
Un’AI sa moltissimo, ma non sempre conosce il grado di affidabilità delle proprie conclusioni.
Per questo motivo dobbiamo considerarla una consulente.
Non un giudice. Un assistente.
Non un arbitro. Uno strumento potente.
Non è un’autorità. Non ha le multiformi capacità umane, fra cui sensibilità ed ironia.
Le AI sono probabilmente la tecnologia più importante della nostra epoca.
Proprio per questo motivo dobbiamo imparare a usarle con entusiasmo, ma anche con senso critico.
Perché il vero pericolo non è che le macchine sbaglino.
Il vero pericolo è che gli esseri umani smettano di verificare ciò che le macchine affermano.
