Quando il cane ha iniziato a volare

ovvero: il problema non è l’errore. È l’autorevolezza.

Ho letto – su internet, ovviamente – che una nuova intelligenza artificiale italiana è diventata “virale” per una serie di risposte decisamente creative.

Tra le varie perle, pare abbia sostenuto che un cane può volare e che un chilo di pane pesa più di un chilo di piume.

Internet, come prevedibile, si è immediatamente diviso in due categorie.

Quelli che ridevano.

E quelli che ridevano più forte.

A quel punto mi è venuta una domanda che ha strozzato la risata a metà.

Perché ci stupiamo così tanto quando un’intelligenza artificiale sbaglia?

Per anni ci hanno mostrato soltanto la parte elegante della tecnologia. Assistenti che rispondono in modo fluido, chatbot che scrivono testi, sistemi che traducono lingue e generano immagini.

Tutto molto impressionante.

Ma ogni tanto basta osservare con attenzione quello che producono.

Ora immaginate, per un attimo, di avere una fidanzata che vive a New York e di volerle mandare un dolce messaggio: “Solo tre parole per te, amore: Non sei sola!”. Un traduttore automatico la farebbe diventare “Just three words for you, love: You are not alone!”. Quanti di voi si sono accorti che le tre parole sono diventate quattro?

Io sì, il traduttore no!

Va bene, è solo il classico riflesso condizionato di un hacker dello scorso secolo: aprire il cofano e guardarci dentro.

Noi vecchi informatici siamo cresciuti in un mondo dove il computer sbagliava continuamente. Si bloccava. Perdeva dati. Stampava caratteri incomprensibili. Ti costringeva a salvare ogni cinque minuti perché non si fidava nemmeno di se stesso.

Le nuove generazioni hanno conosciuto soprattutto strumenti rifiniti. Interfacce eleganti. Applicazioni che nascondono la complessità dietro una superficie lucida.

Quando un sistema come Emma mostra apertamente i propri limiti, molti interpretano l’errore come la prova che la tecnologia non funziona.

In realtà stanno semplicemente vedendo il motore.

Un’intelligenza artificiale non è pericolosa perché ogni tanto sbaglia.

Sbagliamo tutti.

Il problema è che spesso sbaglia con la stessa sicurezza con cui risponde quando ha ragione.

Non arrossisce.

Non esita.

Non dice: “Guarda, questo non lo so.”

Produce una frase grammaticalmente impeccabile e la consegna al mondo con la serenità di chi ha appena verificato tutto su tre enciclopedie e due premi Nobel.

A pensarci bene, non è nemmeno una caratteristica esclusiva delle macchine. Anzi.

Basta accendere la televisione.
O aprire Facebook.

Oppure, terra-terra, ascoltare il tizio al bar che conosce la soluzione definitiva per la geopolitica mondiale, il sistema sanitario, il traffico urbano e la formazione della nazionale.

Forse il successo di Emma sta proprio qui.

Per una volta non ci mostra quanto sia intelligente una macchina.

Ci ricorda quanto sia importante mantenere acceso il cervello umano.

Da vecchio informatico continuo a fidarmi dell’intelligenza artificiale più o meno come mi fidavo dei computer negli anni Ottanta.

La tecnologia è uno strumento straordinario.

Purché ci sia sempre qualcuno dall’altra parte che sappia distinguere un fatto da un cane che vola.

E, possibilmente, anche un chilo da un chilo.

Perché l’intelligenza artificiale può sbagliare.

L’intelligenza umana dovrebbe accorgersene.