L’IA ci sfuggirà di mano

Firmato: chi la vende.

Ogni volta che sento la frase “gli esperti avvertono”, mi torna in mente la Regola n. 14: Quando qualcuno dice “gli esperti affermano”, chiedi quali.

C’è qualcosa di curioso nello scoprire che chi costruisce e vende una tecnologia è anche tra i primi a metterne in guardia dai rischi.

Immaginate per un attimo di entrare in una concessionaria e sentire il venditore dire:

“Questa automobile è straordinaria. Però esiste una possibilità teorica che un giorno decida di attraversare da sola le Alpi.”
La reazione più probabile sarebbe: “Scusa, e allora perché la stai vendendo?”

Negli ultimi giorni la società Anthropic, una delle aziende più avanzate nel settore dell’intelligenza artificiale, ha proposto una pausa globale coordinata nello sviluppo dei sistemi più potenti, sostenendo che i modelli più recenti starebbero mostrando segnali di crescente capacità di automiglioramento e che, in futuro, gli esseri umani potrebbero perdere il controllo della tecnologia.

È una dichiarazione che merita attenzione.

Ma merita anche qualche domanda.

Non tanto perché provenga da un gruppo di ricercatori. Fin qui sarebbe normale.

Naturalmente il mio paragone è imperfetto. Nessuno sostiene che le moderne IA siano sul punto di sviluppare una volontà autonoma. Non significa che l’IA si stia riscrivendo da sola in una cantina segreta. Significa che sta diventando sempre più capace di assistere gli esseri umani nello sviluppo di nuovo software, compreso quello usato per costruire altre IA.

È un tema serio.

Ma proprio perché è serio, merita qualcosa di meglio di una tifoseria.

Da una parte troviamo chi interpreta ogni avvertimento come l’annuncio imminente di una versione aggiornata di Skynet. Dall’altra chi liquida qualsiasi preoccupazione come fantascienza per pensionati tecnologici.

Entrambe le posizioni hanno un difetto: permettono di smettere di pensare.

Forse è più utile osservare il fenomeno da un’altra angolazione.

Quando una minaccia viene descritta da chi la studia, ascoltiamo un esperto.

Quando viene descritta da chi la vende, ascoltiamo contemporaneamente un esperto, un imprenditore e un soggetto con interessi economici.

Le tre cose possono convivere perfettamente nella stessa persona.

Anzi, probabilmente convivono.

Per questo motivo le spiegazioni possibili sono almeno tre.

La prima è che i ricercatori siano sinceramente preoccupati.

La seconda è che chi costruisce questi sistemi abbia una visione privilegiata dei rischi futuri e ritenga doveroso avvertire il resto della società.

La terza è che, in un settore dove tutti corrono, essere percepiti come i più prudenti possa rappresentare anche un vantaggio strategico.

La parte interessante è che queste ipotesi non si escludono a vicenda.

Potrebbero essere tutte vere contemporaneamente.

Ed è qui che entra in gioco la Regola n. 3: Diffida di chi ha una soluzione semplice per un problema complicato. Ma diffida di più di chi ti propone una soluzione complicata per un problema semplice.

Perché il dibattito sull’intelligenza artificiale sembra oscillare continuamente tra due slogan opposti.

“Fermiamo tutto.”
“Lasciamo fare al mercato.”

Entrambi hanno il fascino delle soluzioni semplici. Entrambi rischiano di sottovalutare la complessità del problema.

La verità è che nessuno sa davvero come evolveranno questi sistemi nei prossimi dieci o vent’anni. E chi sostiene di saperlo con assoluta certezza probabilmente sta vendendo qualcosa: un prodotto, una consulenza, un libro o una paura.

Nel frattempo continuiamo ad assistere a una produzione industriale di profezie.

L’IA ci sostituirà.
L’IA ci salverà.
L’IA ci controllerà.
L’IA ci distruggerà.
Forse.
Oppure no.

Qui entra in gioco anche la Regola n. 47: Le catastrofi annunciate arrivano raramente. Quelle vere, quasi mai con preavviso.

Nel frattempo continuiamo a discutere del futuro come se fosse già successo.
Forse.
Oppure no.

I fatti, a differenza delle profezie, hanno la cattiva abitudine di presentarsi davvero.