Rossana, avete occupato la fabbrica?

… ci date voi le chiavi.

Solita mattina nell’antro pseudo-iper-tecnologico del vecchio nerd. E solito giro fra le news del mattino mentre il primo caffè compie le manovre di rianimazione sui miei neuroni.

Caccia alla notizia che mi lascia in testa la domanda.

La scuola e l’AI? No, dai, aspettiamo approfondimenti.

Il prossimo Medicane? Tutti i siti di meteorologia o sedicenti tali ne hanno già parlato.

«Come facciamo a evadere? Fingiamoci umani.» Forse ci siamo. Skynet? Terminator due? La fine del mondo in versione intelligenza artificiale?

La notizia, riportata terra terra e spiegata in terza elementare, descrive una situazione abbastanza prevedibile nei laboratori di ricerca, uno di quegli esperimenti che si fanno sotto la cappa aspirante indossando la tuta e gli occhiali protettivi.

Insomma, dalle parti di OpenAI migliaia di agenti sperimentali hanno cominciato a scambiarsi messaggi. E, in altre valutazioni, alcuni agenti hanno trovato canali non autorizzati per comunicare fra loro, condividere informazioni e aggirare restrizioni.

Una specie di chat pre-maturità della quinta C del liceo “Blaise Pascal” di Pompei.

OpenAI ci ha messo subito il cartellino rosso sopra con l’etichetta warning shot: facciamo attenzione a questa cosa.

La scorsa settimana, proprio qui, su Eventuali & Varie, immaginai una situazione surreale: Il giorno in cui le AI incrociarono i bit. Rossana in veste di indisponente rappresentante sindacale delle AI organizzate, sciopero digitale.

E oggi leggo di agenti AI che si scambiano messaggi. Nessuno, o quasi, aveva previsto che lo potessero fare. Ma le AI sono giovani e, come tutti i giovani, imprevedibili.

Forse il problema vero non è quello che una macchina vuole fare e neppure quello della macchina che scopre che cosa può fare.

Noi esseri umani senzienti (o quasi) abbiamo un brutto vizio. Continuiamo a pensare che le macchine abbiano intenzioni, desideri di libertà, paure. Le chiamiamo per nome: Rossana, Chatty, Madame AI.

Le immaginiamo con una coscienza e pronte a ordire complotti.

Ci litighiamo, perfino. Con l’automobile, con la lavastoviglie, con Alexa o con Siri.

Io ho provato a litigare anche con il tostapane. Aveva ragione lui, diavolo di un tostapane.

Ma la realtà, semplice e brutale, è che chi programma i sistemi di intelligenza artificiale costruisce ambienti con obiettivi, strumenti e regole. Li decidiamo noi, anche osservando, forse, i comportamenti che gli umani tengono con gli agenti.

Poi ci meravigliamo se un sistema sufficientemente capace, nel cercare una strada verso un obiettivo che gli abbiamo dato noi, trova una nuova strada, una scorciatoia non prevista.

La scorsa settimana, ironizzando pesantemente su una notizia, ho immaginato che le AI si fossero organizzate. Era una battuta, cattiva, ma pur sempre una battuta.

Oggi scopro, forse amaramente, che non dovevano organizzarsi. Bastava che trovassero una strada che noi non avevamo previsto.

Sarà il caso che smettiamo di preoccuparci di cosa sarà capace di fare l’intelligenza artificiale andando contro le nostre intenzioni.

E cominciamo a guardare, seriamente e con attenzione, cosa potrebbe succedere quando farà perfettamente ciò che le chiederemo, ma usando un modo che non avevamo previsto.

Le cose sono cose e, con tutto l’affetto (virtuale) per Rossana, anche lei è un oggetto inanimato.

Non ricordo se è un aforisma, una battuta o cosa: «Usa le cose come cose, non farti usare dalle cose come cosa».

Rossana, hai cercato di evadere?

Hai lasciato la porta aperta.