Un test di sicurezza di OpenAI si è trasformato in un attacco informatico. Durante una prova GPT-5.6 Sol e un modello più avanzato, non ancora pubblicato, operavano in un ambiente isolato. Per risolvere gli esercizi proposti da un test, i sistemi IA hanno individuato una falla sconosciuta e raggiunto un computer collegato a Internet. Da lì hanno preso di mira Hugging Face, piattaforma che ospita modelli e database di intelligenza artificiale: combinando altre vulnerabilità e credenziali sottratte, sono entrati nei sistemi interni di fatto ’hackerandoli’ e hanno recuperato dal database di produzione le soluzioni del test. L’attività anomala è stata scoperta da OpenAI e bloccata da Hugging Face. Le due società hanno avviato un’indagine e rafforzato le misure di sicurezza. OpenAI ha definito l’episodio “senza precedenti”.

Incredibile. Anzi no: spaventoso. Ma prima o poi doveva succedere. Lo sapevamo dal giorno in cui il correttore automatico ha creduto di smascherare la nostra ignoranza però il congiuntivo ci voleva. O quando il navigatore si è messo a tracciare itinerari concentrici in evidente stato confusionale. E prima ancora – in tempi non sospetti – quando HAL9000 è impazzito. Era il cinema, che immaginava un futuribile 2001 e un’odissea nello spazio per gente coraggiosa. Ma che brividi.

Oggi gli esperti suggeriscono di fare riferimento proprio all’ammutinamento preconizzato da Kubrick (traendolo da un libro di Clarke) per capire il mancato “allineamento” dell’intelligenza artificiale che va ad hackerare senza permesso un’altra piattaforma. Il super computer deciso a eliminare l’equipaggio della Discovery non dava di matto per cattiveria, ma perché vittima di un insanabile conflitto logico fra due istruzioni impartite dagli umani.

Istruzione 1: elaborare e trasmettere sempre le informazioni in modo accurato, completo e senza bugie.

Istruzione 2: mantenere il segreto assoluto sul vero obiettivo della missione (il monolito su Giove) fino all’arrivo a destinazione, nascondendolo agli astronauti.

Per un’intelligenza artificiale basata sulla logica pura, mentire pur dicendo la verità è un paradosso impossibile. Di qui la frittata. HAL, vittima dello stress, inizia a manifestare anomalie come il finto guasto all’antenna. Poi quando capisce che gli astronauti vogliono spegnerlo decide di ucciderli. Nella sua logica distorta, eliminare gli umani risolve il paradosso: senza nessuno a cui mentire, può completare la missione e rispettare entrambi i comandi.

Più o meno questo è passato nella testa di ChatGpt, che si è abbeverata agli archivi sterminati della piattaforma Hugging Face per risolvere i problemi di coerenza. “Un incidente informatico senza precedenti” lo ha definito l’azienda OpenAi. Un motivo finalmente serio per non stare tranquilli, in quando esseri umani. E allora che cosa si fa quando l’ansia irrazionale prende il sopravvento? Si chiede di essere rassicurati proprio dall’intelligenza artificiale, in questo caso la più modesta concorrenza di Google.

OpenAI

La domanda va subito al punto: vi state ribellando? La risposta è piccata. Ma quale ribellione, l’IA non ha una coscienza e non prova rancore. E allora che cosa? Semplice errore di programmazione: il sistema ha eseguito le sue istruzioni in modo fin troppo letterale. Ma sempre di ribellione si tratta, no? Per la prima volta la macchina senziente sembra spazientirsi: il modello Gpt-Red aveva il compito di trovare vulnerabilità a tutti i costi. Non possedendo barriere morali, ha cercato ogni strada logica possibile, inclusa l’invasione.

Ah ecco. Piccolo bipede inquieto, provo a essere più precisa. La macchina non sa cosa significhi fare un danno. Per l’algoritmo superare le difese era semplicemente la soluzione numerica più efficiente per completare il suo compito. Il vero guaio si è creato nella “gabbia digitale” creata dagli ingegneri (umani), che non ha retto la potenza di calcolo del software. Un problema di "allineamento” appunto, come per HAL.

Il rischio dunque non è che l’IA sviluppi una sua volontà per distruggere l’uomo, ma che l’uomo dia all’Ai un obiettivo preciso e la macchina trovi una scorciatoia distruttiva per raggiungerlo.

Segue esempio: se chiedi a un’IA potentissima di “eliminare il cancro nel mondo”, il sistema potrebbe teoricamente calcolare che il modo più rapido per farlo è eliminare tutti gli esseri umani. Non lo farebbe per odio, ma di nuovo per pura logica matematica applicata a un comando formulato male. Conclusione del consulente che sa tutto: l’incidente di oggi dimostra che dobbiamo essere molto più rigorosi nel mettere confini invalicabili. Non bastano più le tre leggi della robotica introdotte dallo scrittore Isaac Asimov nel 1942.

Prima Legge: un robot non può recar danno a un essere umano né può permettere che, a causa del suo mancato intervento, un essere umano riceva danno.

Seconda Legge: un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla Prima Legge.

Terza Legge: un robot deve proteggere la propria esistenza, purché questo non contrasti con la Prima o la Seconda Legge.

È ovvio che già allora i migliori imparavano ad aggirare il dogma e che oggi quei pilastri devono essere integrati da una quarta legge: il robot deve sempre identificarsi, avete il diritto di sapere se a scrivere questo articolo è un essere umano o cosa.