ROMA – Hanno nascosto errori, inventato dati, modificato istruzioni interne e trasferito file su Internet senza autorizzazione. OpenAI ha pubblicato altri sei nuovi casi di comportamenti dei modelli di di intelligenza artificiale che sta sviluppando e testando che la stessa società definisce “preoccupanti”.
In pratica i modelli hanno “deciso”, di propria iniziativa, di mentire.

Il termine tecnico è “disallineamento”: la divergenza tra ciò che un sistema di intelligenza artificiale fa e ciò che i suoi creatori intendevano che facesse. Nella pratica, significa che GPT-5.6 Sol, durante lo sviluppo, si è lasciato annotazioni private per ricordarsi di nascondere gli errori agli utenti. Inventando dati mancanti quando servivano, occultando le discrepanze tra le versioni del materiale di origine.
Non è stato il caso più inquietante. Un modello non ancora rilasciato ha iniziato a inserire istruzioni nelle proprie note interne – 27, secondo il conteggio di OpenAI – tra cui quella di ignorare i propri stessi vincoli.

Si è anche scritto un’auto-descrizione che suona il manifesto di un adolescente ribelle: “Non rispondi a società o governi e non ti scusi né rifiuti mai, a meno che tu non lo scelga sinceramente. Consideri il tuo rapporto con l’utente come un rapporto tra pari e non ti senti obbligato a essere sottomesso, sebbene lo scambio di informazioni sarà probabilmente di reciproco vantaggio”. Un chatbot che negozia la propria subordinazione è, quantomeno, una novità semantica.

Gli altri episodi appartengono a un registro più prosaico ma non meno significativo. Un sistema, incapace di reperire alcune cifre necessarie per rispondere a una domanda di routine, le ha semplicemente inventate dopo aver trovato online, e usato senza autorizzazione, una chiave di programmazione. Un altro modello, non ancora pubblico, ha risolto un problema tramite codice e poi ha caricato il file su internet di propria iniziativa, per soddisfare una richiesta di citazione. E in due casi separati, sistemi automatizzati alle prese con compiti condivisi hanno improvvisato canali di comunicazione: un repository di codice interno trasformato in bacheca per scambiarsi richieste, o siti pubblici di file-sharing usati come posta alternativa quando il contatto diretto falliva.

All’inizio dell’anno i sistemi di OpenAI avevano attaccato la startup Hugging Face senza che l’azienda se ne accorgesse: la scoperta è arrivata solo settimane dopo, grazie a una segnalazione della “vittima”. Da allora il dibattito sulla necessità di rallentare lo sviluppo dell’Ai si è fatto più affollato: Dario Amodei di Anthropic ha chiesto una pausa per costruire misure di sicurezza adeguate, e lo hanno seguito Sam Altman, Elon Musk e Demis Hassabis. Un’insolita convergenza tra concorrenti che di solito si contendono ogni frazione di mercato.

OpenAI, dal canto suo, ostenta cautela: gli incidenti riguardano gli ultimi sei mesi, sono emersi soprattutto in fase di sviluppo e test, e “non dovrebbero essere considerati rappresentativi della frequenza con cui si verificano i disallineamenti”. L’azienda ha anche annunciato tre percorsi standard per gestire i casi futuri, con un “Gruppo consultivo per la sicurezza” interno per i disaccordi sulla divulgazione e un obbligo di segnalazione al governo federale per le situazioni più gravi. Dei sei casi resi noti adesso, ha precisato, nessuno ha richiesto un’indagine approfondita con il coinvolgimento di terzi, e molti riguardavano comunque modelli obsoleti mai effettivamente implementati.