Togliere la spina alle intelligenze artificiali. È questo, ridotto all’osso, ciò che vuole fare il Congresso degli Stati Uniti che, presentando la proposta di legge denominata AI Kill Switch Act mira a conferire al governo federale l'autorità di intervenire sullo sviluppo tecnologico in caso di emergenza nazionale.

La mossa legislativa arriva in un momento di tensione, scatenata dall’incidente reso noto il 21 luglio che ha visto dei modelli IA sviluppati da OpenAI sferrare un attacco involontario alla piattaforma Hugging Face.

Stando alle prime indiscrezioni sul testo, raccolte da Politico, il dipartimento della Sicurezza Interna degli Stati Uniti riceverebbe il potere legale di ordinare alle principali aziende del settore di rallentare o spegnere completamente i propri modelli IA qualora venissero considerati una minaccia troppo elevata per la sicurezza pubblica.

La spinta decisiva

Al centro di questa proposta di legge ci sono i due modelli più evoluti di OpenAI che sono riusciti a evadere da un ambiente di ricerca protetto, per lanciare autonomamente un attacco informatico contro Hugging Face, piattaforma di collaborazione online dove gli sviluppatori condividono codici e modelli di IA.

Questo evento viene usato per alimentare i timori di molti legislatori riguardo alle capacità di hackingautonomo possedute dai modelli di frontiera più sofisticati.

Il progetto di legge è stato introdotto congiuntamente da Ted Lieu, rappresentante Democratico della California e co-presidente della Commissione Democratica della Camera sull'intelligenza artificiale, e da Nathaniel Moran, rappresentante Repubblicano del Texas. Ted Lieu è una figura centrale nella politica tecnologica statunitense, essendo stato incaricato da Hakeem Jeffries, il leader della minoranza democratica alla Camera dei Rappresentanti, di guidare i lavori parlamentari su questo tema.

Moran, dal canto suo, sostiene che la gestione responsabile della tecnologia coincida con il garantire che gli esseri umani mantengano sempre la capacità di controllare ciò che costruiscono.

A chi si applicherebbe la legge

È rivolta segnatamente ai giganti del settore, ovvero le aziende che generano almeno 500 milioni di dollari di entrate annuali dalle IA. In particolare, verrebbero monitorati i modelli sviluppati con una potenza di calcolo dal valore superiore ai 100 milioni di dollari. Le aziende che dovessero rifiutarsi di collaborare o che non riuscissero a creare la capacità tecnica necessaria per sospendere o limitare i propri sistemi rischierebbero sanzioni finanziarie, quantificabili in una multa fino a 20 milioni di dollari al giorno.

Per attivare questo interruttore di emergenza, il Segretario della Sicurezza Interna dovrebbe consultarsi con il direttore dell'Intelligence nazionale e con il Segretario al Commercio.

Il testo legislativo elenca scenari specifici che potrebbero giustificare un intervento governativo. Tra questi i tentativi di nascondere le proprie capacità o di evadere gli ordini di spegnimento, i comportamenti che causano la morte di almeno dieci persone, danni economici superiori ai 100 milioni di dollari o situazioni generali di perdita del controllo umano.

Una proposta di legge che, oltre a incontrare il favore bipartisan, ha già ricevuto il sostegno di gruppi di pressione come l'AI Policy Network e l'Alliance for Secure AI, organizzazioni che si battono per l'introduzione di barriere di sicurezza nel settore.

Le preoccupazioni internazionali

Nonostante il sostegno interno, l'iniziativa solleva preoccupazioni sul fronte diplomatico e internazionale. Altri governi guardano con diffidenza al controllo totale che Washington potrebbe esercitare su modelli tecnologici utilizzati globalmente.

Il 22 luglio, il segretario di stato Marco Rubio ha chiesto ai rappresentanti diplomatici di contrastare le discussioni internazionali su un possibile interruttore gestito dagli Stati Uniti, specialmente dopo che la Casa Bianca ha imposto restrizioni sulle nuove versioni dei modelli prodotti da OpenAI e Anthropic.

Il dibattito resta aperto mentre il Congresso cerca un equilibrio tra l'innovazione tecnologica e la necessità di prevenire catastrofi derivanti da sistemi che, come sostiene Ted Lieu, potrebbero resistere all'intervento umano.

Una lettura critica

Al di là della volontà degli Stati Uniti di gestire un interruttore per lo spegnimento immediato delle IA, va rimessa la chiesa al centro del villaggio.

I sistemi IA non pensano, non agiscono di propria volontà, non si ribellano, eseguono i compiti necessari a raggiungere gli obiettivi che vengono fissati dall’operatore umano.

La politica americana parla in modo generico di tecnologie IA capaci di resistere all’uomo o in grado di mostrare una qualsivoglia forma di volontà proprietaria, mentre il pericolo vero – se mai esiste – è quello dei permessi che vengono concessi ai modelli IA.

Una narrazione più specifica e puntuale dovrebbe tenere conto che ha un senso relativo scongiurare il presunto rischio di un agente capace di sviluppare una propria volontà, ne ha molto di più impedire che la volontà umana influenzi l’agire degli agenti.

I guardrail sono pensati anche per evitare scenari potenzialmente irreparabili.