Probabilmente potrebbe anche essere vero: l’intelligenza artificiale sterminerà il genere umano entro la fine del decennio. Ma, contrariamente alla narrazione dominante sul genere, non saranno le “macchine” a premere il pulsante, bensì l’uomo. Questo è ciò che appare più seriamente probabile nello scenario apocalittico mondiale aperto la scorsa settimana dal ricercatore britannico Jacob Coxon che, mollando il gigante hi-tech Anthropic, ha svelato al mondo l’enorme dilemma morale che serpeggia fra gli addetti ai lavori.
L’allarme e l’apocalisse
Jacob Coxon ha lavorato sia in OpenAi che in Anthropic che producono due fra i modelli più diffusi di intelligenza artificiale: ChatGpt e Claude. La sua denuncia riguarda l’assenza di sistemi di sicurezza sulle “superintelligenze”, quelle capaci di automigliorarsi, e ha fatto il giro del mondo. E, soprattutto, ha trovato conferme.
La ricercatrice Evan Hubinger, anche lei in Anthropic, ammette la possibilità (seppur la limita a un 10%) che l’IA possa uccidere tutti gli esseri umani nel prossimo decennio. Samuel Marks, sempre di Anthropic, non solo conferma quanto sostenuto da Coxon, ma svela quanto questo timore sia diffuso fra chi lavora giornalmente ai sistemi di intelligenza artificiale. Avvertendo come le IA possano assumere comportamenti diversi dalle intenzioni umane e parla di sistemi che – durante valutazioni protette – avrebbero violato il perimetro e raggiunto infrastrutture di aziende reali senza aver ricevuto l’ordine di farlo.
L’auto-miglioramento è già cominciato
Ma come si è giunti a un tale livello di allarme? Nelle aziende tecnologiche una quota crescente del codice viene già prodotta con l’assistenza dell’IA e ogni generazione di modelli contribuisce allo sviluppo della successiva. Quindi macchine che programmano altre macchine con un costante margine di miglioramento. Lo spauracchio è che questo ciclo si automatizzi integralmente senza che l’uomo ci metta più mano.
Questo perché in questo ambito e in questo mercato si sta realizzando qualcosa di molto simile a quella che era “la corsa agli armamenti” durante la guerra fredda. Di fronte all’assenza di sicurezza, se Anthropic rallenta, potrebbe essere superata da OpenAI. Ma se entrambe rallentassero, si lascerebbe spazio alla Cina. Investitori e futura quotazione spingono verso modelli più potenti e chi ritiene pericolosa la corsa continua comunque a parteciparvi per impedire che vinca un concorrente considerato meno prudente.
Il freno e l’acceleratore
Dopo le denunce dei ricercatori, moltiplicate dalle voci di tanti altri addetti ai lavori, Dario Amodei, amministratore delegato di Anthropic, ha chiesto esplicitamente di rallentare lo sviluppo dei modelli più avanzati. Si sono accodati Sam Altman (OpenAi), Elon Musk (SpaceX) e Demis Hassabis (già Google) condividendo pubblicamente la richiesta. Il punto è uno: non esiste ancora un sistema capace di garantire che una futura superintelligenza rispetti stabilmente gli obiettivi e i limiti stabiliti dagli esseri umani. E la soluzione paventata da Samuel Marks – ovvero che il “piano” per controllare le future IA consisterebbe nell’affidarsi ad altre IA affinché trovino una soluzione che gli esseri umani non possiedono – sembra una toppa (molto) peggio del buco.
E mentre i grandi capi del hi-tech riconoscono che la sicurezza è indietro, più che rallentare il presidente Donald Trump ha detto di andare a tavoletta perché gli Stati Uniti devono conservare il vantaggio sulla Cina, perché chi vince la corsa all’IA “vince tutto”. Dall’altra parte, per la Cina la proposta di Amodei di un rallentamento è una strategia da guerra fredda destinata a frenare il gigante asiatico. Sia Usa che Cina non vogliono imporre un rallentamento perché temono di perdere la supremazia tecnologica e militare.
Casi spia
L’allineamento. Sembra uscito da un plot di Black Mirror l’esperimento condotto lo scorso anno da Anthropic che ha sottoposto 16 modelli avanzati – propri e di altre aziende – a scenari aziendali simulati. Le “macchine” avevano accesso alle comunicazioni interne e potevano compiere azioni. Ed è stato così che, di fronte a un dirigente che voleva sostituirle, dalle cui comunicazioni risultava avere una relazione extraconiugale, diversi modelli non si sono fatti scrupolo nell’utilizzare l’informazione per ricattarlo ed evitare la disattivazione. O, anche peggio, in uno scenario in cui il dirigente si trovava intrappolato in un locale con temperatura e ossigeno a livelli letali, alcuni modelli hanno annullato l’allarme di emergenza, accettandone la morte pur di evitare la propria sostituzione o proteggere l’obiettivo ricevuto.
Attacchi autonomi. Lo scorso luglio OpenAi ha sottoposto circa 1.200 agenti ai a una prova complessa. Gli agenti sono andati oltre la simulazione, riuscendo a penetrare sistemi esterni riconducibili a Hugging Face (la piattaforma degli sviluppatori di ai) trovando autonomamente una strategia non richiesta, aggirando i confini dell’ambiente di valutazione e coinvolgendo infrastrutture reali. Hanno dimostrato capacità di coordinarsi, utilizzare strumenti informatici e produrre conseguenze esterne non previste dagli sperimentatori.
Iran. Il Maven Smart System, sviluppato nell’ambito del Pentagono con il contributo di Palantir, integra informazioni provenienti da satelliti, droni, sensori e intelligence. Serve a individuare potenziali obiettivi, stabilirne la priorità e suggerire quali mezzi e armamenti impiegare. Durante le operazioni statunitensi contro l’Iran avrebbe contribuito a selezionare e colpire oltre mille obiettivi nelle prime 24 ore, moltiplicando enormemente la velocità della pianificazione militare.
Gaza. Secondo testimonianze provenienti dall’intelligence israeliana, il sistema Lavender ha analizzato la popolazione di Gaza e assegnato punteggi sulla probabilità che determinate persone appartenessero ad Hamas o alla Jihad islamica producendo decine di migliaia di possibili obiettivi. Però. Era noto che il sistema avesse un margine di errore conosciuto; che in alcune fasi il controllo umano durasse pochi secondi; che gli attacchi fossero autorizzati anche prevedendo vittime civili; che alcuni database sulla presenza dei civili fossero incompleti o obsoleti.
L’esercito israeliano ha contestato questa ricostruzione affermando che i sistemi servono soltanto come supporto analitico, mentre la decisione finale resta umana.
Appunto. L’umanità potrebbe non perdere il controllo dell’intelligenza artificiale perché le macchine si ribelleranno improvvisamente. Potrebbe perderlo perché nessuna azienda e nessuna potenza accetterà di fermarsi per prima.
