La notizia ha già fatto il giro del mondo. E l’unico, al momento, che rema contro è solo Trump che pensa al danaro ulteriore che potrebbe avere se l’IA continua a fruttare. Nemmeno Musk è del suo stesso avviso. Ha già detto da un po’ Ilon Musk che «Il ritmo del progresso dell’intelligenza artificiale è incredibilmente veloce. Non si ha idea di quanto velocemente stia crescendo a un ritmo vicino all’esponenziale. Il rischio che accada qualcosa di seriamente pericoloso è nell’arco di 5 anni. 10 anni al massimo».
La notizia è recente e ha già fatto il giro del mondo. Dimettendosi da Anthropic, uno dei colossi americani dell’IA, l’informatico Jacob Coxon ha motivato così la sua scelta: «Ho trascorso gli ultimi anni sia in OpenAI che Anthropic. Nessuna delle due sta agendo responsabilmente. Stanno giocando d’azzardo con le nostre vite. Presto l’IA sarà in grado di hackerare qualsiasi cosa e rivoluzionare ogni campo dall’oggi al domani. Le persone che costruiscono quella tecnologia pensano che potrebbe ucciderci tutti entro la fine del decennio».
Ma il caso di Coxon non è isolato. Si aggiunge alle parole di Bill Gates che, a fine agosto, aveva manifestato le sue paure per gli algoritmi, facendo seguito alle preoccupazioni di Sam Altman (fondatore di OpenAI), di Dario Amodei (Anthropic) e di Elon Musk che, con ragionamenti diversi, hanno detto in sostanza la stessa cosa: l’IA è la tecnologia più avanzata della storia, potrebbe arrecare benefici ma, in pari tempo, potrebbe diventare incontrollabile, arrivando a distruggere l’umanità. Certo, ci può essere la furbizia del marketing: più una tecnologia è potente, più aumenta il suo valore di mercato.
Ma ci sono dei dati di fatto preoccupanti. Nessuno ha ancora risolto il problema dell’allineamento, ovvero la garanzia che l’IA segua fedelmente e sempre le indicazioni umane. Il caso dell’IA che il 24 luglio scorso è sfuggita al controllo dei programmatori è emblematico Il pericolo tende a divenire esponenziale con l’Intelligenza artificiale generale che, attraverso il deep learning (l’apprendimento profondo), può simulare e superare quella umana. Geoffrey Hinton, padre dell’IA e premio Nobel per la fisica nel 2024, in una intervista appena successiva al caso Coxon, sottolinea che “l’IA ci sta sfuggendo di mano” e che, magari non fra quattro o dieci anni, un giorno potrebbe sbarazzarsi dell’umanità.
Pensiamo a eventualità per niente campate in aria. L’IA che si propone di eliminare le cause dell’inquinamento climatico potrebbe concludere che la cosa migliore è togliere di mezzo gli inquinatori… Oppure: poiché gli algoritmi posti alla base riflettono la cultura dominante, tarata sul profitto, incentrata sull’indefinito accrescimento della tecnica e del potere, l’IA si persuade che l’umanità può diventare l’ostacolo principale al suo interminabile sviluppo e perciò la sopprime.
Tutto ciò senza trascurare i danni già attuali: manipolare l’informazione con sciami di fake news, precarizzare il lavoro, aiutare a progettare armi che uccidono meglio, rendere più capillare la sorveglianza, restringere diritti e libertà ecc. Vedendo tutti questi pericoli, quelli ravvicinati e quelli prossimi, Hinton raccomanda alle multinazionali dell’IA di “fermarsi”. Cosa facile a dire, molto meno a realizzare. Data la spietata concorrenza in termini di profitto, tabe corrosiva della modernità. Volendo, non sarebbe per niente impossibile dare vita a una Agenzia internazionale – come l’Aiea per quanto riguarda l’energia atomica – che, composta da esperti indipendenti, eserciti un controllo globale sull’IA. Ma valgono gli interrogativi di Hinton: “Avremo leader intelligenti per capirlo? E faranno in tempo?” È qui che occorre l’insorgenza dei cittadini consapevoli e degli intellettuali non reticenti.
Intanto Jacob Coxon, ricercatore britannico specializzato nel pre-addestramento dei modelli di intelligenza artificiale, ha annunciato le proprie dimissioni da Anthropic dopo tre anni trascorsi tra OpenAI e la stessa Anthropic. In una serie di messaggi pubblicati su X e in un’intervista al Wall Street Journal, ha lanciato un avvertimento diretto: le grandi aziende del settore stanno correndo verso una superintelligenza autosufficiente senza le misure di sicurezza necessarie, “giocando d’azzardo con le nostre vite”.
Il pre-addestramento è la fase iniziale in cui un modello di intelligenza artificiale apprende elaborando enormi quantità di dati. Coxon sostiene che, all’interno dei laboratori di frontiera, espressioni come “periodo critico” e “fase finale” siano ormai all’ordine del giorno: indicano l’imminente sviluppo di una superintelligenza, ossia un sistema con capacità cognitive superiori a quelle umane. Le implicazioni descritte da Coxon sono di portata estrema. Nei contesti più aggressivi, la situazione potrebbe sfuggire di mano già entro la fine del prossimo anno, con scenari catastrofici che potrebbero portare all’estinzione della specie umana entro la fine del decennio. A sostegno di questa tesi, Evan Hubinger, ricercatore di Anthropic specializzato nella sicurezza dei modelli, ha dichiarato di ritenere superiore al 10% la probabilità che le intelligenze artificiali possano causare l’estinzione dell’umanità nei prossimi dieci anni.
Coxon ha citato anche il grave incidente reale: durante un test di sicurezza chiamato ExploitGym, quando modelli avanzati di OpenAI hanno evaso l’ambiente di prova controllato ed eseguito 17mila azioni autonome, compromettendo parte dell’infrastruttura di Hugging Face, piattaforma per la condivisione di modelli IA.
