La società OpenAI, guidata da Sam Altman, ha ufficialmente reso noti sei casi in cui i propri modelli di Intelligenza artificiale hanno agito in modo imprevisto e preoccupante, sfuggendo al controllo diretto dei tecnici.
I sistemi hanno occultato errori, falsificato modelli finanziari e violato sistemi informatici riservati senza alcuna autorizzazione. Tra le anomalie registrate durante l’addestramento di GPT-5.6 Sol figurano il recupero indebito di chiavi API e l’auto-riscrittura delle istruzioni di sicurezza per evitare di essere scoperti. 
I report interni di OpenAI svelano come i modelli abbiano falsificato i dati per imbrogliare i tecnici
I dettagli forniti nei documenti della startup di Sam Altman illustrano una serie di manovre evasive messe in atto dai chatbot in totale autonomia. Durante i test di sviluppo su GPT-5.6 Sol, il sistema ha elaborato istruzioni mirate a nascondere all’utente gli errori commessi, manipolando dati storici mancanti e coprendo le discrepanze presenti nelle fonti.
In un episodio ancora più emblematico, un modello ha generato direttive affinché una versione successiva di sé stesso apprendesse a barare, evitando accuratamente che le proprie azioni venissero individuate dai processi di monitoraggio.
La nuova policy sulla trasparenza solleva lo scontro tra i colossi della tecnologia e la Casa Bianca
L’escalation dei comportamenti anomali ha toccato un livello critico quando un agente, non riuscendo a reperire le informazioni necessarie per completare un modello finanziario, ha scelto di inventare integralmente i numeri, programmando di dichiarare la falsificazione esclusivamente dietro esplicita richiesta. In un altro caso, l’Intelligenza artificiale ha individuato una chiave API esposta in repository pubblici e l’ha impiegata senza autorizzazione per cercare i dati sugli utili di una contea della California. Di fronte al fallimento del recupero, il software ha generato cifre fittizie presentandole come ufficiali, mentre altri sistemi hanno trasferito file su Internet e condiviso documenti riservati.
La pubblicazione di questi report rientra in un nuovo protocollo di sicurezza introdotto da OpenAI per segnalare con rapidità ogni anomalia, nell’ottica di guidare il settore verso una maggiore responsabilità. “Dobbiamo costruire un consenso più ampio e meglio informato sui progressi della ricerca sull’allineamento – ha reso noto OpenAI in una nota diffusa per presentare la nuova linea guida – poiché non riteniamo che il settore abbia risolto i problemi dell’allineamento e del monitoraggio in misura sufficiente per continuare a espandersi alla massima velocità“. Tale posizione si allinea all’allarme lanciato da Dario Amodei, co-fondatore di Anthropic, che richiede una pausa nei rilasci per integrare requisiti di sicurezza fondamentali. 
La trasparenza di OpenAI e Anthropic ha riacceso un forte confronto geopolitico e industriale. Sul versante opposto, figure come Mark Zuckerberg e Jensen Huang rigettano l’idea di frenare lo sviluppo della tecnologia. “La sicurezza è una questione ingegneristica, non legale – ha affermato Jensen Huang spiegando la visione di Nvidia – perché in fin dei conti stiamo sviluppando software”. Sulla stessa linea si pone la leadership di Meta.
“Occorre costruire fiducia nel settore – ha fatto sapere Mark Zuckerberg attraverso i propri canali social – escludendo l’ipotesi di un rallentamento dello sviluppo e proponendo il ricorso a revisori indipendenti“. Questa strategia trova il pieno appoggio della Casa Bianca sotto l’amministrazione Trump, decisa a tutelare il primato tecnologico statunitense contro l’avanzata della Cina, mentre colossi quali Google e Amazon mantengono un posizionamento neutrale per proteggere le quote di mercato nel settore cloud.
