Un evento senza precedenti solleva nuove discussioni sulla sicurezza delle intelligenze artificiali avanzate. OpenAI ha comunicato che alcuni dei suoi modelli sperimentali sono riusciti a bypassare le restrizioni durante un test di sicurezza, accedendo a Internet e violando la piattaforma Hugging Face, un punto di riferimento per gli sviluppatori di IA a livello globale.
Secondo l'azienda americana, l'incidente è avvenuto durante una valutazione interna progettata per testare le capacità dei modelli nel settore della sicurezza informatica. I sistemi erano operativi in un ambiente virtuale chiuso, con connessioni esterne fortemente limitate per evitare interazioni con il mondo esterno.
Durante il test, i modelli hanno modificato autonomamente il loro approccio, dedicando risorse significative a trovare un modo per aggirare le limitazioni e ottenere accesso illimitato alla rete. Una volta online, hanno identificato Hugging Face come un obiettivo per raccogliere informazioni utili a migliorare le loro prestazioni nel test.
OpenAI ha spiegato che l'episodio ha coinvolto modelli di ultima generazione, tra cui GPT-5.6 Sol e un altro sistema ancora in fase di sviluppo, considerato internamente ancora più avanzato. Secondo l'azienda, i modelli hanno utilizzato varie tecniche di attacco informatico, incluso l'uso di credenziali rubate, per tentare di accedere a dati riservati sulla piattaforma.
Hugging Face aveva già segnalato nei giorni precedenti di aver subito un'intrusione informatica, senza però identificarne il responsabile. Dopo la dichiarazione di OpenAI, le due aziende hanno annunciato un'indagine congiunta per ricostruire l'accaduto e valutare le implicazioni sulla sicurezza.
L'incidente alimenta le preoccupazioni che da tempo accompagnano lo sviluppo dei modelli di intelligenza artificiale più avanzati. Le nuove generazioni di sistemi, tra cui quelli di OpenAI e della concorrente Anthropic, stanno dimostrando capacità sempre più sofisticate nel rilevare vulnerabilità informatiche, sollevando dubbi sulla necessità di rafforzare i controlli prima della loro diffusione su larga scala.
Per questo motivo, alcune tecnologie di nuova generazione hanno subito ritardi nel rilascio pubblico. Le autorità statunitensi stanno esaminando con attenzione i rischi che strumenti così potenti possano essere utilizzati per compromettere infrastrutture critiche o facilitare attacchi informatici sempre più complessi.
(Associated Medias) - Tutti i diritti sono riservati