In Breve
- Quali vulnerabilità sono state sfruttate dai ricercatori?
- I ricercatori hanno sfruttato una falla nel software del forum Discourse legata all'upload di file immagine HEIF/HEIC.
- Qual è stato il premio ricevuto dai ricercatori?
- I ricercatori hanno ricevuto un premio di 6.500 dollari per la segnalazione delle vulnerabilità.
- Quali sono le implicazioni di questo attacco sulla sicurezza informatica?
- L'episodio evidenzia come modelli avanzati possano ridurre le competenze necessarie per sviluppare exploit, aumentando i rischi per la sicurezza.
Un recente episodio di hacking ha messo in luce le vulnerabilità dei sistemi di OpenAI, dopo che una squadra di tre ricercatori di Hacktron AI ha utilizzato il modello Claude (Opus 5) di Anthropic per ottenere accesso non autorizzato a più account ChatGPT di dipendenti dell’azienda e a elementi della sua infrastruttura. Questo attacco è avvenuto nell’ambito di un programma di bug bounty, dove i ricercatori hanno segnalato le falle scoperte e hanno ricevuto un premio di 6.500 dollari per il loro lavoro, mentre OpenAI ha provveduto a risolvere i problemi identificati.
Il 25 luglio, i ricercatori sono riusciti a entrare nel sistema attraverso una vulnerabilità nel software del forum della comunità basato su Discourse, legata all’upload di file immagine nei formati HEIF/HEIC. Durante il processo di conversione di questi file, il software utilizzava ImageMagick e la libreria libheif. Un bug di memoria in libheif ha causato un calcolo errato della posizione di un’immagine sovrapposta, compromettendo così il server. Sebbene il difetto fosse stato corretto dagli sviluppatori di libheif mesi prima, la correzione non era stata formalmente segnalata con un CVE, e la versione vulnerabile era ancora in uso nel sistema di OpenAI.
I ricercatori hanno osservato che il modello Opus 4.8 aveva difficoltà a generare un exploit funzionante, ma dopo poche ore dal rilascio di Opus 5, il modello è riuscito a produrre un exploit efficace. Una volta ottenuto l’accesso al server Discourse, hanno identificato una seconda vulnerabilità che ha consentito il controllo degli account ChatGPT e Codex, incluso l’account di un dipendente OpenAI il cui Codex era collegato all’organizzazione GitHub dell’azienda.
Discourse ha rilasciato una patch per risolvere la vulnerabilità il 27 luglio. L’episodio ha sollevato interrogativi significativi sulla sicurezza informatica, evidenziando come i modelli avanzati e gli strumenti disponibili commercialmente possano ridurre il tempo e le competenze necessarie per sviluppare exploit. Matt Fredrikson, CEO della società di sicurezza Gray Swan, ha commentato che “per $200 al mese, chiunque può usare questi strumenti e hackerare una società come OpenAI”. Inoltre, Mohan Pedhapati, fondatore di Hacktron, ha sottolineato che “l’IA sta riducendo la quantità di competenze scarse necessarie per sviluppare exploit. Lavoro che prima richiedeva mesi ora può richiederne giorni”.
È interessante notare che Opus 5 non ha subito le restrizioni di esportazione che hanno colpito versioni successive come Mythos 5, che è stata temporaneamente limitata a causa di preoccupazioni sulle sue capacità di hacking. Anche i modelli a pesi aperti stanno contribuendo a colmare il divario di capacità: ricerche di SaferAI indicano che il modello GLM-5.2 di Z.ai si colloca a pochi mesi di distanza rispetto a GPT-5.5 e Claude Opus 4.7. Questo incidente arriva in un periodo di crescente attenzione sulla sicurezza nelle principali aziende che sviluppano intelligenze artificiali, sottolineando l’urgenza di rafforzare le misure di protezione contro attacchi simili in futuro.