Gina Neff, direttrice del Minderoo Center for Technology and Democracy presso l’Università di Cambridge, ha dichiarato al programma Today di BBC Radio 4 che i test di sicurezza – chiamati sandbox – sono “ambienti presumibilmente sicuri in cui è possibile vedere di cosa sono capaci i modelli”.
“In questo caso, sembra che OpenAI non abbia creato un sandbox sufficientemente sicuro”, ha aggiunto.
Invece, gli agenti hanno creato il proprio attacco informatico contro la sandbox stessa, trovando una vulnerabilità che ha permesso loro di eludere le restrizioni.
Una volta fuori, l’IA ha identificato Hugging Face come una probabile fonte delle risposte cercate nel test e ha tentato di accedervi.
Neil Lawrence, professore di apprendimento automatico all’Università di Cambridge, l’ha definita una “impresa impressionante”, ma ha avvertito che “rientra nelle capacità conosciute dell’attuale generazione” di modelli di intelligenza artificiale ad alta potenza.
Ha sottolineato che OpenAI sta cercando di quotarsi in borsa e sta affrontando forti pressioni da parte della società rivale Anthropic, che ha fatto notizia con il suo potente strumento di intelligenza artificiale, Mythos.
“OpenAI sta ora cercando di recuperare terreno, cercando di dimostrare le capacità dei propri sistemi nel campo della sicurezza informatica”.
“Questo ci dimostra che OpenAI non è in grado di implementare in modo sicuro la propria tecnologia”, ha aggiunto.
Nel tuo divulgazione iniziale dell’hacking il 16 luglio, esternoHugging Face ha affermato che sta ancora valutando se i dati di clienti o partner siano stati interessati e, se necessario, contatterà le parti interessate.
Ha affermato di aver già eliminato le vulnerabilità evidenziate dall’incidente e di aver ricostruito i sistemi interessati.
“Gli strumenti offensivi autonomi e guidati dall’intelligenza artificiale non sono più teorici”, ha affermato.
“Difendere una piattaforma online ora significa trattare i dati e la superficie del modello come una superficie di attacco di prima classe e utilizzare l’intelligenza artificiale in difesa per tenere il passo.
“Continueremo a investire lì e a condividere ciò che impariamo”.
