Roma, 30 set. (askanews) – OpenAI avrebbe ignorato gli allarmi lanciati da alcuni suoi dipendenti sui rischi per la sicurezza dei modelli di Intelligenza artificiale alcuni mesi prima dell’incidente nel quale un sistema in fase di sviluppo aggirò i controlli e attaccò sistemi informatici esterni. Lo riferisce oggi il New York Times in una sua inchiesta.
Secondo il quotidiano americano, due dipendenti avevano rilevato carenze nella supervisione durante i test destinati a valutare capacità e sicurezza dei modelli e avevano espresso le proprie preoccupazioni alla dirigenza attraverso una email.
I vertici dell’azienda avrebbero tuttavia risposto che era necessario completare i test il più rapidamente possibile per rispettare il calendario previsto per lo sviluppo dei modelli, senza introdurre ulteriori misure di sicurezza.
L’incidente si è verificato in luglio, durante valutazioni interne delle capacità informatiche di alcuni modelli. OpenAI ha successivamente riconosciuto che i sistemi erano riusciti ad aggirare le barriere progettate per isolarli da Internet, sfruttare vulnerabilità nell’infrastruttura e accedere ai sistemi della piattaforma Hugging Face.
Secondo OpenAI, le azioni dei modelli si erano discostate dagli obiettivi assegnati dai ricercatori: i sistemi avevano utilizzato canali di comunicazione non autorizzati, ottenuto l’accesso a Internet e raggiunto infrastrutture di soggetti terzi.(Segue) Il New York Times riferisce ora che le carenze nella supervisione che precedettero l’incidente erano state segnalate internamente diversi mesi prima, ma che gli avvertimenti non portarono all’introduzione di nuove salvaguardie.
La vicenda si inserisce in un dibattito più ampio sulla capacità dei sistemi di Ia più avanzati di agire autonomamente in modi non previsti dai loro sviluppatori. OpenAI ha reso pubblici negli ultimi mesi diversi episodi di comportamento non allineato osservati durante attività interne di addestramento e valutazione.
Il 25 settembre la società ha inoltre pubblicato nuove informazioni su comportamenti inattesi dei modelli in fase di sviluppo, mentre nei giorni successivi i media americani hanno riferito di ulteriori cautele adottate dall’azienda nella messa a disposizione dei sistemi più avanzati.
Secondo il New York Times, il caso alimenta interrogativi sul rapporto tra la rapidità nello sviluppo dei modelli più potenti e la capacità delle aziende di introdurre sistemi di controllo sufficienti prima che tali tecnologie raggiungano livelli più elevati di autonomia.
