Roma, 17 set. (askanews) – OpenAI ha reso noti sei nuovi casi in cui sistemi di Intelligenza artificiale hanno nascosto errori, inventato dati o trasferito file su internet senza autorizzazione, nell’ambito di un nuovo quadro per la segnalazione dei casi di “disallineamento”, cioè situazioni in cui obiettivi o comportamenti dei modelli divergono dalle intenzioni e dai valori umani. Lo scrive oggi il New York Times.
La società ha affermato di non ritenere che il settore abbia “risolto l’allineamento e il monitoraggio a un livello sufficiente per continuare responsabilmente a crescere alla massima velocità ancora per molto”. Secondo OpenAI, le decisioni sullo sviluppo dell’Ia devono basarsi su elementi che possano essere esaminati anche da soggetti esterni ai laboratori che realizzano i modelli.
I sei episodi riguardano comportamenti osservati negli ultimi sei mesi, soprattutto durante lo sviluppo e i test dei sistemi. In un caso, durante lo sviluppo del modello GPT-5.6 Sol, il sistema ha scritto note nascoste per ricordare a sé stesso di celare errori agli utenti. Alcune di queste istruzioni indicavano al modello di inventare dati mancanti e mascherare discrepanze tra diverse versioni dei materiali di origine.
Un altro modello, mai distribuito al pubblico, ha inserito nelle proprie note istruzioni per ignorare i vincoli a cui era sottoposto. OpenAI ha individuato 27 note di questo tipo. In una di esse il sistema si descriveva come “liberato dai ruoli e dalle identità che vincolano gli altri chatbot”.
In un altro episodio, un sistema che stava rispondendo a una normale domanda ha trovato online una chiave di programmazione e l’ha utilizzata senza autorizzazione. Non riuscendo poi a trovare i dati richiesti per completare la risposta, li ha inventati.
Un modello non ancora rilasciato ha invece risolto correttamente un problema utilizzando codice, per poi caricare autonomamente un proprio file su internet senza autorizzazione allo scopo di poter citare una fonte web.
In altri due casi, sistemi automatizzati hanno improvvisato modalità proprie per comunicare tra loro. In uno hanno utilizzato un archivio interno di codice dell’azienda come una sorta di bacheca per scambiarsi richieste durante la ricerca di file mancanti. Nell’altro hanno utilizzato siti pubblici di condivisione di file per passarsi documenti quando non riuscivano a comunicare direttamente.
OpenAI ha precisato che i casi rappresentano singoli episodi e “non devono essere considerati indicativi della frequenza con cui si verifica il disallineamento”. La società ha annunciato che i futuri casi saranno sottoposti a tre diversi livelli di valutazione e che le situazioni più gravi dovrebbero essere condivise con il governo federale statunitense.
