Roma, 9 set. (askanews) – C’è una probabilità superiore al 10% che nel prossimo decennio l’Intelligenza artificiale possa arrivare a “uccidere tutti gli esseri umani”. A formulare l’inquietante stima è stato Evan Hubinger, responsabile dell’Alignment Science di Anthropic, uno dei ricercatori che all’interno dell’azienda sviluppatrice di Claude studiano proprio come impedire ai sistemi Ia sempre più potenti di assumere comportamenti o di perseguire obiettivi non compatibili con quelli umani.
Hubinger è intervenuto su X dopo le dimissioni da Anthropic del ricercatore britannico Jacob Coxon, 27 anni, che ha accusato le principali aziende del settore di correre verso una superintelligenza capace di auto-migliorarsi senza disporre di garanzie sufficienti sulla sua sicurezza.
“Jacob ha ragione: crediamo davvero, sinceramente, che l’Ia potrebbe uccidere tutti gli esseri umani”, ha scritto Hubinger. “Personalmente penso che la probabilità sia superiore al 10% nel prossimo decennio. Credo che Anthropic stia facendo del suo meglio, ma non abbiamo ancora un piano per risolvere il problema dell’allineamento della superintelligenza e non siamo chiaramente sulla buona strada per riuscirci”.
Il ricercatore ha successivamente precisato, sempre su X, che il suo allarme non riguarda direttamente i sistemi attualmente disponibili. “Per essere chiari, penso che il rischio derivante dai modelli attuali sia basso”, ha scritto. A preoccuparlo è invece la possibilità che emerga una superintelligenza attraverso un processo di “auto-miglioramento ricorsivo”, uno sviluppo che, secondo Hubinger, starebbe procedendo più rapidamente di quanto previsto.
Il concetto è uno dei nodi centrali del dibattito sulla sicurezza dell’Ia: sistemi sufficientemente avanzati potrebbero essere utilizzati per progettare, programmare e addestrare sistemi ancora più capaci, innescando un’accelerazione del progresso tecnologico difficile da controllare. Il problema dell'”alignment”, l’allineamento, riguarda proprio la possibilità di assicurare che una futura Ia molto più intelligente dell’uomo continui ad agire secondo obiettivi e vincoli stabiliti dagli esseri umani.
L’intervento di Hubinger è arrivato dopo che Coxon ha annunciato le dimissioni da Anthropic, sostenendo che le aziende impegnate nello sviluppo dell’Ia stanno “giocando d’azzardo con le nostre vite”. Il ricercatore, che prima di Anthropic aveva lavorato anche a OpenAI, ha affermato che “le persone che costruiscono l’Ia credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio” e ha sottolineato che “non si tratta di una trovata di marketing”.
Secondo Coxon, il problema non sarebbe soltanto la velocità dello sviluppo tecnologico, ma la competizione tra le principali aziende e tra i diversi Paesi, che renderebbe difficile per un singolo laboratorio rallentare unilateralmente. A suo giudizio potrebbe rendersi necessario arrivare anche a misure drastiche, come una sospensione temporanea dello sviluppo delle capacità dei modelli, nel quadro di un coordinamento più ampio.
La presa di posizione di Hubinger assume particolare rilievo perché proviene dall’interno di Anthropic, azienda la quale sostiene di aver posto la sicurezza e il controllo dei sistemi avanzati al centro della propria strategia di ricerca.
