Gli esperti hanno avvertito dei progressi dell’IA (Getty Images)
Evan Hubinger, responsabile di Anthropic per la Alignement Science, ha avvertito di ritenere che esista una probabilità superiore al 10% che l’IA “possa uccidere tutti gli esseri umani” entro il prossimo decennio.
Le sue osservazioni sono arrivate in risposta a Jacob Coxon, che ha annunciato le sue dimissioni dall’azienda, che è all’origine di Claude, sostenendo che né Anthropic né OpenAI stanno “agendo in modo responsabile”.
Coxon ha proseguito affermando: “Le persone che costruiscono l’IA credono seriamente che potrebbe ucciderci tutti entro la fine del decennio. Non si tratta di uno slogan di marketing.”
Ha aggiunto: “Questi sistemi diventeranno presto sovrumani, in grado di violare qualsiasi cosa, rivoluzionare qualsiasi campo dall’oggi al domani e acquisire potere e risorse reali.”
In un post su X di Hubinger, ha scritto: «Jacob ha ragione qui: crediamo davvero seriamente che l’IA potrebbe uccidere tutti gli esseri umani! Personalmente ritengo che sia >10% entro il prossimo decennio», aggiungendo che riteneva che il rischio dai modelli attualmente esistenti fosse “basso” ma che fosse “preoccupato” per i rapidi progressi e l’auto-miglioramento all’interno della tecnologia IA.
Hubinger ha anche espresso dubbi sul fatto che l’azienda disponga di una strada praticabile per controllare sistemi più capaci. «Penso che Anthropic stia facendo del proprio meglio, ma non disponiamo ancora di un piano per risolvere l’allineamento per la superintelligenza e non siamo chiaramente sulla buona strada per», ha scritto.
Allarme virale che provoca forti reazioni
La scienziata informatica Dame Wendy Hall, consigliera dell’IA per le Nazioni Unite, ha detto di essere stata “scioccata” dai post e ha suggerito che parte del messaggio potrebbe essere “PR e marketing” mentre le aziende corrono verso i debutti in borsa. Ha dichiarato alla BBC: «Perché qualcuno vorrebbe dire una cosa del genere? Chiederei agli investitori di non investire in questa azienda se questo è il loro sistema di valori.»
Ad agosto, un rapporto di sicurezza di Anthropic segnalava di osservare “primi segnali di potenziale accelerazione” e che era “meno fiducioso” rispetto a quanto dichiarato in precedenza in alcune valutazioni che avevano descritto come a basso rischio.
Chiamate a una supervisione più rigorosa
Un portavoce dell’Ufficio di gabinetto ha affermato che il Regno Unito “continua a collaborare strettamente con partner del settore, inclusa Anthropic, per rendere i modelli più sicuri”, ma sembra non aver commentato se l’ultimo modello di Anthropic sia stato trattenuto dall’Istituto di Sicurezza dell’IA del Regno Unito.
A luglio, oltre 1.300 dipendenti di aziende attive nel campo dell’IA hanno firmato una lettera aperta che chiede al governo degli Stati Uniti di sostenere uno sforzo internazionale volto a rallentare deliberatamente lo sviluppo dell’IA di frontiera.
Negli Stati Uniti, è stato proposto l’AI Kill Switch Act come risposta alle paure riguardo a sistemi fuori controllo.
Condividi i tuoi pensieri! Facci sapere nei commenti qui sotto, e ricorda di mantenere la conversazione rispettosa.
