San Francisco Frontiers - Ricercatore di Anthropic si dimette, 'umanità a rischio entro fine decennio'

Un ricercatore di Anthropic si è dimesso dal laboratorio di intelligenza artificiale, avvertendo che la corsa incontrollata alla creazione di una superintelligenza capace di auto-migliorarsi potrebbe distruggere l'umanità entro la fine del decennio. Jacob Coxon, ricercatore britannico di 27 anni in forza all'azienda con sede a San Francisco, ha affermato che Anthropic e la sua principale concorrente, OpenAI, stanno "giocando d'azzardo" con il futuro dell'umanità. Lo riporta il Financial Times. "Le persone che sviluppano l'Ia credono sinceramente che essa possa ucciderci tutti entro la fine del decennio", ha dichiarato in una serie di post su X con cui annunciava le proprie dimissioni. "Non si tratta di una mossa di marketing", ha aggiunto. "Nessun'altra attività umana comporta un tale livello di pericolo", ha ammonito. Coxon è l'ultimo dipendente a lasciare un importante laboratorio statunitense di Ia citando preoccupazioni legate alla sicurezza, un fatto che evidenzia il crescente allarme tra i ricercatori riguardo alla potenza dei sistemi che stanno sviluppando. Il suo addio giunge mentre Anthropic - che ha fatto della sicurezza dell'Ia un elemento centrale della propria immagine pubblica - si prepara a una colossale offerta pubblica iniziale (Ipo) che potrebbe portare la valutazione dell'azienda a mille miliardi di dollari. Coxon, che in precedenza aveva lavorato presso OpenAI prima di passare ad Anthropic, ha avvertito che le persone al di fuori dei laboratori stanno sottovalutando la potenza di questa tecnologia. "Presto si tratterà di sistemi sovrumani in grado di hackerare qualsiasi cosa, rivoluzionare qualsiasi settore dall'oggi al domani e acquisire potere e risorse reali", ha affermato. Un importante ricercatore nel campo della sicurezza presso Anthropic Evan Hubinger ha risposto all'allarme di Coxon affermando che l'intelligenza artificiale si sta evolvendo così rapidamente da fargli ritenere che vi sia una probabilità superiore al 10% che "possa sterminare tutta l'umanità" entro il prossimo decennio. In un post su X, Evan Hubinger ha affermato che il rischio derivante dai modelli attualmente esistenti è "basso", ma si è detto "preoccupato" che la tecnologia possa presto svilupparsi e perfezionarsi al punto da rappresentare un rischio esistenziale per l'umanità.

B.Ramirez--SFF