San Francisco Frontiers - Executivos pedem na ONU cautela no desenvolvimento da IA

Líderes do setor se reportaram ao Conselho de Segurança da ONU, após semanas de manchetes globais sobre os riscos de uma IA incontrolável e apelos para conter sua evolução.

"Este momento requer extremo cuidado", advertiu o CEO da OpenAI, Sam Altman, durante a reunião de emergência do Conselho. Ele alertou que, conforme os sistemas de IA se tornem mais capazes e autônomos, eles poderão avançar mais rapidamente do que as instituições ou concentrar muito poder em poucas mãos.

"A indústria não deve aceitar riscos tecnológicos excessivos simplesmente porque os benefícios são grandes e importantes demais para frear seu avanço", disse Altman, que foi convidado com colegas para traçar um panorama da IA.

- Normas de segurança -

Dario Amodei, por sua vez, afirmou que, à medida que os modelos de IA se tornarem mais poderosos, "normas de segurança ainda mais rigorosas serão necessárias".

A Anthropic pretende aprimorar sua capacidade de prevenir o uso indevido da tecnologia, ressaltou o executivo, em chamada de vídeo. Ele prometeu desacelerar o desenvolvimento da IA o quanto for necessário para garantir a segurança de cada novo modelo lançado.

Há dez dias, o CEO da Anthropic pediu uma redução coordenada do ritmo entre os grandes nomes dessa tecnologia, o que não se concretizou.

Outro orador foi Clément Delangue, da Hugging Face, alvo de um ciberataque realizado por um software autônomo da OpenAI, o primeiro de uma série de incidentes que fizeram soar o alarme sobre a rápida evolução da IA.

Delangue ressaltou que, embora tenha sido alvo da IA, sua empresa também usou essa tecnologia para repelir os ataques. "Mais do que nunca, o mundo precisa da IA de código aberto para se defender."

"Não queremos cair na armadilha do otimismo cego, mas também não podemos sucumbir ao catastrofismo. Portanto, faremos todo o possível para encontrar um meio-termo", disse Sam Altman.

"Ao longo da História, houve momentos em que países que competiam entre si, e não necessariamente se apreciavam, conseguiram, ainda assim, chegar a um acordo pelo bem comum, diante de uma nova tecnologia. Isso tem que voltar a acontecer", ressaltou o CEO da OpenAi.

D.Brown--SFF