San Francisco Frontiers - EUA investiga ChatGPT por possível conteúdo prejudicial

Apoiada pela Microsoft, a OpenAI foi notificada sobre a investigação em um questionário de 20 páginas, em que é solicitada a descrever incidentes em que usuários foram falsamente difamados e a compartilhar os esforços da empresa para garantir que os mesmos não se repitam. A investigação foi divulgada pelo jornal The Washington Post.

O lançamento do ChatGPT pela OpenAI, em novembro passado, surpreendeu o mundo, ao mostrar o poder dos grandes modelos de linguagem (LLM, sigla em inglês), uma forma de inteligência artificial (IA) conhecida como "IA generativa", que pode produzir em segundos um conteúdo semelhante ao criado pelo homem.

Em meio à agitação causada pela capacidade dessa tecnologia, autoridades receberam relatos de que esses modelos também poderiam gerar conteúdo ofensivo, falso ou estranho, às vezes chamado de "alucinações".

A investigação da autoridade reguladora se concentra em como esse aspecto poderia prejudicar os usuários, segundo o questionário, mas também se aprofunda no uso de dados privados pela OpenAI para construir seu modelo, líder no mundo.

O GPT-4 da empresa é a tecnologia-base por trás do ChatGPT, assim como dezenas de outros programas de empresas que pagam uma taxa à OpenAI a fim de acessar o seu modelo para uso próprio.

Uma investigação da Comissão de Comércio não implica, necessariamente, outras ações, e a autoridade pode encerrar o caso se ficar satisfeita com a resposta da empresa. Caso o regulador perceba práticas ilegais ou inseguras, exigirá medidas corretivas e pode entrar com uma ação judicial.

A AFP entrou em contato com a OpenAI e a Comissão de Comércio, mas não obteve resposta.

H.Reyes--SFF