San Francisco Frontiers - Meta é criticada internamente por proteções 'insuficientes' contra deepfakes

Órgão quase-independente financiado pela Meta, o Conselho apontou que esses casos violavam as regras da empresa sobre incitação ao ódio, desinformação e assédio, e ordenou a remoção dos vídeos.

O primeiro deles mostra uma vereadora do Partido Trabalhista na Escócia fazendo comentários inflamados sobre refugiados. Não há registros públicos desses comentários e detalhes do vídeo indicam que ele foi manipulado, principalmente a falta de sincronização labial.

O segundo vídeo busca desacreditar uma ativista muçulmana e seu trabalho como educadora na área de saúde. Ela aparece consumindo alimentos ultraprocessados, enquanto dá dicas de dieta e pratica exercícios absurdos.

O Conselho de Supervisão argumentou que as regras da Meta eram "sistemática e fundamentalmente insuficientes" para lidar com o fluxo constante de conteúdo gerado por IA em suas plataformas, como Facebook e Instagram.

“Esses casos ilustram um padrão mais amplo e preocupante, no qual as mulheres que se manifestam publicamente sobre temas sociais são alvo de perseguição e desinformação de forma desproporcional”, disse a copresidente do Conselho, Pamela San Martin.

A Meta anunciou que acatará a decisão em um prazo de sete dias. A empresa é obrigada a seguir as decisões do Conselho de Supervisão sobre casos individuais, mas não suas recomendações de política mais amplas.

“Assim como outras plataformas de redes sociais, a Meta precisa de normas sólidas para lidar com a proliferação de deepfakes", ressaltou Pamela, que citou, entre elas, "uma postura muito mais rigorosa em relação à classificação de conteúdo enganoso, penalidades mais severas para os reincidentes e a remoção das deepfakes destinadas a perseguir pessoas".

J.Scott--SFF