San Francisco Frontiers - Vaticano publica doutrina sobre IA, instrumento que traz 'desafios éticos'

"Como qualquer produto da engenhosidade humana, a IA também pode ser direcionada para fins positivos ou negativos", alerta o documento, aprovado pelo papa Francisco e dirigido em particular a pais, professores, pastores e bispos.

A IA é uma oportunidade desde que seu uso esteja sujeito a uma "avaliação moral", porque "a sombra do mal também se estende aqui", afirma a nota publicada pelos Dicastérios para a Doutrina da Fé e para a Cultura e a Educação.

A inteligência artificial pode ser usada "para ajudar as nações a buscar a paz e garantir a segurança", tem o potencial de "aumentar as competências e a produtividade" e apresenta "um enorme potencial em várias aplicações no campo médico", lista o Vaticano.

No campo da educação, se usada "com prudência", pode se tornar um "recurso valioso", pois melhora o acesso à educação e pode oferecer suporte personalizado e "respostas imediatas", observa.

- "Implicações éticas" -

No entanto, o Vaticano não esconde sua preocupação com "as implicações éticas do desenvolvimento tecnológico".

Cita, por exemplo, o "uso bélico da inteligência artificial", sobretudo de "sistemas de armas autônomas e letais", que o papa exigiu que fossem proibidos na cúpula do G7 em junho de 2024, na Itália.

Em termos de emprego, as abordagens atuais à tecnologia podem "desqualificar os trabalhadores, submetê-los à vigilância automatizada e relegá-los a tarefas rígidas e repetitivas", alerta.

Se for usada para substituir trabalhadores humanos em vez de acompanhá-los, há "um risco substancial de lucro desproporcional para alguns em detrimento do empobrecimento de muitos", observa o documento.

No campo educacional, segundo a Santa Sé, muitos programas "se limitam a dar respostas em vez de incentivar os alunos a encontrá-las sozinhos", o que é visto como um obstáculo à promoção do "pensamento crítico".

- Notícias falsas -

O documento também alerta para o "grave risco" da IA gerar conteúdo manipulado e difícil de distinguir dos dados reais. "As consequências de tais aberrações e informações falsas podem ser muito graves", alerta o Vaticano.

A Santa Sé também afirma que o fato de "a maior parte do poder sobre os principais aplicativos de IA estar concentrada nas mãos de algumas empresas poderosas levanta questões éticas significativas".

Estas empresas, acrescenta, sem nomeá-las, "têm a capacidade de exercer formas de controle tão sutis quanto invasivas, criando mecanismos de manipulação de consciências e do processo democrático".

Por isso, os autores do documento afirmam, em uma reflexão final, que é "decisivo" avaliar criticamente as diferentes aplicações da IA, nas suas diferentes áreas, para determinar se promovem ou não "a dignidade, a vocação humana e o bem comum".

K.Gray--SFF