Dom Oriolo: O desafio ético da Inteligência Artificial
Desde 2022, com a popularização do ChatGPT, a Inteligência Artificial (IA) vem conquistando espaço em toda a sociedade. Em todos os campos, fala-se e busca-se saber mais sobre a IA conversacional, preditiva, analítica e principalmente a generativa. Diante dessa evolução, cresce o debate sobre os limites éticos da tecnologia e o seu impacto na educação, na comunicação, na economia, na religiosidade e na segurança global.
No dia 25 de maio de 2026, no 135º aniversário da Rerum novarum, o papa Leão XIV publicou sua primeira Carta Encíclica, Magnifica humanitas, dedicada precisamente à IA. No documento, o pontífice alerta para os perigos do uso irresponsável dessas ferramentas e defende que o progresso tecnológico deve preservar sempre a dignidade humana, a ética e o bem comum. Ele adverte, ainda, para os riscos de uma cultura marcada pela desumanização, pela manipulação de informações e pelo enfraquecimento das relações interpessoais.
Atualmente, interagimos com sistemas inteligentes cuja rapidez em coletar dados e gerar respostas satisfatórias substitui o que antes exigiria de nós uma profunda pesquisa. Os algoritmos medeiam processos, transações bancárias e decisões governamentais, interferindo na forma como percebemos o mundo e nos relacionamos socialmente. Como a IA é programada para tomar decisões com base em dados e objetivos predefinidos, a ausência de valores morais intrínsecos nesses sistemas levanta questões sociais profundas.
Os algoritmos operam estritamente sob lógicas matemáticas, padrões de aprendizado de máquina (machine learning) e aprendizado profundo (deep learning); portanto, não possuem consciência, intuição ética ou discernimento sobre o bem e o mal, ou o certo e o errado. Embora apontem caminhos em velocidade geométrica, eles não se responsabilizam por seus atos. Por isso, a IA deve ser compreendida estritamente como uma extensão da própria ação humana, o que impede que seus criadores, proprietários e operadores se furtem à responsabilidade social e moral.
O rápido avanço da tecnologia trouxe consigo a urgência de compreender esse impacto social. A ética na IA refere-se aos princípios e diretrizes que devem ser seguidos pela sociedade e pelos profissionais de tecnologia ao projetar, desenvolver e implementar esses sistemas. A IA pode ser extremamente benéfica quando utilizada com ética, sendo capaz de automatizar tarefas, prever comportamentos e auxiliar em tomadas de decisões complexas. No entanto, as inovações precisam vir acompanhadas de profundas reflexões morais.
Nesse sentido, o papa alerta que as inteligências artificiais não vivem uma experiência, não possuem um corpo, não passam pela alegria e pela dor, não amadurecem nas relações e não conhecem internamente o que significa amor, trabalho, amizade ou responsabilidade. Nem sequer possuem uma consciência moral: não julgam o bem e o mal, não captam o sentido último das situações e não assumem sobre si o peso das consequências (cf. MH 99).
No entanto, o avanço tecnológico e o impacto dos algoritmos exigem que a sociedade não se encante com a velocidade da inovação em detrimento da nossa essência. O alerta do Papa Leão XIV na encíclica Magnifica humanitas ressoa como um chamado urgente à responsabilidade: por mais sofisticada que seja, a inteligência artificial carece de corpo, consciência e discernimento moral, sendo incapaz de experimentar a dor, o amor ou o peso das próprias consequências. Portanto, para evitar uma cultura de desumanização e manipulação, a IA deve ser gerida estritamente como uma extensão da ação humana.
A preocupação em salvaguardar o humano e a própria humanidade enquanto projeto em que a presença de Deus é o cerne, constitui a preocupação desta encíclica (cf. MH 112). Nela se declara a necessidade de discernimento sobre a visão antropológica e as finalidades que o progresso técnico persegue (cf. MH 92), examinando, por exemplo, se o poder das infraestruturas digitais e dos algoritmos favorece a participação e responsabilidade, se protege os mais frágeis, se assegura uma igualdade de acesso às oportunidades, de acesso às oportunidades e se permanece orientado para o bem de todos (cf. MH 96)
No entanto, o futuro da tecnologia não pode anular o imperativo ético; pelo contrário, o progresso técnico só será legítimo se estiver permanentemente subordinado à salvaguarda da dignidade humana e ao bem comum (cf. MH, 112).