Os limites éticos da inteligência artificial e os impactos dos avanços tecnológicos sobre os mais vulneráveis, o trabalho, as guerras, a desinformação e a dependência digital são questões abordadas pelo papa Leão XIV em sua primeira encíclica. Nela, ele alerta para novas formas de escravidão e para um novo tipo de colonialismo, no qual as grandes empresas de tecnologia concentram o poder. “A guerra visível é acompanhada por formas híbridas: ataques cibernéticos, manipulação da informação, campanhas de influência, automatização de decisões estratégicas”, afirma Leão XIV. “A preocupação principal do papa está no fato de que a lógica tecnológica pode transformar pessoas em dados, classificações e padrões estatísticos, reduzindo a complexidade da dignidade humana”, comenta o doutor Clóvis Ecco, professor no doutorado em ciências da religião, vice coordenador e professor no doutorado no Programa de Letras da PUC Goiás . Chamada de “Magnifica humanitas” (humanidade magnífica, em latim), a encíclica foi publicada nesta segunda-feira (25) pelo Vaticano, pouco mais de um ano depois da eleição do americano Robert Prevost, 70. Seu subtítulo é “sobre a salvaguarda da pessoa humana na era da inteligência artificial”. “A posição política do papa é evidente nesse aspecto de defender uma condição mais democrática da elaboração da inteligência artificial, do desenvolvimento das novas tecnologias, ou seja, as novas tecnologias a serviço da sociedade e não a serviço de interesses privados”, observa Flávio Munhoz Sofiati, professor de sociologia da UFG e coordenador do Núcleo de Estudos de Religião “Carlos Rodrigues Brandão”. A convite do POPULAR, os dois especialistas analisam trechos da encíclica (encíclicas são textos aprofundados sobre temas escolhidos pelo papa) “Magnifica humanitas”, destacados a seguir. O texto está organizado em cinco capítulos, além de introdução e conclusão, e contextualiza o tema da IA sob o ponto de vista teológico e da Doutrina Social da Igreja, centrada nos princípios do bem comum. “Não podemos considerar a IA moralmente neutra. Na realidade, todo artefato técnico traz consigo escolhas e prioridades: o que mede, o que ignora, o que otimiza e a forma como classifica pessoas e situações. Se um sistema for concebido ou utilizado de modo a tratar certas vidas como menos dignas, ou a excluí-las sem possibilidade de apelo, não se trata de um mero instrumento ‘a ser bem utilizado’: introduz já um critério que contradiz a dignidade inalienável da pessoa.”Clóvis Ecco - Esse trecho da Encíclica Magnifica Humanitas apresenta uma das críticas mais atuais e profundas sobre os limites éticos da inteligência artificial. Nessa parte, chama a atenção para o fato de que nenhuma tecnologia é neutra, porque todo sistema é construído a partir de escolhas humanas, interesses econômicos, critérios políticos e visões de mundo. A preocupação principal do papa está no fato de que a lógica tecnológica pode transformar pessoas em dados, classificações e padrões estatísticos, reduzindo a complexidade da dignidade humana. O ponto nevrálgico da encíclica aparece na vulnerabilidade dos mais pobres, dos migrantes, dos trabalhadores precarizados e daqueles com menor acesso digital, que tendem a ser os mais afetados por decisões automatizadas sem transparência ou possibilidade de contestação. Nesse sentido, a Carta Encíclica Magnifica Humanitas do papa Leão XIV reafirma que a tecnologia deve estar subordinada à ética, à justiça social e à proteção incondicional da dignidade humana. Flávio Sofiati – O papa é assertivo em vários momentos da encíclica, e ele vai aqui muito na linha do antecessor Francisco. Por quê? Porque está dizendo algo que é óbvio para quem está pensando esse tema na academia: no sistema societário no qual nós estamos inseridos, o capitalismo, tudo que é produzido é produzido enquanto mercadoria. A inteligência artificial está tensionando, por exemplo, a produtividade no trabalho. Ou seja, a IA é uma ferramenta que a gente compra, porque, em geral, aquilo que está de graça é apenas uma parte do que é o conteúdo total desses aplicativos, dessas IAs. Enfim, as empresas estão comprando, as universidades, os governos, e isso tensiona a nossa produtividade. Mas isso também ressignifica o modo com que a gente produz não só conhecimento, mas produz mercadoria. O papa é assertivo em dizer que a IA não é neutra e que todo esse peso social vai recair de novo, como em tudo no sistema capitalista, nos mais pobres, na classe trabalhadora em geral. Ele assume uma perspectiva muito parecida com a do papa Francisco, porque a encíclica evidencia uma posição desde as pessoas empobrecidas, que é, do meu ponto de vista de quem pesquisa o cristianismo, o essencial nos quatro evangelhos do Novo Testamento. Ou seja, a vida de Jesus evidencia isso nos evangelhos. Ele está sempre do lado dos pobres, das pessoas empobrecidas, e é isso que o papa faz em várias passagens, inclusive nessa encíclica que vai tratar da inteligência artificial em defesa das pessoas, da pessoa humana. “É desejável que a tecnologia alivie o homem de trabalhos pesados, repetitivos ou perigosos. Porém, o princípio geral deve continuar a ser a proteção dos postos de trabalho e do papel insubstituível da pessoa. O objetivo de maiores lucros não pode justificar escolhas que sacrifiquem sistematicamente o emprego.”Clóvis Ecco - Cabe destacar que a encíclica atualiza a tradição inaugurada pela “Rerum Novarum”, publicada em 15 de maio de 1891 por Leão XIII, ao propor, já naquele contexto histórico, uma economia centrada na dignidade humana, na inclusão social e na valorização do trabalho como dimensão essencial da vida. É importante lembrar que a linhagem dos papas Leão, na tradição das escolhas dos pontífices, sinaliza prioridades pastorais, sociais e políticas da Igreja diante dos desafios históricos de cada época. Nesse contexto, a escolha do nome Leão XIV denota uma preocupação voltada às relações entre mercado, trabalho e dignidade humana. O documento atual retoma essa tradição histórica ao enfatizar as tensões entre capital e trabalho, especialmente diante das profundas transformações provocadas pela rápida implementação da inteligência artificial e das novas tecnologias nos processos de produção e nas relações laborais. A encíclica chama atenção para o risco de desumanização do trabalho, da precarização das relações profissionais e do aumento das desigualdades sociais em contextos marcados pela automação e pela lógica econômica centrada exclusivamente na produtividade e no lucro. Ao mesmo tempo, o texto reafirma a defesa da justa remuneração, da dignidade do trabalhador e dos direitos sociais, reforçando que o desenvolvimento econômico e tecnológico não pode estar acima da pessoa humana. O documento destaca, ainda, a importância do humanismo, do diálogo, da solidariedade e da justiça social como princípios fundamentais para a construção do bem comum. Flávio Sofiati - Em geral, os papas quando escolhem os nomes, esses nomes sempre têm um significado. É uma expressão do vínculo deles com a doutrina da Igreja Católica, que é plural. Nós temos uma única Igreja, mas muitos catolicismos inclusos nela. E os papas, quando escolhem os nomes, eles escolhem a referência. A referência de Leão XIV é a um papa (Leão XIII), que pensou nas pessoas empobrecidas. Não dá para dizer que é uma continuidade, mas é um capítulo novo de uma Igreja, de um texto oficial da Igreja preocupada com as pessoas na sociedade, principalmente as pessoas empobrecidas. “Hoje, mais do que nunca, é importante reafirmar que foi superada a teoria da ‘guerra justa’, invocada com demasiada frequência para justificar qualquer guerra. (...) Para enfrentar os conflitos, a humanidade dispõe de instrumentos muito mais eficazes (...), como o diálogo, a diplomacia e o perdão.”Clóvis Ecco - Ao questionar a política americana de expansionismo, marcada pelo unilateralismo e pelas ações bélicas, Leão XIV inaugura seu posicionamento profético diante do mundo contemporâneo, sobretudo, ao criticar modelos políticos marcados pelo nacionalismo extremo, pela concentração econômica e pelo domínio tecnológico das grandes potências. Nesse contexto, as recentes críticas de Donald Trump e de setores conservadores dos Estados Unidos ao papa devem ser compreendidas como reação a uma visão de mundo defendida pelo papa, pautada no multilateralismo, na justiça social, na defesa dos migrantes e na limitação ética do mercado. A encíclica reafirma uma tradição que sempre foi inegociável, ou seja, a de tensionar estruturas de poder quando estas ameaçam a dignidade humana e o bem comum. Flávio Sofiati - Prevest é americano, mas é um americano que viveu muito tempo na América do Sul, que conheceu o outro lado da América. Ele é formado numa teologia mais progressista e num contexto de uma Igreja Católica mais progressista em comparação com o modelo predominante nos EUA. Nessa perspectiva, o papa faz esse confronto que não é, na verdade, a intenção direta dele, é uma intenção mais do presidente dos Estados Unidos, mas ele faz esse confronto com princípios, os princípios do mercado no que diz respeito à inteligência artificial, e os princípios que deveriam ser os princípios da sociedade ao que seria o bem comum, levando em consideração essa temática das novas tecnologias. A posição política do papa é evidente também nesse aspecto de defender uma condição mais democrática da elaboração da inteligência artificial, do desenvolvimento das novas tecnologias, ou seja, as novas tecnologias a serviço da sociedade e não a serviço de interesses privados. “Nas escolhas relativas a fluxos econômicos e plataformas digitais, na gestão dos dados e dos algoritmos, não se pode permitir que poucos sujeitos orientem sozinhos os processos. (...) Não significa renunciar à tecnologia, mas impedir que ela domine o ser humano. Significa retirá-la dos monopólios, torná-la discutível, contestável e, portanto, habitável.”Clóvis Ecco - O debate sobre inteligência artificial ainda se encontra em processo de construção no Brasil, especialmente, no que se refere à definição de parâmetros sobre autonomia tecnológica, uso responsável das plataformas digitais, mecanismos de controle externo e proteção da soberania nacional. Esse debate avança de forma lenta diante da velocidade das transformações tecnológicas globais. O país discute atualmente projetos de regulamentação da IA, sobretudo, relacionados à proteção de dados, à responsabilidade das plataformas e aos limites éticos do uso algorítmico. E ainda permanece altamente dependente das big techs internacionais, tanto na infraestrutura digital quanto no controle dos dados e dos sistemas de inteligência artificial, o que amplia desafios relacionados à autonomia tecnológica, à segurança informacional e à própria capacidade de decisão soberana do Estado brasileiro. Flávio Sofiati - Assim como grande parte dos países empobrecidos, dos países que foram colonizados e lutam ainda num processo de descolonização, há no contexto atual uma colonização interna, não feita mais pelas metrópoles, pelos estados-nações do norte global, mas sim por empresas globais. As famosas big techs são algumas poucas empresas de tecnologia que têm o controle, o monopólio da comunicação à distância, da inteligência artificial. Então o Brasil fica refém desse processo. O Brasil tem dificuldade de pensar, por exemplo, leis que normatizem as relações sociais estabelecidas no meio virtual. Nossa situação é a mesma de todos os países do sul global, enfim, dos países empobrecidos, ou seja, de serem reféns de algumas empresas de tecnologia que acabam permeando a nossa vida cotidiana, considerando que as novas tecnologias hoje estão muito presentes na vida cotidiana. Não se vive mais sem a comunicação digital e sem os aplicativos de entrega de alimentos, de transporte, de comunicação em geral, inclusive que trabalham na perspectiva da própria educação das novas gerações. ameaçam a dignidade humana e o bem comum. Flávio Sofiati - Prevest é americano, mas é um americano que viveu muito tempo na América do Sul, que conheceu o outro lado da América. Ele é formado numa teologia mais progressista e num contexto de uma Igreja Católica mais progressista em comparação com o modelo predominante nos EUA. Nessa perspectiva, o papa faz esse confronto que não é, na verdade, a intenção direta dele, é uma intenção mais do presidente dos Estados Unidos, mas ele faz esse confronto com princípios, os princípios do mercado no que diz respeito à inteligência artificial, e os princípios que deveriam ser os princípios da sociedade ao que seria o bem comum, levando em consideração essa temática das novas tecnologias. A posição política do papa é evidente também nesse aspecto de defender uma condição mais democrática da elaboração da inteligência artificial, do desenvolvimento das novas tecnologias, ou seja, as novas tecnologias a serviço da sociedade e não a serviço de interesses privados. “Nas escolhas relativas a fluxos econômicos e plataformas digitais, na gestão dos dados e dos algoritmos, não se pode permitir que poucos sujeitos orientem sozinhos os processos. (...) Não significa renunciar à tecnologia, mas impedir que ela domine o ser humano. Significa retirá-la dos monopólios, torná-la discutível, contestável e, portanto, habitável.” Clóvis Ecco - O debate sobre inteligência artificial ainda se encontra em processo de construção no Brasil, especialmente, no que se refere à definição de parâmetros sobre autonomia tecnológica, uso responsável das plataformas digitais, mecanismos de controle externo e proteção da soberania nacional. Esse debate avança de forma lenta diante da velocidade das transformações tecnológicas globais. O país discute atualmente projetos de regulamentação da IA, sobretudo, relacionados à proteção de dados, à responsabilidade das plataformas e aos limites éticos do uso algorítmico. E ainda permanece altamente dependente das big techs internacionais, tanto na infraestrutura digital quanto no controle dos dados e dos sistemas de inteligência artificial, o que amplia desafios relacionados à autonomia tecnológica, à segurança informacional e à própria capacidade de decisão soberana do Estado brasileiro. Flávio Sofiati - Assim como grande parte dos países empobrecidos, dos países que foram colonizados e lutam ainda num processo de descolonização, há no contexto atual uma colonização interna, não feita mais pelas metrópoles, pelos estados-nações do norte global, mas sim por empresas globais. As famosas big techs são algumas poucas empresas de tecnologia que têm o controle, o monopólio da comunicação à distância, da inteligência artificial. Então o Brasil fica refém desse processo. O Brasil tem dificuldade de pensar, por exemplo, leis que normatizem as relações sociais estabelecidas no meio virtual. Nossa situação é a mesma de todos os países do sul global, enfim, dos países empobrecidos, ou seja, de serem reféns de algumas empresas de tecnologia que acabam permeando a nossa vida cotidiana, considerando que as novas tecnologias hoje estão muito presentes na vida cotidiana. Não se vive mais sem a comunicação digital e sem os aplicativos de entrega de alimentos, de transporte, de comunicação em geral, inclusive que trabalham na perspectiva da própria educação das novas gerações.