Nunca uma máquina deve escolher tirar uma vida, diz papa sobre inteligência artificial

Jul 10, 2024 / 15:12 pm

O papa Francisco exortou hoje (10) os líderes da inteligência artificial (IA) a “proteger a dignidade humana nesta nova era de máquinas”.

Em mensagem aos participantes de uma conferência de dois dias sobre ética em IA em Hiroshima, Japão, com líderes da Microsoft, IBM, Cisco, da Organização das Nações Unidas e representantes de religiões do mundo como cristianismo, judaísmo, islã, budismo, hinduísmo, zoroastrismo e bahá'í, o papa destacou que a inteligência artificial tem implicações para o futuro da guerra e da paz em nosso mundo.

O papa pediu a proibição de sistemas de armas letais autônomas que agem sem controle humano. “Nunca uma máquina deveria escolher tirar a vida de um ser humano”, disse Francisco na mensagem.

O papa ressaltou a importância simbólica de discutir a ética da IA ​​no local do bombardeio atômico em Hiroshima, lugar que serve de lembrete das consequências que podem surgir do avanço da tecnologia sem considerar todas as implicações.

“É crucial que, unidos como irmãos e irmãs, lembremos ao mundo que, à luz da tragédia que é o conflito armado, é urgente reconsiderar o desenvolvimento e o uso de dispositivos como as chamadas 'armas autônomas letais' e, finalmente, proibir seu uso”, disse Francisco ao repetir o apelo que fez na cúpula do G7 na Itália em junho.

“Isso parte de um compromisso efetivo e concreto de introduzir um controle humano cada vez maior e mais adequado”.

Brad Smith, vice-presidente e presidente da Microsoft, disse que Hiroshima, com seu lugar profundo na história humana, serviu como “um cenário convincente para ajudar a garantir que uma tecnologia criada pela humanidade sirva a toda a humanidade e à nossa casa comum”.

“Como indivíduos de fé, temos a responsabilidade única de infundir nossa busca pela IA com clareza moral e integridade ética”, disse o rabino Eliezer Simcha Weisz em um dos discursos de abertura da conferência.

Mais de 150 participantes de 13 países participaram do evento organizado pela Pontifícia Academia para a Vida da Santa Sé, pela organização japonesa Religions for Peace Japan, pelo Fórum de Abu Dhabi para a Paz e pela Comissão para as Relações Inter-religiosas do Rabinato Chefe de Israel.

Entre os palestrantes estavam Amandeep Singh Gill, enviado do secretário-geral da ONU para a tecnologia; o padre Paolo Benanti, professor de ética tecnológica na Pontifícia Universidade Gregoriana em Roma; e um sobrevivente da bomba atômica em Hiroshima.

A Santa Sé tem se envolvido intensamente no debate sobre ética da inteligência artificial, ao sediar discussões de alto nível com cientistas e executivos de tecnologia sobre a ética da inteligência artificial desde 2016.

O papa recebeu em Roma John Kelly III, executivo da IBM; Brad Smith, presidente da Microsoft; e Chuck Robbins, presidente-executivo da Cisco Systems — todos assinaram o compromisso ético da Santa Sé com a inteligência artificial, o Apelo de Roma para a Ética da IA.

O Apelo de Roma, documento da Pontifícia Academia para a Vida, destaca a necessidade do uso ético da IA segundo os princípios de transparência, inclusão, responsabilização, imparcialidade, confiabilidade, segurança e privacidade.

O papa Francisco escolheu a inteligência artificial como tema de sua mensagem do Dia Mundial da Paz este ano, na qual recomendou que os líderes globais adotassem um tratado internacional para regular o desenvolvimento e o uso da IA.

O papa enfatizou na cúpula do G7 em junho que a dignidade humana exige que as decisões da inteligência artificial (IA) estejam sob o controle de seres humanos .

“Precisamos garantir e proteger um espaço de controle significativo do ser humano sobre o processo de escolha dos programas de inteligência artificial: está em jogo a própria dignidade humana”, disse o papa Francisco na cúpula.