Ascensão das máquinas: novo livro de John Lennox aplica a ética cristã ao futuro da Inteligência Artificial

 

Uma vez vista como matéria de ficção científica, a Inteligência Artificial (IA) está constantemente fazendo incursões em nossa vida cotidiana – de feeds de mídia social a assistentes digitais como Siri e Alexa.

Por mais útil que seja a IA para muitos aspectos de nossas vidas, ela também levanta uma série de questões morais e espirituais desafiadoras. O reconhecimento facial pode ser usado para localizar criminosos fugitivos, mas também para suprimir dissidentes políticos.

Vários aplicativos e plataformas podem antecipar nossas preferências, mas também coletar dados que invadem nossa privacidade. A tecnologia pode acelerar a cura, mas muitos esperam usá-la para aprimorar as habilidades humanas naturais ou eliminar emoções “indesejáveis”.

Em seu recente livro “2084: Artificial Intelligence and the Future of Humanity” (ou Inteligência Artificial e o Futuro da Humanidade, em tradução livre), o professor emérito de Oxford, John Lennox, examina a paisagem atual e futura da IA ​​e aborda essas e outras questões relacionadas. Lennox é um matemático que tem falado internacionalmente sobre filosofia da ciência, escrito livros abordando os limites da ciência e debatido com ateus de alto nível como Richard Dawkins e Christopher Hitchens. Em seu novo livro, ele reconhece os muitos benefícios que a IA pode oferecer, mas também critica a visão de mundo que está por trás de muitas visões seculares de Inteligência Artificial que buscam transformar humanos em deuses e criar utopias por meio da tecnologia.

Christopher Reese, do site  Christianity Today, conversou com Lennox sobre seu livro e de como os cristãos deveriam pensar sobre uma série de questões relacionadas a essa tecnologia que está em rápida aceleração, incluindo a “atualização” de humanos, se os computadores podem se tornar conscientes e como os cristãos devem pesar os prós e os contras da IA.

Muitos cenários negativos envolvendo IA ocorreram em filmes populares. Em sua opinião, são esses os tipos de resultados com os quais devemos nos preocupar?

Ainda não estamos nem perto desses cenários negativos, na opinião dos maiores pensadores nesta área. Mas há coisas suficientes acontecendo na Inteligência Artificial que realmente funcionam no momento para nos dar uma grande preocupação ética.

Existem duas vertentes principais na Inteligência Artificial. Há uma IA limitada, que tem muito sucesso em certas áreas, embora suscite problemas profundos em outras. Este é simplesmente um computador poderoso que trabalha em enormes bancos de dados e possui um algoritmo programado que procura padrões específicos. Vamos supor que temos um banco de dados de um milhão de raios-X de doenças pulmonares rotulados pelos melhores médicos do mundo e, em seguida, você obtém um raio-X em seu hospital local e um algoritmo compara o seu com o banco de dados em apenas alguns segundos e apresenta um diagnóstico. Então, isso é uma coisa muito positiva.

Mas então você passa para as coisas mais questionáveis ​​- hoje a principal delas tem a ver com reconhecimento facial. Novamente, você tem um enorme banco de dados de milhões de fotos de rostos marcados com nomes e todos os tipos de informações. Você pode ver imediatamente que uma força policial consideraria isso útil na verificação de terroristas e criminosos. Porém, isso pode ser usado para suprimir pessoas e manipulá-las ou controlá-las. Na China hoje, há todas as evidências de técnicas extremas de vigilância sendo usadas para subjugar a minoria uigur. Isso levantou questões éticas em todo o mundo.

Este não é o Big Brother de 1984 [de George Orwell]. Já estamos lá. Mas não é 2084. É aí que entra a segunda vertente: inteligência geral artificial é onde desenvolvemos uma superinteligência que controla o mundo. Isso parece coisa de ficção científica.

C. S. Lewis temia que os avanços tecnológicos pudessem levar à “abolição do homem”. Você pode explicar o que ele quis dizer com isso?

Um dos motivos pelos quais escrevi o livro foi minha familiaridade com C. S. Lewis. Na década de 1940, ele escreveu dois livros, “A Abolição do Homem” e “Essa Horrível Força“, que são de ficção científica. Sua preocupação era: se os seres humanos conseguissem fazer esse tipo de coisa, o resultado não seria humano. Seria um artefato.

Se você começar a brincar com os humanos como eles são e introduzir a engenharia genética, o que acontece é que você cria um artefato – isto é, algo que você fez que não é maior do que o humano, mas sub-humano. Em outras palavras, você abole os seres humanos nesse sentido. Você fez algo que acha que é mais do que humano, mas na verdade é menos do que humano porque você, que não é Deus, contribuiu para sua especificação. C. S. Lewis fala então sobre como o “triunfo” final da humanidade será a abolição do homem. Acho que isso deve nos preocupar.

A Bíblia afirma que os seres humanos têm alma e são feitos à imagem de Deus. Como essas ideias influenciam sua visão das máquinas e sua capacidade (ou incapacidade) de imitar os humanos?

Somos feitos à imagem de Deus. Isso nos dá dignidade e valor. Alguns aspectos da vigilância parecem infringir isso. Parecem ser invasões de privacidade, o espaço que Deus nos deu para funcionar. Certamente, quando se trata de controlar as pessoas e fazer com que elas não ajam com base em suas consciências, mas sim o que o Estado exige, esse pode ser um caminho muito perigoso. Já estamos vendo isso, como mencionei antes.

Mas, é claro, assim que começarmos a falar sobre inteligência geral artificial, haverá novamente duas vertentes. A primeira é fazer a bioengenharia de humanos existentes e transformá-los em deuses. O historiador israelense Yuval Noah Harari escreveu um livro chamado “Homo Deus“, que significa “o homem que é Deus“. Ele diz francamente que há dois itens principais na agenda para o século 21. Uma é resolver o problema da morte como um problema físico, o que significa que a medicina vai tão longe que você não precisará morrer. Você pode até morrer, mas não precisará.

A segunda é fazer a bioengenharia da vida humana para melhorá-la por meio de tecnologia, drogas e outras coisas, para que possamos criar uma inteligência sobre-humana. É daí que vêm todos os cenários distópicos, e isso alimenta filmes como Matrix e assim por diante. Eles são assustadores porque estamos prestes a alterar o que significa ser humano permanentemente.

Os seres humanos, “versão 1.0” conforme criados por Deus, são por natureza especiais. A especialidade dos seres humanos é vista no fato de que Deus se tornou um. O Verbo se tornou humano, se fez carne e habitou entre nós. Levo isso muito a sério e, portanto, qualquer tentativa de fazer “humanos 2.0” será um passo para longe do desígnio de Deus, não um passo em direção a Deus.

Você acha que é errado em uma estrutura cristã tentar aprimorar nossas habilidades, ou há lugar para isso?

Eu melhorei a visão porque estou usando um par de óculos. No momento, a tecnologia está em meu nariz e orelhas. É muito rude, mas posso estar usando lentes de contato, que você pode nem notar. Esse tipo de aprimoramento é uma coisa muito boa porque está simplesmente ajudando com uma deficiência na minha própria visão, como faria com um aparelho auditivo ou com uma prótese. Portanto, existe um lugar para fortalecer os membros, melhorar a visão e, claro, lidar com desequilíbrios químicos em nosso sangue, em nosso cérebro e em nossos sistemas. Somos muito gratos pelos remédios.

Mas, para ser bem claro, existem limites bastante óbvios que começamos a transgredir e isso significa efetivamente: “Deus, você fez o seu melhor, mas podemos fazer melhor. Podemos melhorar os seres humanos.” É um negócio muito arriscado. Um dos perigos centrais é brincar de Deus, modificando a linha germinal genética, o que pode impactar todas as gerações que nos seguirão.

Qual é a sua perspectiva sobre o que tem sido chamado de “difícil problema de consciência?” As máquinas podem estar conscientes?

Aqui está o problema: ninguém sabe o que é consciência, muito menos como construí-la. Se você pretende criar Inteligência Artificial Geral, terá de produzir consciência. Portanto, os argumentos vão para a frente e para trás. Quando as pessoas me dizem: “O que você acha de tudo isso?” Eu digo que se você puder primeiro me dizer o que é consciência, vou ouvi-lo muito a sério.

Claro, de uma perspectiva cristã, o cérebro é físico, a mente não. Vivemos para ver a era da informação, onde percebemos que a informação, que é uma entidade imaterial, se tornou fundamental para a física e nossa compreensão do universo. Isso está de acordo exatamente com a Escritura, que nos diz que no início era a Palavra. Não no começo era o universo. O universo é derivado. Todas as coisas vieram por meio da Palavra. Então, Deus, a Palavra é o principal. O universo é derivado, enquanto o ateísmo acredita exatamente o oposto, que o universo é primário e a mente é derivada.

Você observa que a ciência substitui como religião alguns proponentes da IA, que veem a tecnologia como um meio de salvação. Como você vê a ciência funcionando para eles religiosamente?

Se você nega Deus como criador, você não se livra da ideia de criação porque você tem que explicar a vida, e em particular a vida humana e a consciência. Então, muitas vezes você acaba dotando as partículas materiais elementares com poderes criativos – o que não há evidência de que eles tenham – de modo que o universo material tem que, em certo sentido, criar vida e criar a si mesmo, o que é um absurdo filosófico.

Passei minha vida tentando desempacotar essas coisas para que as pessoas possam entender o quão loucas algumas dessas coisas são, mas são o que resulta da rejeição do criador. Paulo colocou isso bem no início de Romanos. Ele diz que rejeitar o criador significa que você se torna intelectualmente obscuro e começa a falar bobagem. Há muito disso por aí, mas como é dito por cientistas poderosos, as pessoas o levam a sério. Eles não se lembram do que um de nossos cientistas mais famosos, Richard Feynman, o ganhador do Prêmio Nobel de Física, certa vez disse brilhantemente: “Fora de seu campo, o cientista é tão burro quanto qualquer outra pessoa.”

Você escreve sobre as possíveis conexões entre IA e eventos descritos na profecia bíblica. Como você vê essas coisas potencialmente se encaixando?

Bem, sou muito cauteloso aqui. Sempre há um grande ceticismo quando você menciona cenários bíblicos do futuro. Mas, para mim, o resultado final é este: se estivermos preparados para levar a sério, como muitas pessoas estão, situações altamente distópicas no futuro em que você tem um ditador mundial que controla a economia por ter algum tipo de implante na pele das pessoas ou em seus olhos ou algo assim – por que não voltamos ao cenário que é apresentado, pelo menos em linhas gerais, na Bíblia e o comparamos com esses cenários? Certos elementos são muito comuns. A ideia é algo que não é simplesmente a literatura apocalíptica do livro do Apocalipse, mas um escrito teológico direto, como na carta de Paulo aos tessalonicenses.

Como os cristãos devem pesar os benefícios potenciais da IA ​​com seus possíveis – e reais – abusos?

Bem, eu responderia dizendo: como você avalia os benefícios de uma lâmina muito afiada? Uma lâmina muito afiada pode ser usada para fazer cirurgias e salvar vidas. Também pode ser usado para assassinato.

O que eu faço com meus amigos cristãos é, se eles tiverem inclinação científica, eu digo: TI, tecnologia de computador é uma área fascinante para se estar, e há muito o que pode ser feito de bom. Um dos exemplos maravilhosos disso é no MIT, onde Rosalind Picard, que é uma cientista brilhante, uma cristã, desenvolveu seu próprio campo chamado computação afetiva. Ela está usando técnicas de reconhecimento facial para encontrar sinais de crianças tendo convulsões antes que elas aconteçam e para preveni-las.

Mas toda invenção tecnológica tem potencial para o bem e o mal. A questão não é que alguém resista ao avanço, mas aprenda a controlar esse avanço e colocá-lo em uma estrutura ética. O problema com isso hoje é que a tecnologia está ultrapassando a ética em uma velocidade colossal. As pessoas não tiveram tempo para pensar.

Alguns estão preocupados com o que está acontecendo e estão tentando estabelecer conselhos internacionais e ideias de princípios éticos básicos que precisam ser incorporados à IA. Tudo isso está muito bem, mas estamos lidando em nível internacional. Depende de quem tem mais poder. Se as pessoas não têm princípios éticos normativos que são transcendentes, como o cristianismo nos dá, então é claro que o poder determinará em que acreditar.

Os cristãos precisam ser capazes de sentar-se à mesa com credibilidade com seus colegas não-cristãos, discutir essas coisas com sensatez e ajudar outras pessoas a pensar sobre as questões éticas.

 

Fonte: Conteúdo Cristão