Homo deus: Uma breve História do Amanhã - As Graves Implicações da Tecnologia

"Abraham Lincoln disse que não se pode enganar todo mundo o tempo todo. Bem, isso é uma ilusão. Na prática, o poder das redes de cooperação humana depende de um equilíbrio delicado entre a verdade e a ficção." (HARARI, 2015, p. 205).

A 4 Revolução Industrial

Em novembro (2016), chega às livrarias brasileiras Homo deus: uma breve história do amanhã, de Yuval Noah Harari, autor de Sapiens. Após mostrar, no livro anterior, toda a evolução da espécie humana até chegar nos dias atuais, seu novo trabalho vai além: Homo deus especula qual será o futuro da humanidade na Terra. Em agosto, quando o livro foi lançado na Inglaterra, David Runciman escreveu para o The Guardian sobre os principais temas que Yuval Noah Harari aborda no livro, texto que reproduzimos a seguir (tradução de Carlos Alberto Bárbaro).

No âmago desse livro fascinante reside uma simples, mas arrepiante, ideia: a natureza humana será transformada no século XXI porque a inteligência está se desacoplando da consciência. Não, não vamos construir tão cedo máquinas que, como nós, possuam sentimentos, o que se chama consciência. Os robôs não se apaixonarão uns pelos outros (o que não significa que sejamos incapazes de nos apaixonar por robôs). O fato é que já construímos máquinas — enormes redes de processamento de dados — que conseguem identificar nossos sentimentos melhor do que nós mesmos: isso é inteligência. O Google — o mecanismo de busca, não a empresa — não possui crenças ou desejos próprios. Ele não se importa com o que buscamos e nem vai ficar ofendido com o nosso comportamento. Mas ele consegue processar esse comportamento para saber o que queremos antes que nós mesmos o saibamos. Isso tem o potencial de alterar o significado de ser humano. 

Em seu livro anterior, o best-seller mundial Sapiens: uma breve história da humanidade, Yuval Noah Harari abordou os últimos 75 mil anos da história humana para nos lembrar de que não há nada de especial ou essencial quanto àquilo que somos. Somos um acidente. O Homo sapiens é apenas um dos modos possíveis de se ser humano, um acaso da evolução, como o de qualquer outra criatura no planeta. Aquele livro se encerra com a reflexão de que a história do Homo sapiens pode estar chegando ao fim. Ao mesmo tempo em que estamos no auge do nosso poder, é possível, porém, que tenhamos chegado a seu limite. Homo deus: uma breve história do amanhã parte dessa reflexão para explicar como nossa incomparável capacidade de controlar o mundo que nos cerca está nos transformando em algo novo.

As provas de nosso poder estão por toda parte: não apenas conquistamos a natureza, mas começamos também a derrotar os piores inimigos da humanidade. A guerra é cada vez mais obsoleta; a fome é rara; as doenças estão na defensiva no mundo todo. Obtivemos esses triunfos ao construir redes cada vez mais complexas que consideram os seres humanos como unidades de informação. A ciência evolucionária nos ensina que, em certo sentido, não somos senão máquinas de processamento de dados: também nós somos algoritmos. Ao manipular esses dados, podemos determinar nosso destino. O problema é que outros algoritmos — aqueles que construímos — podem fazer isso de maneira muito mais eficiente que nós. É isso o que Harari quer dizer ao falar no desacoplamento da inteligência e da consciência. O projeto da modernidade foi erigido sobre a ideia de que os indivíduos são a fonte tanto do significado quanto do poder. Somos concebidos para fazer escolhas: como eleitores, como consumidores, como amantes. Isso, porém, não é mais verdade. Somos agora o que dá às redes o seu poder: elas usam nossas noções de significado para determinar o que vai acontecer conosco.

Nada disso constitui novidade. O Estado moderno, que já conta cerca de quatrocentos anos, não passa na verdade de uma outra máquina de processamento de dados. O filósofo Thomas Hobbes, escrevendo em 1651, chamou-o “autômato” (ou o que poderíamos chamar de robô). Sua qualidade robótica é a fonte de seu poder, e também a sua ausência de sentimentos: Estados não possuem consciência, que é o que lhes permite, por vezes, fazer as coisas mais terríveis. O que mudou agora é que há máquinas processadoras que são bem mais eficientes do que os Estados: como Harari afirma, os governos descobriram ser quase impossível acompanhar o ritmo do avanço tecnológico. Tornou-se também muito mais difícil sustentar a crença — compartilhada por Hobbes — de que por trás de cada Estado existem seres humanos reais, de carne e osso. A insistência moderna acerca da autonomia do indivíduo está vinculada à visão de que seria possível encontrar o coração deste mundo sem coração. Se se continuar arranhando uma burocracia sem rosto será possível, eventualmente, descobrir um funcionário público com sentimentos reais. Faça isso com uma ferramenta de busca, porém, e tudo o que se descobrirá são locais de dados.

Não estamos senão no início desse processo de transformação orientada por dados, e Harari diz que não há muito o que possamos fazer para frear o processo. Homo deus é um livro do gênero “fim da história”, mas não no sentido bruto de acreditar que as coisas chegaram à sua conclusão. Antes o oposto: as coisas estão se movendo tão rápido que é impossível imaginar o que o futuro possa trazer. Em 1800, era possível conjecturar sobre como seria o mundo de 1900 e qual seria nosso lugar nele. É isto o que é a história, uma sequência de eventos em que os seres humanos são os protagonistas. Mas o mundo de 2100 é agora, no presente, quase inimaginável. Não temos a mínima ideia de onde vamos nos encaixar, se é que vamos. Podemos ter construído um mundo que não tem lugar para nós.

Considerando o quão alarmante é pensar assim, e uma vez que ainda não chegamos lá, por que não fazer algo para impedir que isso ocorra? Harari supõe que a crença moderna de que os indivíduos comandam seu destino nunca foi muito mais do que uma crença. O poder real esteve com as redes. Indivíduos são criaturas relativamente impotentes, não sendo páreo para leões ou ursos. É o que os indivíduos podem fazer como grupos que lhes permitiu assumir o controle do planeta. Tais agrupamentos — corporações, religiões, Estados — compõem agora uma vasta rede de fluxos de informação interconectados. Encontrar pontos de resistência, onde unidades menores podem resistir às ondas de informações afogando o mundo, torna-se mais difícil a cada minuto.

Alguns têm desistido da luta. No lugar dos princípios fundadores da modernidade — o liberalismo, a democracia e a autonomia pessoal — há uma nova religião: o dataísmo. Seus seguidores — muitos deles moradores do Vale do Silício, na Califórnia — colocam a sua fé na informação, encorajando-nos a enxergá-la como a única fonte verdadeira de valor. Somos aquilo que fornecemos para o processamento de dados. Potencialmente, há aí uma enorme vantagem, a saber: iremos enfrentar cada vez menos obstáculos para conseguir o que queremos, porque a informação que necessitaremos será imediatamente acessível. Nossos gostos e nossas experiências irão se fundir. Nossas expectativas de vida também poderão aumentar consideravelmente: dataístas acreditam que a imortalidade é a próxima fronteira a ser cruzada. Mas a desvantagem é óbvia, também. Quem seremos “nós” depois de tudo? Nada mais do que uma acumulação de pontos de informação. As distopias políticas do século XX buscavam esmagar os indivíduos com o poder do Estado. Isso não será necessário no século em marcha. Como diz Harari: “No século XXI há mais probabilidade de que o indivíduo se desintegre suavemente por dentro do que brutalmente esmagado de fora”.

As corporações e os governos continuarão a prestar homenagem às nossas individualidades e necessidades características, mas, a fim de satisfazê-las, terão de “decompor seus subsistemas bioquímicos”, todos eles permanentemente monitorados por poderosos algoritmos. Há aí também um aspecto político distópico: os primeiros convertidos — os indivíduos que se inscreverem primeiro para o projeto dataísta — serão os únicos que ainda terão algum tipo de poder real e se tornarão relativamente intocáveis. Fazer parte dessa nova super-elite será incrivelmente difícil. Serão exigidos níveis heroicos de educação e nenhuma dose de escrúpulos em fundir sua identidade pessoal com máquinas inteligentes. A partir de então, será possível se tornar um dos novos “deuses”. É uma perspectiva sombria: uma pequena casta sacerdotal de videntes com acesso à melhor fonte de conhecimento, e o resto da humanidade como simples ferramentas de seus vastos esquemas. O futuro poderia ser uma versão digital com carga plena do passado distante: o Antigo Egito multiplicado pelo poder do Facebook.

Harari é cuidadoso o suficiente para não afirmar que essas bizarras previsões irão de fato ocorrer. O futuro, afinal, é desconhecido. Ele reserva suas opiniões mais contundentes para o que tudo isso deve significar para o estado atual das relações entre os seres humanos e os animais. Se a inteligência e a consciência estão se separando, então isso situa a maioria dos seres humanos na mesma posição que os outros animais: seres capazes de sofrer nas mãos dos possuidores de inteligência superior. Harari não demonstra estar muito preocupado com a possibilidade de robôs virem a nos tratar como tratamos as moscas, com violenta indiferença. Antes, ele quer que reflitamos sobre como nós estamos tratando os animais em nossas vastas fazendas industrializadas. Os porcos, sem dúvida, sofrem ao viver em condições precárias ou ao serem violentamente separados das suas crias. Se concluímos que esse sofrimento não conta por não estar aliado a uma inteligência superior, então estamos construindo uma vara para nosso próprio lombo. Logo, o mesmo será verdade em relação a nós. E qual será então o preço do nosso sofrimento?

Homo deus é um livro muito inteligente, repleto de percepções afiadas e sagacidade mordaz. Mas, e Harari provavelmente seria o primeiro a admitir, é inteligente apenas pelos padrões humanos, que não são nada de mais. Pelos padrões das máquinas mais inteligentes é pouco claro e especulativo. Os conjuntos de dados são bastante limitados. Seu poder real vem do sentido de uma consciência individual por trás dele. É um livro peculiar e atraente, com um toque de gelo em seu coração. Harari se preocupa com o destino dos animais em um mundo humano, mas escreve sobre as perspectivas para o Homo sapiens em um mundo orientado por dados com uma despreocupação sublime. Tenho que admitir que achei o livro profundamente instigante, mas isso pode ser por causa de quem eu sou (além de tudo, um homem). Nem todos vão achar o mesmo. Mas é difícil imaginar que alguém poderia ler este livro sem sentir uma espécie de vertigem ocasional. Nietzsche escreveu certa vez que a humanidade estaria prestes a navegar em mar aberto, após ter finalmente deixado para trás a moral cristã. Homo deus nos faz sentir como se estivéssemos de pé à borda de um penhasco ao fim de uma longa e árdua jornada. O que passou não parece mais tão importante agora. Estamos prestes a dar um passo no vazio.

Texto Publicado originalmente no: The Guardian