Resumo comentado: Nexus — Prólogo

Mais informação não é o mesmo que mais verdade

Se nós humanos somos tão inteligentes, por que somos tão burros?
— Yuval Noah Harari, no podcast “The Gray Area”

Boas-vindas a Nexus: Uma breve história das redes de informação, da Idade da Pedra à inteligência artificial, de Yuval Noah Harari, a próxima parada do Clube de Cultura do Boa Noite Internet.

Lembrando que antes já falamos de Resista: não faça nada: A batalha pela economia da atenção, de Jenny Odell e Quatro mil semanas: Gestão de tempo para mortais, de Oliver Burkeman.

Como cheguei aqui

Pela quantidade de vezes que já citei Yuval Noah Harari no podcast e newsletter do Boa Noite Internet você já deve saber que sou fã do Yuvão da Massa desde que li Sapiens: Uma breve história da humanidade por indicação da minha amiga Ana Freitas em um Braincast pré-pandêmico. Harari consegue unir conhecimento histórico, opiniões originais em linguagem acessível, me dando novas lentes para olhar o mundo. Depois li Homo Deus, que é um “olhar para frente”. (Comprei, mas nunca li 21 lições para o século 21, seu livro de ensaios. Enfim, a hipocrisdias.)

De sucesso do circuito TED Talks e livro do ano do Barack Obama para cá, Yuval Harari começou a angariar haters. Os motivos são vários e imagino que nem sei de todos. Logo de cara, Harari é um centrista que vive em um mundo que não aceita “isentões”. Neste prólogo mesmo ele vai falar mal de Trump, Bolsonaro, Foucault e Marx no mesmo parágrafo. No Oriente Médio ele não é a favor nem de Israel (seu país natal) nem do Hamas. Pecado capital em tempos de polarização. Harari foi cancelado.

Há também a crítica de que seus livros são “superficiais” e “simplificam conceitos complexos”. Sim. Este é o objetivo. Um dos livros escritos para refutar uma das ideias de Harari é O despertar de tudo (que alfineta no subtítulo: Uma nova história da humanidade) de David Wengrow e outro ídolo meu, David Graeber, que eu “trouxe de volta à vida” via IA semanas atrás na newsletter. Deve ser um ótimo livro, mas se eu nunca consegui chegar ao fim das suas 696 páginas, imagino que pouca gente o fez. Em todo caso, para quem quiser, aqui está uma crítica aprofundada a Sapiens, mesmo que carregada demais de agressividade e ironia.

Simplificar faz parte do mundo do conhecimento, não precisamos ter PhD em tudo para a jornada do conhecimento. Sapiens e O despertar de tudo podem ser bons ao mesmo tempo, cada um acrescentando um ponto de vista sobre o mundo.

Ainda assim, quando anunciei que Nexus seria nossa próxima temporada do Clube recebi reações que iam de “superestimado” a “neo-reacionário asqueroso que nem tem formação fora de história medieval”.

Não precisamos concordar com tudo que Harari diz em seus livros. Ora bolas, eu não concordei nem com Oliver Burkeman no Quatro mil semanas, que fala de temas bem mais suaves… Neste livro Yuval Harari apresenta suas hipóteses: de que os principais problemas do mundo são causados por pensarmos que juntar muita informação nos leva à verdade. Que nosso problema é de rede. Vamos com ele ver o quanto esta ideia faz sentido.

No fim das contas, gosto de Harari porque ele é otimista e realista. Não acha que a IA — tema central em Nexus vai destruir o mundo. A menos que não façamos nada quanto a isso.

Nexus — Prólogo

A esta altura da história, com todos os avanços e conquistas, deveríamos estar vivendo uma época de glória e prosperidade suprema. (Olha em volta…)

Mas poder não é sabedoria e, depois de 100 mil anos de descobertas, invenções e conquistas, a humanidade se arrastou para uma crise existencial. (…) Em vez de a nossa espécie se unir para lidar com esses grandes problemas existenciais, as tensões internacionais estão aumentando, a cooperação global vem se tornando mais difícil, os países estão ampliando seus arsenais de aniquilação total, e não parece impossível que uma nova guerra mundial aconteça.

Dominamos o átomo e pousamos um robô do tamanho de um Fusca em Marte. Ainda assim, vivemos os mesmos dramas sociais e políticos que nossos antepassados da Idade da Pedra.

Por que somos tão bons em acumular mais informação e poder, mas muito menos hábeis em adquirir sabedoria?

A cultura humana está cheia de contos que nos advertem dos perigos de buscar poderes que não sabemos lidar — dos mitos gregos como de Faetonte, que ousou usar o Sol como carruagem, até O aprendiz de feiticeiro, um poema de Goethe e depois animação de Disney.

Nas duas fábulas morais, um só ser humano adquire um poder enorme, mas então ele é corrompido pela arrogância e pela ganância. A conclusão é de que nossa psicologia individual imperfeita nos faz abusar do poder. O que essa análise rudimentar não percebe é que o poder humano nunca é resultado de uma iniciativa individual. O poder sempre brota da cooperação entre muitas pessoas.

O problema não é o humano. É porque, como dizia o meme, vivemos em uma sociedade.

O principal argumento deste livro é que a humanidade obtém enorme poder construindo grandes redes de cooperação, mas essas redes são construídas de uma forma que predispõe os humanos a usarem o poder de modo pouco sábio. Nosso problema, então, é um problema de rede. Em termos ainda mais específicos, é um problema de informação. A informação é a cola que une as partes de uma rede.

Depois de meter essa, Harari volta na ideia que o tornou mais famoso: de que o que nos permitiu sair de “homens das cavernas” ao que alcançamos hoje, o que permitiu que o sapiens fosse a espécie a dominar os outros homo, foi nossa capacidade de criar ficções. Não no sentido de uma mentira deliberada, mas de criar conceitos que só existem em nossas mentes, da ideia de nação a marcas como a Peugeot, incluindo aí todas as crenças em “religiões” — do Cristianismo ao Livre Mercado. Minha parte favorita de Sapiens é quando ele imagina um alienígena pedindo que alguém mostre o que é “essa Peugeot que vocês tanto falam”. Os humanos seguem mostrando várias coisas, mas estas são apenas carros fabricados pela Peugeot, a sede da Peugeot, funcionários… A Peugeot não existe no sentido de que uma rocha, protozoário ou neutrino existem. O que não impede que o mundo seja afetado pela Peugeot, que pessoas a amem ou odeiem — ou que ela cause impacto ambiental. A Peugeot, portanto, existe, fora o detalhe de que ela, fisicamente, não existe.

Mas Harari parece indicar que o que antes ele chamava de “ficções”, vai passar a chamar de “redes de informação” ou “redes ilusórias”. Ideias que fluem entre pessoas.

Embora cada pessoa esteja normalmente interessada em conhecer a verdade sobre si e sobre o mundo, as redes amplas unem os membros e criam ordem baseando-se em ficções e fantasias. Foi assim que chegamos, por exemplo, ao nazismo e ao stalinismo. Eram redes excepcionalmente poderosas, unidas por ideias excepcionalmente ilusórias.

Aqui Harari parece compartilhar um sentimento que tenho comentado com alguns amigos: de que a prosperidade democrática que vivemos no Ocidente depois da Segunda Guerra foi um tipo de aberração histórica. Não é o normal da humanidade. Ele aponta que nazismo e stalinismo por muito pouco não foram os modelos vencedores — até porque se Stalin não tivesse entrado na guerra a história seria outra.

Ele diz, então, que temos uma visão otimista demais, ingênua, do poder da informação.

É difícil avaliar a força das redes ilusórias devido a um entendimento equivocado mais amplo sobre o modo de operação das grandes redes — ilusórias ou não — de informação. Esse entendimento equivocado está presente em algo que designo como “a noção ingênua de informação”. Enquanto fábulas como o mito de Faetonte e o poema “O aprendiz de feiticeiro” apresentam uma visão claramente pessimista da psicologia humana individual, a noção ingênua de informação dissemina uma visão claramente otimista das redes humanas em larga escala.

Para ele a grande armadilha das redes é a “noção ingênua” de que quanto mais informação temos, mais perto da verdade estamos — seja de como funcionam as doenças ou qual o sentido da vida. “Quanto mais informação, melhor”.

A noção ingênua supõe que o antídoto para a maioria dos problemas que enfrentamos na coleta e no processamento da informação é coletar e processar quantidades ainda maiores de informação.

É o que costumo chamar de “esta não é a internet que sonhamos”. Na virada do século acreditei, feliz, que a burrice no mundo ia acabar. Com apenas uma busca (no Altavista) seria possível saber a verdade. Seria o fim da guerra, do preconceito. Em pleno 2024 isto pode soar ingênuo, mas lembre-se que em 1992 Francis Fukuyama declarou “o fim da história”. O capitalismo tinha “vencido”, o mundo vivia seu melhor momento e até mesmo a visão new age da espiritualidade mostrava que a Era de Aquário tinha chegado para ficar. A internet ia ser o golpe final no “mal” e, com ela, iríamos para a luz — espiritual ou do ciberespaço.

Deu no que deu.

Os tecnocratas acreditam que o grande problema do mundo hoje é falta de informação. Que ela está mal distribuída, parafraseando William Gibson.

De acordo com essa noção, os racistas são pessoas mal informadas que simplesmente não conhecem os fatos biológicos e históricos. Pensam que “raça” é uma categoria biológica válida e sofreram uma lavagem cerebral por obra de falsas teorias conspiratórias. A solução para o racismo, portanto, é fornecer às pessoas mais fatos biológicos e históricos. Pode levar tempo, mas, num livre mercado de informação, mais cedo ou mais tarde a verdade prevalecerá.

O governo de Ronald Reagan usou a livre circulação de informação como arma cultural — e deu certo. Ele chegou a dizer, em 1989, poucos meses antes da queda do Muro de Berlim:

A informação é o oxigênio da era moderna […]. Ela se infiltra pelos muros encimados por arame farpado. Flutua por sobre as fronteiras eletrificadas e com bombas armadilhadas. Brisas de feixes eletrônicos sopram pela Cortina de Ferro como se ela fosse de renda.

Barack Obama, em 2009, disse na China: “Penso que, quanto mais livre corre a informação, mais forte a sociedade se torna.” O lema do Facebook quando comecei a trabalhar lá era “Dar às pessoas o poder de compartilhar, tornando o mundo mais aberto e conectado.” Em 2017, depois da eleição do Trump, tiveram que mudar para “Dar às pessoas o poder de construir uma comunidade e aproximar o mundo” — que segue até hoje.

Talvez a formulação mais sucinta da noção ingênua da informação se encontre na declaração do Google, afirmando que sua missão é “organizar a informação do mundo e torná-la universalmente acessível e útil”. A resposta do Google aos alertas de Goethe é que um único aprendiz surrupiando o livro secreto de sortilégios de seu mestre provavelmente causará um desastre, ao passo que, se vários aprendizes tiverem livre acesso à informação do mundo inteiro, eles não só criarão vassouras mágicas de muita utilidade, como também aprenderão a manobrá-las sabiamente.

Para não soar como um completo pessimista, Harari reconhece que há vários casos em que mais informação é uma coisa muito, muito boa. A medicina é um dos mais óbvios. O próprio Goethe foi o único em uma família de sete irmãos a passar dos trinta anos — sua irmã morreu aos 26 e os outros não passaram do sétimo aniversário. Hoje, 99,5% de quem nasce na Alemanha chega aos 15 anos.

Ao mesmo tempo (voltando ao alerta pessimista) a livre e rápida acumulação e circulação de informação causada pela internet parece estar nos levando cada vez mais próximo da auto aniquilação — incluindo o desenvolvimento de armas bioquímicas usando a mesma informação usada para criar remédios. É só ver o que está acontecendo com o meio-ambiente. O planeta não está sendo destruído pela falta de informação, sabemos exatamente o que está causando o aquecimento global.

Não falta informação a nossos governantes sobre tais perigos, mas, em vez de colaborarem para encontrar soluções, eles avançam para uma guerra global.

Em tempos de IA, empresários como Ray Kurzweil e Marc Andreessen pregam que “a IA vai salvar o mundo”:

O desenvolvimento e a proliferação da IA — longe de ser um risco a temer — é uma obrigação moral que temos para com nós mesmos, com nossos filhos e com nosso futuro.
— Marc Andreessen

Nem todo mundo concorda com a IA-salvadora. Walter Isaacson conta na biografia de Elon Musk do medo que o Quico do Foguete tem da IA. Especialistas em IA, incluindo figuras proeminentes como Yoshua Bengio e Geoffrey Hinton alertam sobre os riscos potencialmente catastróficos do avanço descontrolado da IA, com muitos pesquisadores estimando uma chance significativa de consequências extremas, incluindo até mesmo a extinção humana. Governos globais reconheceram oficialmente esses riscos, mas os verdadeiros perigos não são os cenários de ficção científica hollywoodianos, e sim duas outras possibilidades mais realistas e preocupantes.

Primeiro, a possibilidade da IA intensificar conflitos humanos existentes, levando potencialmente a uma nova guerra global alimentada por armas cada vez mais destrutivas; e segundo, o risco de uma divisão fundamental entre humanos e IA, onde algoritmos insondáveis passam a controlar todos os aspectos da vida humana, desde a política até a cultura, sem que possamos compreender ou resistir a esse controle. Este último cenário representa uma forma de totalitarismo tecnológico que poderia subjugar toda a humanidade, independentemente de nacionalidade ou ideologia. Harari chama este cenário de “Cortina de Silício”, brincando com as palavras “Cortina de Ferro” da época da Guerra Fria.

As pessoas que apontam a China, a Rússia ou os Estados Unidos pós-democráticos como principal fonte dos pesadelos totalitários não entendem bem o perigo. Na verdade, chineses, russos, americanos e todos os outros seres humanos estão conjuntamente ameaçados pelo potencial totalitário da inteligência não humana.

Para o Yuvão, a humanidade já criou muitas tecnologias nocivas, mas com a IA a coisa é pior:

Ela é a primeira tecnologia na história capaz de tomar decisões e criar novas ideias por si mesma. Todas as invenções humanas anteriores deram poder aos seres humanos porque, por mais poderosa que fosse a nova ferramenta, as decisões sobre seu uso permaneceram em nossas mãos. Facas e bombas não decidem quem vão matar. (…) A IA, por sua vez, pode processar sozinha a informação e, portanto, substituir os seres humanos em tomadas de decisão. A IA não é uma ferramenta — é um agente.

Isto em um momento em que a grande próxima promessa no mundo da IA tem o nome de… agentes. Robôs que vão fazer as “tarefas chatas” por nós, como marcar aquela viagem ou cancelar o plano da academia. (Talvez eu esteja disposto a entregar o futuro da humanidade em troca de alguém cancelar a academia por mim… 🤔)

A IA é mais do que uma ferramenta porque mesmo que a gente discuta se ela é criativa ou não, ela é capaz de criar coisas — no sentido de gerar uma combinação de palavras, pixels ou notas musicais que não existiam antes.

Gramofones não eram capazes de compor novas sinfonias.

Como já falei na newsletter de quarta, IA criar imagem ou botar defunto pra conversar é o de menos. Mesmo antes do ChatGPT, instituições financeiras já usam “sistemas especialistas” para tomar decisão de crédito e até mesmo forças policiais decidem quem é suspeito ou não usando a IA.

Essa tendência vai apenas aumentar e se acelerar, tornando mais difícil entendermos nossa própria vida. Podemos confiar que algoritmos tomem decisões sábias e criem um mundo melhor? É uma aposta muito maior do que confiar que uma vassoura encantada vá buscar água. E é mais do que apenas a vida humana que estamos apostando. A IA poderia alterar o curso não só da história de nossa espécie, como também da evolução de todas as formas de vida.

Neste ponto do prefácio Harari fala de seu livro anterior, Homo Deus, como apareceu no trecho da entrevista no The Gray Area que destaquei quando contei que Nexus seria nossa próxima parada do Clube:

[Sean Illing] Você tem pensado e escrito sobre IA há vários anos. Tenho a impressão de que você ficou mais, e não menos, preocupado com o rumo que estamos tomando. Estou interpretando corretamente?

[Harari] Sim, porque está acelerando. Sabe, quando publiquei Homo Deus em 2016, tudo isso soava como divagações filosóficas abstratas sobre algo que poderia acontecer em gerações ou séculos no futuro. E agora é extremamente urgente.

Ele segue, no livro:

Muitas outras coisas mudaram desde 2016. A crise ambiental se intensificou, as tensões internacionais se agravaram, uma onda populista abalou até mesmo as mais robustas democracias. O populismo também lançou um desafio radical à noção ingênua da informação. Líderes populistas como Donald Trump e Jair Bolsonaro, movimentos populistas e teorias da conspiração como qanon e os antivacina sustentam que todas as instituições tradicionais que ganham autoridade dizendo reunir informação e descobrir a verdade estão simplesmente mentindo.

👀

O populismo desafia a noção ingênua da informação, apresentando uma visão onde o poder é a única realidade e a informação é meramente uma arma nessa luta pelo poder. Nessa perspectiva, todas as interações sociais são vistas como conflitos, e instituições tradicionalmente respeitadas — como a mídia, a academia e o judiciário — são acusadas de deliberadamente espalhar desinformação para manter seus privilégios. O populismo argumenta que não existem verdades objetivas, apenas “verdades” individuais usadas para derrotar adversários.

Esta visão não é exclusiva da direita, como militantes de esquerda tentam pintar. Ela ecoa ideias de pensadores como Marx — que afirmava que o poder é a única realidade, que a informação é uma arma e que as elites que dizem estar servindo à verdade e à justiça estão, de fato, defendendo privilégios de classe — e Foucault — que dizia que instituições científicas como as clínicas e as universidades não buscam verdades objetivas e atemporais, apenas usam o poder para determinar o que vale como verdade, a serviço das elites capitalistas e colonialistas.

Basta lembrar que chamar a mídia de “golpista” não foi invenção da direita brasileira. (No que meus amigos de esquerda lendo isso devem pular dizendo “mas foi golpista mesmo!”, provando o ponto.) Tudo isso mina a confiança em instituições de larga escala e na cooperação internacional, justamente em um momento em que a humanidade enfrenta desafios existenciais que exigem ação coletiva.

Essa interpretação binária da história tem implícito que toda interação humana é uma luta de poder entre opressores e oprimidos. Assim, sempre que alguém diz alguma coisa, a pergunta a fazer não é “O que está sendo dito? É verdade?”, mas, sim, “Quem está dizendo isso? Aos privilégios de quem isso serve?”.

Eu mesmo adoro dizer “Si hay Elon Musk, soy contra”. Nestas eleições nem fui ver plataforma de candidato, eu já sabia em quem votar. O mesmo vale para todos os lados.

Praticamente chamando todo mundo para a briga, Harari diz que Trump, Bolsonaro e Marx compartilham da mesma visão sobre informação, de que ela é uma arma e “os poderosos” a usam contra o povo. E, claro, que eles são a salvação.

Harari destaca duas abordagens populistas para lidar com a questão da verdade. A primeira apela ao empirismo cético, incentivando as pessoas a “fazerem sua própria pesquisa” e desconfiarem de todas as instituições — incluindo os próprios movimentos populistas. Esta abordagem, embora pareça científica, falha em reconhecer a natureza colaborativa da ciência e a impossibilidade de um indivíduo verificar sozinho questões complexas como a mudança climática.

Confiar apenas em “minha própria pesquisa” pode parecer algo muito científico, mas, na prática, consiste em crer que não existe uma verdade objetiva. Como veremos no capítulo 4, a ciência é um empreendimento institucional colaborativo, e não uma busca individual.

A segunda abordagem abandona completamente o ideal científico moderno, partindo para a revelação divina ou o misticismo. Neste caso, os populistas rejeitam as instituições modernas enquanto abraçam escrituras antigas ou líderes carismáticos vistos como mensageiros divinos ou representantes infalíveis do povo.

Uma variação desse tema conclama as pessoas a deporem fé em líderes carismáticos como Trump e Bolsonaro, que são representados por seus apoiadores como mensageiros de Deus ou dotados de um elo místico com “o povo”. (…) Um dos paradoxos recorrentes do populismo é que ele começa nos alertando de que todas as elites humanas são movidas por uma perigosa sede de poder, mas muitas vezes acaba confiando todo o poder a um único indivíduo ambicioso.

Definido o tamanho da confusão em que nosso planeta está, a partir daqui, o prefácio nos dá um mapa do que encontraremos adiante, explicando que
Nexus se divide em três partes principais.

A primeira parte explora o desenvolvimento histórico das redes humanas de informação, examinando como a mitologia e a burocracia moldaram essas redes ao longo do tempo, e discutindo os desafios da desinformação e os mecanismos de autocorreção. A segunda parte, intitulada “A rede inorgânica”, analisa a nova rede de informação que estamos criando com a ascensão da IA, focando em suas implicações políticas e na mudança de redes orgânicas para inorgânicas. A terceira e última parte, “Política computacional”, explora como diferentes tipos de sociedades podem lidar com as ameaças e promessas da rede de informação inorgânica, abordando os desafios para democracias e autocracias, bem como o impacto potencial da IA no equilíbrio de poder global.

Agora é com você

1. Qual sua opinião sobre Yuval Harari?

2. Você está otimista, pessimista ou muito pelo contrário em relação à IA?

3. Quais suas maiores preocupações sobre IA? Emprego? Artes? Guerra?

Solta o verbo nos comentários. Amanhã sai o resumo comentado do capítulo 1, “O que é informação?”.

Até lá,
crisdias