Na primeira semana de agosto, ganhei um presentão e nem foi de Dia dos Pais. Fui convidado pela Pina a passar 20 minutos com o escritor estadunidense Ted Chiang e perguntar sobre tecnologia, IA, arte e por que temos medo do futuro. No dia seguinte, Chiang falou para uma plateia de 80 pessoas na Casa Manioca e lá estava eu mais uma vez encontrando o cara que é dos meus maiores ídolos na literatura, parte de uma nova geração de escritores de sci-fi e fantasia que não contam apenas a história do homem branco genial que precisa vencer obstáculos para concretizar sua genialidade, que também tem nomes como N.K. Jemisin, Robin Sloan, R.F. Kuang, Nnedi Okorafor e muito mais gente legal. (Ou nem tão nova assim, Chiang nasceu em 1967.)
A conversa foi o empurrão que faltava para voltar com o Boa Noite Internet neste segundo semestre, que você escuta agora em toda sua glória… em língua inglesa, porque Chiang não speak Brazilian.
Nada tema! A seguir, você encontra a tradução da nossa conversa. Mas o podcast não traz só nossos 20 minutos de papo, mas outras conversas que tivemos sem microfone durante os dois dias de Chiangpalooza. Falamos de criatividade, tecnologia e o que nos faz humanos (spoiler: a arte). Nesta conversa, Chiang apresenta a visão da professora Anna Rogers sobre diferentes usos da IA para escrita, como “incômodo” ou como “pensamento”.
Se você não conhece o trabalho do Ted Chiang — ou se o único contato que teve foi com o filme A Chegada, de Denis Villeneuve — não deixe de ler as duas coletâneas de contos de Chiang:
Entrevista traduzida
Cris: Vou começar quebrando a regra número um do bom jornalismo, que é declarar que sou um grande fã e estou super feliz de estar aqui. E obrigado pelo seu trabalho e por ser você mesmo. Muito obrigado.
Mas vamos usar nosso tempo com sabedoria, porque quero fazer meta-perguntas, perguntas sobre perguntas, porque o que gosto em você é que você parece interessado e atraído por fazer perguntas, não necessariamente sobre a sociedade. Tipo, o que aconteceria se os babilônios realmente alcançassem o céu? Como seria isso? E você provavelmente tem escutado muitas perguntas sobre IA, tecnologia e tudo mais. Então, a primeira pergunta é: nós estamos terceirizando a curiosidade e o questionamento? Estamos desperdiçando algo quando nós, como sociedade, dependemos demais de IA generativa, LLMs, etc.?
Ted Chiang: Sim, acho que estamos terceirizando alguns trabalhos cognitivos muito importantes.
Cris: Isso é bom?
Ted Chiang: Não, não acho que seja bom. Acho que é sedutor. É superficialmente atraente. Acho que no mundo moderno, desenvolvemos esse hábito de buscar conveniência e facilidade. E claro, a tecnologia historicamente nos poupou de muito trabalho pesado. As pessoas não gostavam de cavar valas. E então é bom que menos pessoas tenham que cavar valas agora do que no passado.
Mas, você sabe, existe a questão de: se temos máquinas que nos poupam de tarefas dolorosas e desagradáveis como cavar valas, isso libera nossa energia e tempo. Mas também levanta a questão: ok, então o que fazemos com esse tempo e energia que agora temos? E por muito tempo havia muitas coisas para fazermos com o tempo e a energia economizados.
Acho que a tecnologia ofereceu maneiras para as pessoas serem, de alguma forma, elas mesmas mais plenamente, serem mais plenamente humanas. Porque se uma pessoa está apenas cavando valas ou… sabe, antes de termos animais domesticados, os humanos puxavam arados. Então, ter um humano puxando um arado talvez não fosse um bom uso de um ser humano, e essa pessoa não conseguia realmente viver seu potencial.
Então, por grande parte da história, a tecnologia, ao nos poupar de muitas dessas tarefas, deu às pessoas a oportunidade de explorar seu potencial, o que elas poderiam fazer quando tivessem a oportunidade.
Mas acho que agora estamos chegando ao ponto em que, com coisas como IA generativa, podemos estar perdendo o objetivo da tecnologia como dispositivo economizador de trabalho, como uma forma de nos libertar do trabalho. Porque agora enfrentamos a questão: o que queremos que uma pessoa faça se ela pode escolher o que fazer, quando não precisa fazer essas outras coisas?
E algumas das coisas que queremos que as pessoas façam quando estão explorando plenamente seu potencial é fazer perguntas, pensar sobre coisas que ninguém pensou antes. Eu diria que essas são coisas boas para as pessoas fazerem. Quando as pessoas fazem essas coisas, elas estão sendo plenamente humanas. Não acho que alguém diria: “Oh, uma pessoa fazendo perguntas, que perda de tempo”. Isso não é como cavar uma vala. Quando vemos uma pessoa cavando uma vala, pensamos: talvez essa pessoa pudesse estar fazendo outras coisas. Mas uma pessoa fazendo perguntas, aprendendo coisas e pensando sobre coisas… Talvez seja isso que uma pessoa deveria estar fazendo.
Cris: No seu trabalho, em dinâmicas como esta aqui, aposto que você encontra pessoas importantes e poderosas, líderes de Estado, jornalistas. Estamos fazendo as perguntas certas quando se trata de tecnologia e IA generativa? E nós, como sociedade, como pessoas… quais são as perguntas que deveríamos estar fazendo? Quais são as perguntas que você gostaria que a sociedade estivesse fazendo sobre tecnologia?
Ted Chiang: Acho que as perguntas que deveríamos estar fazendo são: qual problema está sendo resolvido por essa nova tecnologia? Porque existem talvez duas abordagens diferentes que se pode adotar. Uma é examinar quais problemas precisam ser resolvidos em nossa sociedade atual e então tentar criar soluções, que podem envolver tecnologia, para esses problemas.
A outra abordagem é simplesmente criar tecnologia e depois aplicá-la onde você puder. E de alguma forma você pode interpretar uma situação como “vamos chamar isso de problema porque temos essa tecnologia, e a maneira de vender essa tecnologia é como solução para esse problema”. Mas talvez isso não fosse realmente um problema antes. A única razão pela qual alguém pensou nisso como um problema foi porque estava procurando uma maneira de vender sua tecnologia.
Então, acho que os tecnólogos, em geral, estão sempre procurando maneiras de vender seu trabalho. E por causa da relação íntima entre tecnologia e capitalismo, chefes de Estado estão muito ansiosos para ouvir os tecnólogos. Porque eles frequentemente pensam em termos de dinheiro. Mais tecnologia significa mais crescimento econômico, e crescimento econômico é no que muitos chefes de Estado estão mais focados, em parte porque o crescimento econômico é facilmente mensurável, e também porque historicamente identificamos muito fortemente crescimento econômico com progresso, com pessoas tendo vidas melhores.
E definitivamente houve um período da história em que crescimento econômico significava vidas melhores, porque quando você tem máquinas para cavar valas, isso leva tanto ao crescimento econômico quanto melhora a vida das pessoas. Mas agora os tecnólogos, acho, frequentemente dizem aos chefes de Estado: “essa tecnologia levará ao crescimento econômico”. E então, de repente, esse é o fim da discussão. Eles não estão tendo uma conversa sobre: essa tecnologia realmente resolve um problema que nossa sociedade tinha?
Porque acho que é muito mais difícil falar sobre os problemas que uma sociedade tem que não são de natureza econômica. É muito mais difícil medi-los ou avaliar se você está progredindo ou não. Além disso, soluções para esses problemas são frequentemente mais difíceis de implementar se não envolvem tecnologia.
A solidão é, por exemplo, um grande problema na sociedade moderna. Como resolvemos a solidão? Esse é um problema muito difícil. Não acho que alguém tenha uma boa resposta sobre como resolver a solidão. As pessoas têm ideias, mas elas serão difíceis de implementar e lentas, e levará tempo para ver se funcionam. E a questão é que muitas das propostas sobre como combater a solidão não vão enriquecer ninguém.
Vender chatbots? Vender amigos artificiais? Essa é uma maneira de enriquecer alguém. Não acho que seja uma solução real para a solidão, mas é muito concreta e há potencial para se ganhar dinheiro. E então parece uma solução. Eu diria que não é realmente uma solução, mas é algo que você pode vender. É algo que os tecnólogos podem facilmente vender, e é algo que pessoas no governo podem aceitar como “bem, ok, acho que sei como fazer isso” em vez de outras abordagens potenciais para lidar com o problema.
A maioria dos medos da tecnologia são melhor compreendidos como medos de como o capitalismo usa a tecnologia contra nós.
Cris: Você acabou de dizer que a tecnologia nos liberta para viver nosso potencial. Concordo totalmente, e acho que a maioria das pessoas concordaria. Mas, ao mesmo tempo, temos medo da tecnologia. Pensando como escritor, desde o monstro de Frankenstein até o Exterminador do Futuro, por que temos medo da tecnologia? Por que a ficção está cheia de monstros tecnológicos? Por que temos medo?
Ted Chiang: Então, ok, acho que agora, na era atual, a maioria dos medos da tecnologia são melhor compreendidos como medos do capitalismo. As pessoas não têm realmente medo da tecnologia em si. Elas têm medo de como o capitalismo usará a tecnologia contra elas.
E de certa forma, essa é uma estratégia retórica que as forças do capitalismo têm empregado. Da mesma forma que muitas vezes quando as empresas terceirizam trabalho, elas contratam pessoas no exterior e demitem pessoas domesticamente. E de alguma forma conseguem fazer as pessoas ficarem com raiva das pessoas no exterior. E essa é uma estratégia muito eficaz, fazer as pessoas ficarem com raiva dos trabalhadores estrangeiros. Mas não foram os trabalhadores estrangeiros que tiraram seus empregos, foram os chefes das corporações que tomaram essa decisão.
Então, serve aos interesses do capital engajar-se nesse movimento retórico e dizer: “não somos nós, são eles”. E acho que algo similar está sendo empregado agora, onde as forças do capital, os chefes das corporações, estão substituindo trabalhadores por tecnologia, por automação. Ajuda-os ter esse enquadramento de que “bem, as pessoas têm medo da tecnologia ou estão com raiva da tecnologia”, porque essa é uma maneira de desviar a atenção de quem realmente é culpado. Que são os chefes das corporações.
Então, novamente, eu diria que muito do nosso medo da tecnologia é mais apropriadamente compreendido como um medo de como o capitalismo usa a tecnologia contra nós.
A arte é um lembrete do que é estar vivo, do que é ser uma pessoa vivendo no mundo.
Cris: E última pergunta: você fala muito sobre arte, que a IA não faria arte, porque arte é na verdade o processo, o esforço, o insight e o conhecimento gerado neste caminho. A arte é a última fronteira? A coisa que quando as máquinas tomarem conta do mundo e fizerem tudo, será a arte a última coisa que nos tornaria humanos? Como o futuro está conectado à arte?
Ted Chiang: Bem, quando você diz que haverá um futuro onde as máquinas tomarão conta de tudo, você diz isso como se fosse um fato, e eu não sei se é um fato, e acho que não devemos aceitar que é uma inevitabilidade. Porque, novamente, algumas pessoas gostariam que acreditássemos que algum futuro específico é inevitável.
Mas quero dizer que não há futuro que seja inevitável, o futuro está aberto. Não sabemos qual será o futuro, ninguém sabe qual será o futuro, e nós realmente temos alguma participação em qual será o futuro. E sim, se não queremos um futuro no qual as máquinas tomaram conta de tudo, então precisamos lutar contra isso. Precisamos lutar contra a ideia de que isso é inevitável.
Então, acho que, ok, sobre sua pergunta sobre qual é o papel da arte no futuro: acho que a arte terá o mesmo papel no futuro que sempre teve. A arte é parte do que significa ser humano. Os humanos querem fazer arte, e os humanos querem consumir arte. A arte é um lembrete do que é estar vivo, do que é ser uma pessoa vivendo no mundo. E acho que isso continuará sendo importante em qualquer futuro, qualquer que seja a forma que ele tome.
Cris: Muito obrigado novamente, obrigado por tirar um tempo para vir ao nosso país. Espero que esteja aproveitando e obrigado pelo seu trabalho.
Ted Chiang: Obrigado por me receber.
Gostou da entrevista? Vem conversar sobre ela e muitos outros assuntos no Discord do Boa Noite Internet!
