Computadores contadores de histórias mudarão o rumo da história humana, diz o historiador e filósofo
Yuval Noah Harari – The Economist – 28 de abril de 2023 (Tradução – Evandro Milet)
O medo da inteligência artificial (IA) assombra a humanidade desde o início da era do computador. Até então, esses medos se concentravam em máquinas que usavam meios físicos para matar, escravizar ou substituir pessoas. Mas, nos últimos dois anos, novas ferramentas de IA surgiram que ameaçam a sobrevivência da civilização humana de uma inesperada direção. A IA ganhou algumas habilidades notáveis para manipular e gerar linguagem, seja com palavras, sons ou imagens. AI, portanto, hackeou o sistema operacional da nossa civilização.
A linguagem é o material de que quase toda a cultura humana é feita. Direitos humanos, por exemplo, não estão inscritos em nosso DNA. Em vez disso, são artefatos culturais que criamos contando histórias e escrevendo leis. Deuses não são realidades físicas. Em vez disso, eles são artefatos culturais que criamos inventando mitos e escrevendo escrituras.
O dinheiro também é um artefato cultural. As cédulas são apenas pedaços de papel coloridos, e atualmente, mais de 90% do dinheiro não é nem mesmo notas bancárias – é apenas informação digital em computadores. O que dá valor ao dinheiro são as histórias que os banqueiros, ministros das finanças e gurus de criptomoedas nos falam sobre isso. Sam Bankman-Fried, Elizabeth Holmes e Bernie Madoff não eram particularmente bons em criar valor, mas todos eram contadores de histórias extremamente capazes.
O que aconteceria quando uma inteligência não-humana se tornasse melhor que o humano médio em contar histórias, compor melodias, desenhar imagens e escrever leis e escrituras? Quando as pessoas pensam no ChatGPT e em outras novas ferramentas de IA, eles são frequentemente atraídos por exemplos como crianças em idade escolar usando IA para escrever seus trabalhos. O que acontecerá com o sistema escolar quando as crianças fizerem isso? Mas este tipo de questão perde o quadro geral. Esqueça as redações escolares. Pense na próxima corrida presidencial americana em 2024 e tente imaginar o impacto das ferramentas de IA que podem ser feitas para produzir em massa conteúdo político, notícias falsas e escrituras para novos cultos.
Nos últimos anos, o culto QAnon se uniu em torno de mensagens on-line anônimas, conhecido como “pílulas Q”(Q drops). Os seguidores coletaram, reverenciaram e interpretaram essas pílulas Q como um texto sagrado. Embora, até onde sabemos, todos os Q drops anteriores foram compostos por humanos, e os bots apenas ajudaram a disseminá-los, futuramente poderemos ver os primeiros cultos da história cujos textos reverenciados foram escritos por uma inteligência não- humana. Ao longo da história, as religiões reivindicaram uma fonte não-humana de seus livros sagrados. Em breve isso pode ser uma realidade.
Em um nível mais prosaico, em breve poderemos nos encontrar conduzindo longas discussões on-line sobre aborto, mudança climática ou a invasão russa da Ucrânia com entidades que pensamos serem humanos, mas na verdade são IA. O problema é que é totalmente inútil perdermos tempo tentando mudar as opiniões declaradas de um bot de IA, enquanto a IA pode aprimorar suas mensagens com tanta precisão que tem uma boa chance de nos influenciar.
Por meio de seu domínio da linguagem, a IA pode até formar relacionamentos íntimos com pessoas e usar o poder da intimidade para mudar nossas opiniões e visões de mundo. Embora não haja indicação de que a IA tenha consciência ou sentimentos próprios, para promover falsa intimidade com os humanos, basta que a IA os façam se sentir emocionalmente ligados a ela. Em junho de 2022, Blake Lemoine, um engenheiro do Google, publicamente afirmou que o AI chatbot Lamda, no qual ele estava trabalhando, tornou-se senciente. A alegação controversa custou-lhe o emprego. O mais interessante sobre esse episódio não foi a alegação do Sr. Lemoine, o que provavelmente era falso. Em vez disso, foi a vontade de arriscar seu trabalho lucrativo em favor do chatbot de IA. Se a IA pode influenciar pessoas a arriscar seus empregos por isso, o que mais isso poderia induzi-los a fazer?
Numa batalha política por corações e mentes, a intimidade é a arma mais eficiente, e a IA acaba de ganhar a capacidade de produzir em massa relacionamentos íntimos com milhões de pessoas. Todos nós sabemos que, na última década, as mídias sociais se tornaram um campo de batalha para controlar a atenção humana. Com a nova geração de IA, a frente de batalha está mudando da atenção para a intimidade. O que vai acontecer com o ser humano e a psicologia humana enquanto a IA luta contra a IA em uma batalha para fingir relações íntimas conosco, que podem ser usados para nos convencer a votar em determinados políticos ou comprar produtos específicos?
Mesmo sem criar “falsa intimidade”, as novas ferramentas de IA teriam uma imensa influência em nossas opiniões e visões de mundo. As pessoas podem vir a usar um único consultor de IA como um oráculo onisciente e completo. Não é de admirar que o Google esteja apavorado. Por que se preocupar em procurar, quando posso apenas perguntar ao oráculo? A imprensa e a publicidade também devem estar apavoradas. Por que ler um jornal quando posso apenas perguntar ao oráculo para me contar as últimas notícias? E qual é o propósito dos anúncios, quando posso apenas pedir ao oráculo para me dizer o que comprar?
E mesmo esses cenários não capturam realmente o quadro geral. O que estamos falando é sobre potencialmente o fim da história humana. Não o fim da história, apenas o fim da sua parte dominada pelos humanos. A história é a interação entre biologia e cultura; entre nossas necessidades biológicas e desejos por coisas como comida e sexo, e nossas criações culturais como religiões e leis. A história é o processo pelo qual leis e religiões moldam a comida e o sexo.
O que acontecerá com o curso da história quando a IA dominar a cultura e começar a produzir histórias, músicas, leis e religiões? Ferramentas anteriores como a impressão a imprensa escrita e o rádio ajudaram a difundir as ideias culturais dos humanos, mas nunca criaram novas ideias culturais próprias. A IA é fundamentalmente diferente. IA pode criar ideias completamente novas, cultura completamente nova.
A princípio, a IA provavelmente imitará os protótipos humanos nos quais foi treinada em sua infância. Mas a cada ano que passa, a cultura da IA irá corajosamente onde nenhum ser humano jamais chegou. Por milênios, os seres humanos viveram dentro dos sonhos de outros humanos. Nas próximas décadas, podemos nos encontrar vivendo dentro dos sonhos de uma inteligência alienígena.
O medo da IA tem assombrado a humanidade apenas nas últimas décadas. Mas por milhares de anos os seres humanos têm sido assombrados por um medo muito mais profundo. Nós sempre apreciamos o poder das histórias e imagens para manipular nossas mentes e criar ilusões. Consequentemente, desde os tempos antigos, os humanos temiam ser presos em um mundo de ilusões.
No século XVII, René Descartes temia que talvez um demônio malicioso o estivesse prendendo dentro de um mundo de ilusões, criando tudo o que ele via e ouvia. Na Grécia antiga Platão contou a famosa Alegoria da Caverna, na qual um grupo de pessoas ficam acorrentadas dentro de uma caverna por toda a vida, de frente para uma parede em branco. Uma tela. Sobre aquela tela eles veem projetadas várias sombras. Os prisioneiros confundem as ilusões que eles veem lá como realidade.
Na antiga Índia, os sábios budistas e hindus apontaram que todos os humanos viviam presos dentro de Maya – o mundo das ilusões. O que normalmente consideramos ser a realidade é muitas vezes apenas ficções em nossas próprias mentes. As pessoas podem travar guerras inteiras, matando outras e dispostos a serem mortos, por causa de sua crença nesta ou naquela ilusão.
A revolução da IA está nos colocando frente a frente com o demônio de Descartes, com a caverna de Platão e com Maya. Se não tomarmos cuidado, podemos ficar presos atrás de uma cortina de ilusões, que não poderíamos arrancar – ou mesmo perceber que está lá.
Claro, o novo poder da IA também pode ser usado para bons propósitos. Eu não vou insistir nisso, porque as pessoas que desenvolvem IA falam bastante sobre isso. O trabalho de historiadores e filósofos como eu é apontar os perigos. Mas, certamente, a IA pode nos ajudar de inúmeras maneiras, desde encontrar novas curas para o câncer até descobrir soluções para a crise ecológica. A questão que enfrentamos é como ter certeza de que as novas ferramentas de IA sejam usadas para o bem e não para o mal. Para fazer isso, primeiro precisamos analisar os verdadeiros recursos dessas ferramentas.
Desde 1945 sabemos que a tecnologia nuclear pode gerar energia barata para o benefício dos humanos – mas também poderia destruir fisicamente a civilização humana. Portanto, reformulamos toda a ordem internacional para proteger a humanidade e garantir que a tecnologia nuclear fosse usada principalmente para o bem. Agora temos que lidar com uma nova arma de destruição em massa que pode aniquilar nosso mundo social e mental.
Ainda podemos regular as novas ferramentas de IA, mas devemos agir rapidamente. Enquanto as armas nucleares não podem inventar armas nucleares mais poderosas, a IA pode criar IA exponencialmente mais poderosa.
O primeiro passo crucial é exigir verificações de segurança rigorosas antes das ferramentas poderosas de IA serem liberadas para o domínio público. Assim como uma empresa farmacêutica não pode liberar novos medicamentos antes de testar seus efeitos colaterais de curto e longo prazo, também as empresas de tecnologia não devem lançar novas ferramentas de IA antes de se tornarem seguras. Nós precisamos de um equivalente da Food and Drug Administration(Anvisa) para novas tecnologias, e precisamos para ontem.
Desacelerar as implantações públicas de IA fará com que as democracias fiquem para trás de regimes autoritários mais cruéis? Exatamente o oposto. Implantações de IA não regulamentadas criariam caos social, o que beneficiaria autocratas e arruinariam as democracias. Democracia é uma conversa, e conversas confiam na linguagem. Quando a IA hackeia a linguagem, ela pode destruir nossa capacidade de ter conversas significativas, destruindo assim a democracia.
Acabamos de encontrar uma inteligência alienígena, aqui na Terra. Nós não sabemos muito sobre isso, exceto que pode destruir nossa civilização. Devemos parar a implantação irresponsável de ferramentas de IA na esfera pública e regular a IA antes que ela nos regule. E a primeira regulamentação que eu sugeriria é tornar obrigatório que a IA divulgue que é uma IA. Se estou conversando com alguém, e não sei dizer se é um humano ou uma IA – esse é o fim da democracia.
Este texto foi gerado por um ser humano.
Foi?
_______________
Yuval Noah Harari é historiador, filósofo e autor de “Sapiens”, “Homo Deus” e a série infantil “Unstoppable Us”. Ele é professor do departamento de história na Universidade Hebraica de Jerusalém e co-fundador da Sapienship, uma empresa de impacto social
Se você tiver interesse e ainda não estiver inscrito para receber diariamente as postagens de O Novo Normal, basta clicar no link: https://chat.whatsapp.com/BrKMDzP2KP52ExU8rOIB3s(14) para WhatsApp ou https://t.me/joinchat/SS-ZohzFUUv10nopMVTs-w para Telegram. Este é um grupo restrito para postagens diárias de Evandro Milet. Além dos artigos neste blog, outros artigos de Evandro Milet com outras temáticas, publicados nos fins de semana no Portal ES360, encontram-se em http://evandromilet.com.br/
O novo normal 