Pessoal da tecnologia não está qualificado para organizar nossas vidas
Por Gillian Tett – Financial Times/Valor Econômico – 05/11/2021
Em 2020, a poderosa empresa americana de dados Palantir entrou com a documentação de solicitação de uma oferta inicial de ações. Incluída, havia uma carta excepcional, do executivo-chefe Alex Carp aos investidores, que vale a pena relembrar agora.
“Nossa sociedade, efetivamente, terceirizou a construção dos softwares que tornam nosso mundo possível a um pequeno grupo de engenheiros num canto isolado do país”, escreveu. “A questão é se também queremos terceirizar a adjudicação de algumas das mais importantes questões filosóficas e morais de nosso tempo”.
No Vale do Silício, as gigantes tecnológicas vem contratando cientistas sociais. Essas iniciativas têm como objetivo misturar a IA com o que eu chamo de “inteligência antropológica”, um segundo tipo de “IA”, que fornece um senso do contexto social
“A elite da engenharia no Vale do Silício pode saber mais sobre a construção de softwares. Mas eles não sabem mais sobre como nossa sociedade deveria ser organizada ou [sobre] o que justiça requer”, acrescentou Karp. Em termos mais diretos, o pessoal da tecnologia pode ser brilhante e inteligente no que faz, mas isso não os torna qualificados para organizar nossas vidas. Tratou-se de uma declaração fantástica vinda de alguém como ele, uma figura ultratecnológica, cujos amplos elos de sua empresa com as Forças Armadas e as agências de inteligência têm despertado controvérsias.
É um sentimento salutar por, pelo menos, dois motivos. Primeiro, e mais óbvio, há uma nova onda de polêmicas em torno à empresa antes conhecida como Facebook, depois das denúncias de Frances Haugen, que apresentou documentos sinalizando que a gigante das redes sociais on-line ignorou alertas sobre o dano social criado por seus produtos. O executivo-chefe Mark Zuckerberg desviou a atenção renomeando a empresa como Meta, e planeja investir bilhões para criar um “metaverso”, que, diz ele, será construído de uma maneira ética.
As revelações sobre o Facebook, entretanto, não inspiram confiança em sua capacidade para fazê-lo. Até porque a maioria das pessoas não tem a menor ideia de como um metaverso poderia ser ou, muito menos, como alguém faria as linhas de código que o construíriam. A tentação aqui seria, mais uma vez, que “terceirizemos” as decisões cruciais para a “elite da engenharia”, como Karp a chama.
A segunda questão, potencialmente mais grave, é a inteligência artificial. Neste outono americano, um fabuloso trio de escritores – Eric Schmidt, ex-executivo-chefe do Google, Henry Kissinger, ex-secretário de Estado dos Estados Unidos, e Daniel Huttenlocher, um professor de inteligência artificial (IA) – lançou o livro “The Age of AI” (a era da IA, em inglês), advertindo que “à medida que cresce o papel da IA em definir e moldar o ‘espaço da informação’, seu papel se torna mais difícil de antecipar [e] as perspectivas da sociedade livre, mesmo do livre arbítrio, podem alterar-se”.
Ainda assim, o desenvolvimento da IA, em grande medida, continua nas mãos desses “engenheiros num canto isolado do país”. E, a maioria de nós parece satisfeita em terceirizar as decisões a eles.
Não me entenda mal; não odeio a ideia da IA. Ao contrário, essa tecnologia pode ser uma força extraordinária para o bem, pode ajudar médicos a detectar doenças, por exemplo, ou investidores a esquadrinhar os balanços corporativos em busca de riscos. Na semana passada, um alto funcionário do Facebook insistiu comigo que a IA também pode ser uma arma poderosa para combater a desinformação, uma vez que pode escanear uma quantidade de dados de grandeza inimaginável, procurando as publicações de conteúdo abusivo e removendo-as.
Também é possível acreditar que, em determinadas ocasiões, os engenheiros estão em melhor posição para tomar decisões sobre o uso da IA do que o público em geral ou os políticos, tendo em vista que estes últimos costumam mostrar um péssimo senso de estatística e probabilidade, como o psicólogo cognitivo Steven Pinker destaca em seu novo livro.
Vejamos o caso dos carros autoguiados. Se eles matarem um pequeno número de passageiros, a reação instintiva da maioria dos políticos – impulsionados pela população – poderia ser a de proibi-los. Um engenheiro, por sua vez, poderia retrucar que os seres humanos, na verdade, provocam muito mais mortes nas estradas, o que tornaria “racional” aderir aos carros guiados pela IA, mesmo diante dos riscos inevitáveis.
Em outros casos, porém, os engenheiros podem não entender da melhor forma; podem ficar cegos ao contexto ou a costumes sociais, precisamente porque veem a vida através das lentes rígidas da tecnologia. Como observou a antropóloga J. A. English-Lueck em um estudo sobre o Vale do Silício, “em uma comunidade de produtores tecnológicos […] a própria tecnologia [se torna] a lente através da qual o mundo é visto e definido”. Nesse ambiente, argumenta, “‘útil’, ‘eficiente’ e ‘bom’ se fundem num único conceito moral”. É por isso, aliás, que o comentário de Karp parece tão importante agora.
A boa notícia é que as pessoas na posição dele, enfim, estão preparadas para falar a respeito. A notícia ainda melhor é que existem experimentos em andamento para combater a “visão em túnel” [a falta de visão periférica] do pessoal da tecnologia. No Vale do Silício, por exemplo, as Gigantes Tecnológicas vêm contratando cientistas sociais. Outros centros de inovação também mostram sinais promissores. Em Canberra, Genevieve Bell, ex-vice-presidente da Intel, lançou um instituto de IA que mistura ciências sociais e ciência da computação. Essas iniciativas têm como objetivo misturar a IA com o que eu chamo de “inteligência antropológica” – um segundo tipo de “IA”, que fornece um senso do contexto social.
A má notícia é que tais iniciativas continuam sendo apenas modestas e que ainda há uma extrema assimetria de informação entre os engenheiros e todos os demais. O que é necessário é um exército de tradutores culturais, que combata nossa tendência a terceirizar mentalmente as questões para as elites da engenharia. Inovadores da tecnologia, como Karp e Schmidt, poderiam, talvez, usar sua enorme riqueza para financiar isso.
Gillian Tett é colunista do Financial Times
https://valor.globo.com/opiniao/coluna/a-visao-em-tunel-da-tecnologia.ghtml
Se você tiver interesse e ainda não estiver inscrito para receber diariamente as postagens de O Novo Normal, basta clicar no link:
https://chat.whatsapp.com/BrKMDzP2KP52ExU8rOIB3s (14) para WhatsApp
ou https://t.me/joinchat/SS-ZohzFUUv10nopMVTs-w para Telegram.
Este é um grupo restrito para postagens diárias de Evandro Milet.
Me acompanhe também no Instagram @evandromilet https://instagram.com/evandromilet?utm_medium=copy_link
Além dos artigos neste blog, outros artigos de Evandro Milet com outras temáticas, publicados nos fins de semana em A Gazeta, encontram-se em http://evandromilet.com.br/
O novo normal 