Por Cade Metz – Estadão/The New York Times – 10/04/2023
Presidente executivo da OpenAI defende que ferramenta deve ser introduzida aos poucos para as pessoas
THE NEW YORK TIMES – Esbarrei com Sam Altman pela primeira vez em 2019, dias depois de a Microsoft concordar em investir US$ 1 bilhão em sua startup de três anos, a OpenAI. Por sugestão dele, jantamos num restaurante pequeno, sem dúvidas moderno e não muito distante de sua casa em São Francisco.
No meio da refeição, ele levantou seu iPhone para que eu pudesse ver o contrato que havia passado os últimos meses negociando com uma das maiores empresas de tecnologia do mundo. O documento dizia que o investimento de um bilhão de dólares da Microsoft ajudaria a OpenAI a construir o que foi chamado de inteligência artificial geral (AGI, na sigla em inglês), uma máquina que poderia fazer qualquer coisa que o cérebro humano fosse capaz.
Mais tarde, enquanto Altman tomava um vinho doce como sobremesa, ele comparou sua empresa ao Projeto Manhattan. Como se estivesse falando da previsão do tempo do dia seguinte, disse que a tentativa dos Estados Unidos de construir uma bomba atômica durante a Segunda Guerra Mundial foi um “projeto com a dimensão da OpenAI – o nível de ambição a que aspiramos”.
Ele acreditava que a AGI traria prosperidade e riqueza para o mundo como nunca havia sido visto. E também temia que as tecnologias em desenvolvimento por sua empresa pudessem causar sérios danos – espalhar desinformação, prejudicar o mercado de trabalho. Ou até mesmo destruir o mundo tal como conhecemos.
“Tento ser franco”, disse ele. “Estou fazendo algo bom? Ou muito ruim?”.
Em 2019, isso parecia ficção científica.
Em 2023, as pessoas estão começando a se perguntar se Altman era mais presciente do que imaginavam.
Agora que a OpenAI lançou um chatbot online chamado ChatGPT, qualquer pessoa com conexão à internet está a um clique de distância da tecnologia que responderá a dúvidas urgentes sobre química orgânica, escreverá um artigo de duas mil palavras a respeito de Marcel Proust e sua madeleine, ou criará um programa de computador que lança flocos de neve digitais em uma tela de laptop – tudo isso com uma habilidade que parece humana.
Sam Altman é acusado de imprudência
Conforme as pessoas percebem que essa tecnologia também é uma forma de espalhar mentiras ou até mesmo convencer as pessoas a fazer coisas que não deveriam, alguns críticos estão acusando Altman de imprudência.
Recentemente, mais de mil especialistas em IA e líderes da tecnologia pediram à OpenAI e a outras empresas que interrompessem seu trabalho em sistemas como o ChatGPT, dizendo que eles apresentam “grandes riscos para a sociedade e a humanidade”.
E, no entanto, quando as pessoas agem como se Altman quase tivesse concretizado sua visão de longa data, ele recua.
“A propaganda exagerada sobre esses sistemas – mesmo se tudo o que esperamos for certo no longo prazo – está totalmente fora de controle no curto prazo”, disse ele em uma tarde recente. Segundo Altman, há tempo para entender melhor como esses sistemas vão, no fim das contas, mudar o mundo.
Muitos líderes do setor, pesquisadores de IA e especialistas veem o ChatGPT como uma mudança tecnológica fundamental, tão significativa quanto a criação do navegador da web ou do iPhone. Mas poucos conseguem entrar em acordo quanto ao futuro dessa tecnologia.
Alguns acreditam que ela irá proporcionar uma utopia na qual todos têm todo o tempo e dinheiro necessários. Outros acreditam que ela poderia destruir a humanidade. Também há aqueles que gastam boa parte de seu tempo defendendo que a tecnologia nunca é tão poderosa como todos dizem ser, insistindo que nem o nirvana, nem o dia do juízo final estão tão próximos quanto pode parecer.
Altman, 37 anos, empresário com cara de garoto e esbelto, dos subúrbios de St. Louis, mostra-se tranquilo no meio disso tudo. Como CEO da OpenAI, ele de alguma forma personifica cada uma dessas visões aparentemente contraditórias, na esperança de equilibrar as inúmeras possibilidades à medida que faz avançar essa tecnologia estranha, poderosa e com falhas para o futuro.
Isso significa que ele é frequentemente criticado por todos os lados. Entretanto, aqueles mais próximos a ele acreditam que as coisas estão como deveriam ser. “Se você está incomodando igualmente ambos os lados, então você está fazendo algo certo”, disse o presidente da OpenAI, Greg Brockman.
Passar um tempo com Altman é entender que o Vale do Silício impulsionará essa tecnologia, apesar de não estar muito seguro de quais serão as implicações. Em um determinado momento durante o nosso jantar em 2019, ele parafraseou Robert Oppenheimer, líder do Projeto Manhattan, que acreditava que a bomba atômica era um avanço científico inevitável. “A tecnologia acontece porque é possível”, afirmou. (Altman chamou a atenção para o fato de que, por acaso, ele e Oppenheimer fazem aniversário no mesmo dia.)
Ele acredita que a IA vai surgir de uma forma ou de outra, fazer coisas maravilhosas que nem mesmo ele consegue imaginar e que podemos encontrar formas de amenizar os danos que ela possa causar.
É um ponto de vista que reflete a própria trajetória de Altman. Sua vida tem sido uma ascensão bastante constante em direção a uma maior prosperidade e riqueza, impulsionada por um conjunto eficaz de habilidades pessoais – sem falar de um pouco de sorte. Faz sentido que ele acredite que algo bom vai acontecer e não algo ruim.
Mas se ele estiver errado, há uma saída de emergência: em seus contratos com investidores como a Microsoft, o conselho da OpenAI se reserva o direito de acabar com a tecnologia a qualquer momento.
O pecuarista vegetariano
O alerta, enviado junto com com as instruções de como chegar até o destino, era “cuidado com as vacas”.
A casa de fim de semana de Altman é um rancho em Napa, na Califórnia, onde os fazendeiros cultivam uvas para vinho e criam gado.
Durante a semana, Altman e seu parceiro, Oliver Mulherin, um engenheiro de software australiano, dividem uma casa em Russian Hill, na região central de São Francisco. Mas quando chega sexta-feira, eles vão para o rancho, um lugar tranquilo entre as colinas rochosas e cobertas de relva. A casa construída há 25 anos foi reformada para ter uma aparência simples e contemporânea. O aço corten que cobre as paredes externas é oxidado de forma impecável.
À medida que você se aproxima da propriedade, as vacas vagam pelos campos verdes e pelas estradas de cascalho.
Altman é um homem que vive entre contradições, mesmo em seu refúgio: um vegetariano que cria gado de corte. Ele diz que o seu parceiro gosta deles.
Durante uma recente caminhada à tarde pelo rancho, paramos para descansar à beira de um pequeno lago. Observando a água, discutimos, mais uma vez, o futuro da IA.
Sua perspectiva não mudou muito desde 2019. Mas as palavras usadas por ele foram ainda mais ousadas.
Ele disse que sua empresa estava desenvolvendo tecnologia que “resolveria alguns dos nossos problemas mais urgentes, aumentaria de verdade o padrão de vida e também descobriria usos muito melhores para a vontade humana e a criatividade”.
Ele não estava exatamente seguro quanto aos problemas que ela iria resolver, mas argumentou que o ChatGPT mostrava os primeiros sinais do que é possível. Então, depois de dar um suspiro, disse temer que a mesma tecnologia pudesse causar sérios danos se acabasse nas mãos de algum governo autoritário.
Altman tende a descrever o futuro como se ele já existisse. E faz isso com um otimismo que parece descabido no mundo de hoje. Ao mesmo tempo, ele tem um jeito de concordar rapidamente com o outro lado da discussão.
Kelly Sims, sócia da empresa de capital de risco Thrive Capital, que trabalhou com Altman como consultora da diretoria da OpenAI, disse ter a sensação de que ele estava constantemente discutindo consigo mesmo.
Segundo ela, “em uma conversa, ele defende ao mesmo tempo dois pontos de vista”.
Origem no Vale do Silício
Ele é em grande parte um produto do Vale do Silício, que cresceu muito depressa e com entusiasmo em meados da década de 2010. Como presidente da Y Combinator, uma aceleradora de startups do Vale do Silício e investidora de startups em estágio inicial e semente, de 2014-19, ele assessorou um número incontável de novas empresas – e foi perspicaz para investir pessoalmente em várias que se tornaram marcas famosas, entre elas Airbnb, Reddit e Stripe. Ele se orgulha de reconhecer quando uma tecnologia está prestes a atingir um crescimento exponencial – e depois imaginar a curva no futuro.
No entanto, ele também é o produto de uma comunidade on-line estranha e extensa que começou a se preocupar, na mesma época em que Altman chegou ao Vale do Silício, que a IA um dia destruiria o mundo. Chamados de altruístas racionalistas ou eficazes, os integrantes desse movimento foram fundamentais para a criação da OpenAI.
A questão é saber se os dois lados de Altman são, no fim das contas, compatíveis: faz sentido trabalhar naquela curva se ela puder terminar em desastre? Altman está sem dúvidas decidido a ver como tudo vai se desenrolar.
Ele não é necessariamente motivado pelo dinheiro. Como muitas fortunas pessoais no Vale do Silício que estão vinculadas a uma ampla variedade de empresas de capital aberto e fechado, o patrimônio de Altman não está bem documentado. Mas, enquanto passeávamos por seu rancho, ele me disse, pela primeira vez, que não tem participações na OpenAI. O único dinheiro que pode ganhar com a empresa é um salário anual de cerca de US$ 65 mil – “independentemente do valor mínimo para o seguro saúde”, disse ele – e uma fatia irrisória de um antigo investimento na empresa pela Y Combinator.
Seu mentor de longa data, Paul Graham, fundador da Y Combinator, explicou a motivação de Altman assim: “Por que ele está trabalhando em algo que não o tornará mais rico? Uma resposta é que muitas pessoas fazem isso quando têm dinheiro suficiente, o que provavelmente é verdade no caso de Sam. A outra é que ele gosta do poder.”
É assim que Bill Gates deve ter sido
Georgeann Kepchar, ex-professor de Sam Altman
No final da década de 1990, a John Burroughs School, uma escola privada de ensino fundamental e médio batizada com o nome do naturalista e filósofo americano do século 19, convidou um consultor independente para observar e analisar a vida cotidiana em seu campus nos subúrbios de St.Louis.
O relatório do consultor incluiu uma crítica importante: o corpo discente estava repleto de homofobia.
No início dos anos 2000, Altman, um estudante de 17 anos da John Burroughs, começou a tentar mudar a cultura da escola, persuadindo individualmente os professores a afixar placas de “espaço seguro” nas portas de suas salas de aula como uma declaração em apoio aos estudantes gays como ele. Altman saiu do armário durante seu último ano na escola e disse que a St. Louis de sua adolescência não foi um lugar fácil para ser gay.
Georgeann Kepchar, que ministrou a disciplina de ciência da computação na escola, via Altman como um de seus alunos mais talentosos na matéria – e com um raro dom de encorajar as pessoas a seguir novos caminhos.
“Ele tinha criatividade e visão, combinadas com a ambição e a personalidade forte para convencer os outros a trabalhar com ele para colocar em prática suas ideias”, disse ela. Altman também me disse que havia pedido a um professor claramente homofóbico para afixar uma placa de “espaço seguro” só para trollar o cara.
Graham, que trabalhou ao lado de Altman durante uma década, via a mesma persuasão no homem de St.Louis.
“Ele tem um talento natural para convencer as pessoas a fazer as coisas”, disse Graham. “Se não é inato, é algo que foi completamente desenvolvido antes de ele fazer 20 anos. Conheci Sam quando ele tinha 19 anos, e lembro pensar naquela época: ‘Então é assim que Bill Gates deve ter sido’.”
Gates e o futuro CEO da OpenAI se conheceram em 2005, quando Altman se candidatou para uma vaga na primeira leva de startups a receber investimentos da Y Combinator. Ele conquistou a vaga – que incluía um aporte semente de US$ 10 mil – e depois de cursar seu segundo ano na Universidade Stanford, largou a faculdade para fundar sua nova empresa, a Loopt, uma startup de rede social que permita o compartilhamento da localização do usuário com amigos e familiares.
Hoje ele diz que, durante sua curta estadia em Stanford, aprendeu mais com as inúmeras noites que passou jogando pôquer do que com a maioria das demais atividades universitárias. Depois de seu primeiro ano na instituição, ele trabalhou no laboratório de IA e robótica supervisionado pelo professor Andrew Ng, que viria a fundar o principal laboratório de IA no Google. Contudo, o pôquer ensinou Altman a ler as pessoas e a avaliar os riscos.
Mostrou-lhe “como perceber padrões nas pessoas ao longo do tempo, como tomar decisões com informações não muito precisas, como decidir quando valia a pena o desconforto, de certa forma, para conseguir mais informações”, ele me disse enquanto passeávamos por seu rancho em Napa. “É um ótimo jogo.”
Depois de vender a Loopt com um lucro modesto, ele passou a integrar a Y Combinator como sócio em regime parcial. Três anos depois, Graham deixou o cargo de presidente da empresa e, para surpresa de muitos em todo o Vale do Silício, escolheu Altman, então com 28 anos, como sucessor.
Trajetória na Y Combinator
Altman não é um programador nem um engenheiro nem pesquisador de IA. Ele é a pessoa que define a agenda, reúne as equipes e fecha os acordos. Como presidente da Y Combinator, ele expandiu a empresa quase abandonada, criando um novo fundo de investimento e um novo laboratório de pesquisa, aumentando em centenas o número de instituições assessoradas a cada ano.
Ele também começou a trabalhar em diversos projetos fora da empresa de investimento, inclusive na OpenAI, que fundou como uma organização sem fins lucrativos em 2015 com um grupo que incluía Elon Musk. De acordo com o próprio Altman, a Y Combinator cresceu cada vez mais preocupada que o envolvimento dele em tantas atividades prejudicasse seu desempenho.
Altman decidiu voltar a focar num projeto que teria, como ele mesmo disse, um impacto real no mundo. Ele cogitou a política, mas escolheu a IA.
Altman acreditava, segundo seu irmão mais novo Max, que ele era uma das poucas pessoas que poderiam mudar de forma significativa o mundo por meio da pesquisa em IA, ao contrário de tantas outras que poderiam fazer isso por meio da política.
Em 2019, quando a pesquisa da OpenAI estava decolando, Altman assumiu as rédeas, pedindo demissão do cargo de presidente da Y Combinator para focar em uma empresa com menos de cem funcionários que não estava segura de como faria para pagar as contas.
Em um ano, ele transformou a OpenAI em uma organização sem fins lucrativos com um braço com fins lucrativos. Dessa forma, ele tinha a possibilidade de conseguir o capital necessário para construir uma máquina que pudesse fazer qualquer coisa que o cérebro humano fosse capaz.
Arrecadando ‘10 contos’
Em meados da década de 2010, Altman dividia um apartamento de três quartos e três banheiros em São Francisco com seu namorado na época, seus dois irmãos e as namoradas deles. Os irmãos deixaram de viver juntos em 2016, mas continuam reunidos num grupo de bate-papo, onde passam bastante tempo zoando uns aos outros, como só irmãos podem fazer, disse seu irmão Max. Então, um dia, Altman enviou uma mensagem dizendo que planejava levantar US$ 1 bilhão para a pesquisa de sua empresa.
Um ano depois, ele tinha conseguido fazer isso. Depois de dar de cara com Satya Nadella, CEO da Microsoft, em uma reunião anual de líderes de tecnologia em Sun Valley, Idaho – muitas vezes chamada de “acampamento de verão para bilionários” –, ele negociou pessoalmente um acordo com Nadella e o diretor de tecnologia da Microsoft, Kevin Scott.
Alguns anos depois, Altman enviou uma mensagem para seus irmãos novamente, dizendo que planejava conseguir mais US$ 10 bilhões – ou, como ele disse, “10 contos”. Em janeiro, ele conseguiu isso também, assinando outro contrato com a Microsoft.
Brockman, o presidente da OpenAI, disse que o talento de Altman está em entender o que as pessoas querem. “Ele realmente tenta encontrar o que mais importa para uma pessoa – e, depois, descobre como dar isso a ela”, disse Brockman. “Esse é o algoritmo que ele usa sem parar.”
O acordo colocou a OpenAI e a Microsoft no centro de um movimento que está prestes a criar uma nova versão de tudo, desde motores de busca a aplicativos de e-mail e tutores online. E tudo isso está acontecendo em um ritmo que surpreende até mesmo aqueles que acompanham essa tecnologia há décadas.
Em meio ao frenesi, Altman continua com a tranquilidade habitual – embora admita usar o ChatGPT para ajudá-lo a resumir rapidamente a avalanche de e-mails e documentos que chegam para ele.
Bill Gates, Steve Jobs e Mark Zuckerberg deixaram uma marca indelével na estrutura do setor de tecnologia e do mundo. Sam Altman vai ser uma dessas pessoas
Kevin Scott, diretor de tecnologia da Microsoft
Scott acredita que Altman acabará sendo estudado ao mesmo tempo que Gates, Steve Jobs e Mark Zuckerberg.
“Essas são pessoas que deixaram uma marca indelével na estrutura do setor de tecnologia e talvez na estrutura do mundo”, disse ele. “Acho que Sam vai ser uma dessas pessoas.”
O problema é que, ao contrário dos dias em que a Apple, a Microsoft e a Meta estavam começando, as pessoas estão bem conscientes de como a tecnologia pode transformar o mundo – e como ela pode ser perigosa.
O homem do meio
Em março, Altman tuitou uma selfie com uma luz alaranjada na qual se via ele sorrindo entre uma mulher loira fazendo o sinal da paz e um cara barbudo usando um chapéu fedora.
A mulher era a cantora canadense Grimes, ex-esposa de Musk, e o cara de chapéu era Eliezer Yudkowsky, alguém que se autodescreve como pesquisador de IA e acredita, talvez mais do que qualquer pessoa, que a IA poderia um dia destruir a humanidade.
A selfie – tirada por Altman durante uma festa que sua empresa estava realizando – mostra como ele está próximo desse modo de pensar. Mas ele tem suas próprias opiniões a respeito dos perigos da IA.
Yudkowsky e os textos escritos por ele tiveram um papel importante na criação tanto da OpenAI como da DeepMind, outro laboratório determinado a desenvolver inteligência artificial geral.
Ele também ajudou a dar origem à vasta comunidade online de altruístas racionalistas e eficazes que estão convencidos de que a IA é um risco existencial. Este grupo surpreendentemente influente é representado por pesquisadores de muitos dos principais laboratórios de IA, inclusive da OpenAI. Eles não veem isso como hipocrisia: muitos deles acreditam que, como entendem os perigos com maior clareza do que qualquer outra pessoa, estão na melhor posição para desenvolver essa tecnologia.
Altman acredita que os altruístas eficazes desempenharam um papel importante no surgimento da IA, alertando o setor para os perigos. Ele também acredita que eles exageram sobre esses perigos.
Conforme a OpenAI desenvolvia o ChatGPT, muitos outros, inclusive o Google e a Meta, estavam construindo tecnologias semelhantes. Mas foram Altman e OpenAI os escolhidos para compartilhar a tecnologia com o mundo.
Muitos da área criticaram a decisão, argumentando que isso provocou uma corrida para lançar uma tecnologia que não dá respostas corretas, inventa coisas e, em breve, poderia ser usada para espalhar desinformação de forma rápida. Recentemente, o governo italiano proibiu temporariamente o ChatGPT no país, mencionando preocupações com a privacidade e receios com a exposição de menores a conteúdo inadequado.
Altman defende que, em vez de desenvolver e testar a tecnologia totalmente em segredo antes de lançá-la para o público, é mais seguro compartilhá-la aos poucos para que todos possam compreender melhor os riscos e como lidar com eles.
Ele me disse que seria um “início bastante lento”.
Quando perguntei a Altman se uma máquina que pudesse fazer qualquer coisa que o cérebro humano fosse capaz acabaria anulando o preço do trabalho humano, ele rejeitou a ideia. E disse que não conseguia imaginar um mundo no qual a inteligência humana fosse inútil.
Caso esteja errado, ele acha que pode se redimir com a humanidade.
Altman reconstruiu a OpenAI como o que chamou de empresa com lucro limitado. Isso lhe permitiu conseguir bilhões de dólares em recursos financeiros, prometendo lucro a investidores como a Microsoft. Mas esses lucros têm um valor máximo possível, e qualquer receita além desse teto será redirecionada para a parte sem fins lucrativos da OpenAI fundada em 2015.
Seu grande plano é que a OpenAI atraia boa parte da riqueza do mundo por meio da criação da AGI e, em seguida, redistribua essa riqueza para as pessoas. Em Napa, enquanto conversávamos sentados perto do lago no coração de sua fazenda, ele descartou vários valores – US$ 100 bilhões, US$ 1 trilhão, US$ 100 trilhões.
Se a AGI criar de fato toda essa riqueza, ele não tem certeza de como a empresa irá redistribuí-la. O dinheiro pode significar algo muito diferente nesse novo mundo.
Como me disse uma vez: “Sinto que a AGI pode ajudar com isso”.
https://www.estadao.com.br/link/empresas/sam-altman-pai-do-chatgpt-nao-esta-preocupado-com-os-perigos-da-inteligencia-artificial/
Se você tiver interesse e ainda não estiver inscrito para receber diariamente as postagens de O Novo Normal, basta clicar no link: https://chat.whatsapp.com/BrKMDzP2KP52ExU8rOIB3s(14) para WhatsApp ou https://t.me/joinchat/SS-ZohzFUUv10nopMVTs-w para Telegram. Este é um grupo restrito para postagens diárias de Evandro Milet. Além dos artigos neste blog, outros artigos de Evandro Milet com outras temáticas, publicados nos fins de semana no Portal ES360, encontram-se em http://evandromilet.com.br/
O novo normal 