Site de genealogia também usa software para trazer à vida pessoas que já morreram e figuras históricas. Especialistas temem uso da técnica em pornografia
O Globo, com New York Times 10/03/2021
NOVA YORK – Os deep fakes — vídeos falsos de pessoas geradas por computador — estão ficando cada vez mais sofisticados, e dois usos recentes da tecnologia deixaram especialistas de cabelo em pé diante da evolução dos softwares — o que aponta para um futuro em que, além das fake news, podemos nos deparar com uma realidade fake, ao menos virtualmente.
Primeiro, um artista de efeitos visuais trabalhou com um imitador de Tom Cruise para criar vídeos surpreendentemente precisos imitando o ator. Os vídeos falsos, criados com a ajuda de técnicas de aprendizado de máquina (machine learning, um dos ramos da inteligência artificial), ganharam milhões de visualizações no TikTok, no Twitter e em outras redes sociais no final do mês passado.
Poucos dias depois, o site de árvores genealógicas MyHeritage ofereceu uma ferramenta para animar digitalmente fotos antigas de entes queridos, criando um pequeno vídeo em loop no qual as pessoas podem ser vistas movendo a cabeça e até sorrindo. Mais de 26 milhões de imagens foram animadas com a ferramenta, chamada Deep Nostalgia.
O imitador de Tom Cruise, Miles Fisher, no video deepfake em que encarna o ator Foto: Reprodução
No YouTube, há vários vídeos transformando fotos de figuras históricas em figuras coloridas e com movimentos leves, inclusive atrizes famosas de outros séculos, como Sarah Bernhardt, e até da família imperial brasileira.
Os deep fakes chamaram novamente a atenção para o perigoso potencial da mídia sintética, que, se por um lado pode levar a melhorias significativas nas indústrias de publicidade e entretenimento, também pode levantar dúvidas sobre vídeos legítimos e até inserir pessoas, inclusive crianças, em imagens pornográficas.
Os criadores do vídeo viral do Tom Cruise fake argumentam que a experiência necessária para usar a tecnologia torna o abuso muito mais difícil, e a empresa por trás da ferramenta de animação de fotos no site disse que implementou salvaguardas para evitar o uso indevido.
Especialistas dizem que os dois exemplos recentes de deepfakes suscitam questões preocupantes sobre o futuro da tecnologia.
— Embora a Deep Nostalgia em si seja inócua, é parte deste conjunto de ferramentas que são potencialmente muito ameaçadoras — disse Sam Gregory, um diretor da Witness, organização sem fins lucrativos focada no uso ético de vídeo e um especialista em inteligência artificial.
A imitação digital de Tom Cruise não foi uma tarefa simples. Chris Ume, o artista belga de efeitos visuais que criou os vídeos, disse em uma entrevista que eles exigiram grande experiência e tempo.
Muito do que se vê nos vídeos é o corpo e a voz de Miles Fisher, um imitador de Tom Cruise que já era fluente nos maneirismos e na fala do ator e que tem uma forte semelhança com ele, mesmo sem as manipulações. Apenas o rosto, da testa ao queixo, do verdadeiro Tom Cruise é mostrado nos vídeos.
Ume passou dois meses treinando seu modelo de computador para criar as expressões faciais de Cruise. Gastou cerca de 24 horas na produção de cada vídeo de um minuto, ajustando detalhes como o alinhamento dos olhos.
Mesmo se a tecnologia melhorar, vídeos como o seu exigiriam muito trabalho manual e um imitador habilidoso, disse ele.
— Não é algo que você pode fazer em um computador doméstico, pressionando um botão.
A ferramenta Deep Nostalgia foi criada para o MyHeritage pela D-ID, uma empresa de inteligência artificial com sede em Tel Aviv. Gil Perry, o presidente-executivo da D-ID, disse que a empresa trabalha apenas com parceiros em que pode confiar para não abusar da tecnologia, e que tem um relacionamento de quatro anos com o MyHeritage.
Os vídeos criados com a ferramenta têm marcas d’água para indicar que não são reais e não incluem áudio, uma decisão que Perry disse que torna mais difícil usá-los para fins desagradáveis.
Ele disse que a tecnologia que alimentou a Deep Nostalgia era “apenas a ponta do iceberg do que somos capazes de fazer”.
— O potencial para a parte boa dessa tecnologia é infinito — afirma.
Usos para o bem e para o mal
Quando os otimistas falam sobre os pontos fortes da tecnologia, eles geralmente apontam para seus usos na defesa de direitos, onde ela pode dar um rosto aos problemas e criar conexões emocionais mais profundas.
Uma organização não governamental criou um vídeo de Javier Arturo Valdez Cárdenas, jornalista mexicano assassinado em 2017, no qual ele parecia pedir justiça pela própria morte.
Os pais de Joaquin Oliver, um jovem de 17 anos que foi assassinado em um tiroteio em uma escola de segundo grau em Parkland, Flórida, em 2018, o ressuscitaram digitalmente para um vídeo promovendo a legislação contra armas.
Os efeitos também poderiam ser usados em Hollywood para melhor envelhecer ou diminuir os atores, ou para melhorar a dublagem de filmes e programas de TV em diferentes idiomas, alinhando os movimentos labiais com a linguagem na tela.
Os executivos de empresas internacionais também podem parecer mais naturais ao se dirigirem a funcionários que falam idiomas diferentes.
Mas os críticos temem que a tecnologia seja mais usada para o mal à medida que se sofistica, principalmente para criar pornografia que coloque o rosto de uma pessoa no corpo de outra.
Nina Schick, autora de “Deep fakes: The Coming Infocalypse”, disse que a pornografia deepfaked mais antiga levava horas de vídeo para ser produzida, então celebridades eram os alvos típicos. Mas, à medida que a tecnologia se torna mais avançada, menos conteúdo será necessário para criar os vídeos, colocando mais mulheres e crianças em risco.
Uma ferramenta do aplicativo de mensagens Telegram que permitia aos usuários criar imagens simuladas de nudez a partir de uma única foto enviada já foi usada centenas de milhares de vezes, de acordo com o BuzzFeed News.
— Isso se tornará um problema que pode afetar a todos, especialmente aqueles que não têm recursos para se proteger — disse Schick.
Henry Ajder, um pesquisador de deep fakes, imaginou um futuro em que nossas próprias vozes possam ser usadas por assistentes como Alexa, da Amazon, permitindo-nos ficar conectados com seus entes queridos mesmo após nossas mortes. Ou, como mostrado em um episódio de “Black Mirror”, aspectos inteiros de nossas personalidades poderiam ser simulados após a morte, treinados por nossas vozes nas redes sociais.
Se você tiver interesse e ainda não estiver inscrito para receber diariamente as postagens de O Novo Normal basta clicar no link:
https://chat.whatsapp.com/BpgpihnE3RELB1U8pSS04s para WhatsApp ou
https://t.me/joinchat/SS-ZohzFUUv10nopMVTs-w para Telegram
Este é um grupo de WhatsApp restrito para postagens diárias de Evandro Milet.
Além dos artigos neste blog, outros artigos de Evandro Milet com outras temáticas, publicados nos fins de semana em A Gazeta, encontram-se em http://evandromilet.com.br/
O novo normal 