Algoritmos também têm preconceitos


por Evandro Milet

Se você consultar as imagens no Google sobre pele bonita, pessoas bonitas ou felizes ou inteligentes ou competentes, aparecerão, na grande maioria, pessoas brancas. Se a consulta for “beleza”, veremos pessoas brancas, ocidentais e ricas. Se a palavra for “casais” aparecerão brancos, ricos e héteros. Se a consulta for “criminosos” ou “bandidos”, não veremos colarinhos brancos. Para “violência doméstica”, surpreendentemente, as imagens são praticamente só mulheres brancas.

Esse exemplos mostram como o viés algorítmico está entranhado nas aplicações de inteligência artificial(IA). O machine learning é um esquema bruto de aprendizagem. Para ele entender o que é um cachorro ou um gato, milhares de imagens desses animais devem ser alimentados por pessoas no sistema para que ele conheça todos as variedades de tipos. 

Da mesma forma, no primeiro parágrafo, as plataformas usam pessoas para identificar os tipos nas consultas apresentados. E essas pessoas, de carne e osso, têm uma visão moldada pela sua vivência, naturalmente com todas as deturpações causadas pelos preconceitos e diversidade com que lidaram ao longo da vida.

Recentemente, essa deturpação se refletiu nos algoritmos de reconhecimento facial que faziam identificações erradas mais com pessoas de pele negra ou latinos do que com brancos nos Estados Unidos. Certamente porque os algoritmos foram ensinados com estereótipos equivocados. O mesmo problema acontece com sistemas de IA que analisam currículos ou formulários de financiamento em bancos.

De forma crescente, os algoritmos nos sistemas de e-commerce, nos mecanismos de busca, nas redes sociais, nos aplicativos de relacionamento das empresas e nas plataformas em geral usam sistemas de IA para interagir com o público, aprendendo tudo sobre as pessoas e tomando decisões autônomas com base nas referências usadas nos programas de computador que criaram esses algoritmos e nos seus dados. E esses programas foram feitos por desenvolvedores humanos e que têm sua própria percepção de mundo. 

O momento no mundo onde se discute como nunca racismo, diversidade, pautas identitárias, preconceitos, igualdade de oportunidades e desigualdade de renda exige que o histórico incrustado na cabeça das pessoas não seja transportado para os algoritmos e que a IA seja de fato inteligente e justa.

Se você tiver interesse e ainda não estiver inscrito para receber diariamente as postagens de O Novo Normal basta clicar no link: https://chat.whatsapp.com/ClAdy1GuMchCtm12T5xPcp

Este é um grupo de WhatsApp restrito para postagens diárias de Evandro Milet. 

Além dos artigos neste blog, outros artigos de Evandro Milet com outras temáticas, publicados nos fins de semana em A Gazeta, encontram-se em http://evandromilet.com.br/

Deixe um comentário

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair /  Alterar )

Foto do Google

Você está comentando utilizando sua conta Google. Sair /  Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair /  Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair /  Alterar )

Conectando a %s

%d blogueiros gostam disto: