A tecnologia pode ser racista?

As tecnologias de reconhecimento facial vêm sendo amplamente utilizadas em diversas frentes do mercado, tanto que a projeção é de que movimentem mais de R$ 50 bilhões em 2022, segundo aponta a Allied Market Research. Sem dúvida podemos enumerar uma série de avanços e benefícios do uso da biometria facial. No entanto, é imprescindível lançarmos o olhar para um problema que esta tecnologia reacende: o racismo algorítmico.
A biometria facial tem trazido à tona o debate do racismo que pode estar por trás do uso deste tipo de inteligência artificial. Recentemente, na cidade de Michigan, a jovem Lamya Robinson foi impedida de entrar em uma pista de patinação porque o sistema de biometria facial usado pelas câmeras do local identificou que ela tinha sido banida após uma briga. Contudo, ela jamais havia estado no lugar.
Situações equivocadas como esta podem ser vistas mundo afora e não é diferente no Brasil. Um caso inusitado aconteceu no Ceará, quando o ator norte-americano Michael B. Jordan, conhecido por sucessos como “Pantera Negra”, foi apontado como um dos suspeitos de participar de uma chacina – a sua foto apareceu inclusive ao lado de outros suspeitos.
Apesar de virar meme na internet, esta falha evidenciou um problema e a urgência de discutirmos e procurarmos soluções para o racismo algorítmico. Esse acontecimento e tantos outros já registrados mostram o quanto esta tecnologia, quando mal empregada, pode trazer prejuízos morais, sociais e até mesmo judiciais, sobretudo no que se refere à população negra e asiática.
É fato que tecnologias de biometria facial costumam ter mais dificuldade em distinguir pessoas negras quando comparadas às de pele branca. No Brasil, isso se torna ainda mais problemático considerando que vivemos em um país miscigenado e, por consequência, com uma imensa diversidade de rostos. Para se ter ideia, a precisão dos sistemas que temos hoje no mercado varia entre 75,8% e 87,5% quando aplicadas em pessoas negras.
O que isso nos mostra? Que precisamos ir além dos benefícios desta tecnologia e refletir sobre as desigualdades que ela pode causar, como em casos de acusações e prisões injustas. As tecnologias de IA como as utilizadas em bancos, aplicativos de fotos, redes sociais e pela segurança pública podem, sim, serem discriminatórias e excludentes, principalmente entre mulheres e homens negros.
O reconhecimento facial tem como intuito identificar pessoas a partir de padrões da face. Para que isso aconteça é utilizada a Inteligência Artificial, alimentada por machine learning. Muitas vezes há um reconhecimento equivocado porque a tecnologia é incapaz de analisar rostos negros. Esse processo de aprendizado da máquina é que precisa ser aprimorado para que não tenhamos mais casos de racismo algorítmico. A Inteligência Artificial envolvida precisa ser ensinada da maneira correta. Ou seja, o ser humano por trás da IA é que vai ensinar a tecnologia a não ser racista. Afinal, na retaguarda dos algoritmos existe alguém que os criou, e não podemos perpetuar a lógica racista que pode estar por trás da tecnologia. O desafio é alcançar algoritmos matemáticos cada vez mais precisos para analisar os diferentes pontos da face de cada indivíduo.
Vou trazer outro exemplo do racismo algorítmico por trás da biometria facial retratado no documentário “Coded Bias”, da Netflix. Aqui uma Inteligência Artificial é investigada pela ótica racista e também machista, camuflada nos algoritmos da biometria facial. Nesse contexto, entram em debate o preconceito e as questões éticas que se desenrolam nas relações humanas e de trabalho.
Para finalizar estas reflexões é importante evidenciar que as Inteligências Artificiais não têm consciência própria, ao contrário do que se enaltece nos filmes de ficção científica. Quem sabe num futuro próximo essa realidade mude, mas no momento presente somos nós seres humanos que estamos por trás das tecnologias e do que elas “pensam”.
Deste modo, a aprendizagem das máquinas e de todo componente tecnológico de IA depende da inteligência humana. Para vencermos o racismo algorítmico devemos ficar atentos à maneira como ensinamos as máquinas. É preciso quebrar esse mecanismo de retroalimentação de uma sociedade desigual também nos meios virtuais, deixando assim de repetir padrões preconceituosos e ultrapassados.
Obrigado pela leitura e até a próxima!

O post A tecnologia pode ser racista? apareceu primeiro em Acontecendo Aqui.