Coded Bias

Sinopse: Em “Coded Bias”, quando a pesquisadora do MIT Media Lab, Joy Buolamwini, descobre que a maioria dos softwares de reconhecimento facial não identifica com precisão os rostos de pele mais escura e os rostos das mulheres, ela inicia uma investigação do viés generalizado dos algoritmos.
Direção: Shalini Kantayya
Título Original: Coded Bias (2020)
Gênero: Documentário
Duração: 1h 27min
País: EUA | China | Reino Unido

Tecnologia Social

A chegada de “Coded Bias” ao catálogo da Netflix nesta semana gerou para muitos a expectativa de encontrar um documentário bem mais crítico do que “O Dilema das Redes“, um dos destaques de 2020 que dialoga na temática com o filme dirigido por Shalini Kantayya. Afinal, não há porque ser tão chapa-branca quando o objeto foge do seu foco empresarial – como poderíamos notar com clareza em relação ao serviço de streaming no outro produto. Contudo, se há algo que a pesquisadora Joy Buolamwini desmonta logo de plano é que não há mais elementos dentro do mundo tecnológico que não se conectam – a dali ela nos prova que o sistema mudou para permanecer igual. Também é panorâmico, mas atinge um grau de provocação mais abrangente do que seu antecessor.

Mais uma vez um longa-metragem que prima pela abordagem simplificada, com uma didática capaz de envolver os espectadores mais desavisados e que são levados a assistir ao novo filme da Netflix sem muita pretensão. Movidos, quase sempre, pelos algoritmos, claro. Antes de reforçar o que parece certo – que essa técnica de monitoramento comportamental vem nos moldando ao invés de ampliar nossas perspectivas – a Ph.D e integrante do MIT Media Lab inicia sua fala mostrando como a Inteligência Artificial se alimenta constantemente de conhecimento – e não apenas sobre nós. A grande capacidade das máquinas é ter a certeza de que é ignorante em determinado ponto. Algo diferente da Humanidade, que nunca conseguiu aprender com seus erros e falhas. Junta-se a isso o poder quase imediato de absorver informações e suprir essa carência e estamos diante de aliados (ou concorrentes ou inimigos) quase imbatíveis.

A montagem da cineasta e ativista (ao lado de outros dois profissionais), que movimentou o Festival de Sundance do ano passado, usa brevemente nossas referências audiovisuais. A entrevistada nos lembra que parte do desenvolvimento tecnológico usa por base a criatividade e a imaginação da produção artística que, através dos tempos, antecipou dinâmicas e demandas da sociedade e imaginou o futuro em grandes sucessos ficcionais. Insistir nessa levada seria exagero e o filme sabe usar essa ferramenta ilustrativa quando necessário. Em uma das lembranças, “Minority Report – A Nova Lei” (2002) (que nesse momento está no catálogo da Netflix) nos faz lembrar como o gênio Philip K. Dick já antecipava os efeitos de um sistema que antecipa nossos comportamentos – transportado para as telas pelo olhar que também une, no ramo do entretenimento popular, tecnologia e humanismo do cineasta Steven Spielberg.

Começa, então, a ganhar um tom mais urgente quando volta ao passado real – com a cena inesquecível (para os maiores de 30) do russo Garry Kasparov perdendo a revanche em 1997 para Deep Blue, computador desenvolvido pela IBM que ele havia derrotado um ano antes. Ali as máquinas começaram a virar também o seu jogo e, vinte e cinco anos depois, parece muito distante a época em que se duvidava elas poderiam nos derrotar em qualquer atividade se ela quisesse.

Lembre o caso pelas palavras de Kasparov:

Porém, a tecnologia dos algoritmos, que amplia seu conhecimento sobre tudo em escala maior e sobre a pessoa com a qual se relaciona em escala menor, não mudou em nada a sociedade. Pelo contrário, em “Coded Bias” Buolamwini nos mostra que ela, na verdade, reproduz as mesmas leituras históricas – e, por consequência, os mesmos preconceitos. Tudo começa quando a pesquiadora, uma mulher negra, não é identificada pelo sistema de reconhecimento facial como um rosto, o que acontece quando ela coloca uma máscara branca de teatro clássico. Como qualquer sistema pensado, criado e executado por homens brancos, a lógica eurocêntrica se impõe.

O maior problema é que, alcançando todos os braços de uma comunidade, as táticas modernas podem nos levar a uma política higienista como nunca antes vista. Kantayya é até menos sensacionalista nesta conclusão, prefere um caminho de esclarecimento e de testemunhos que tragam diferentes exemplos, mas basta imaginar certos desdobramentos para refletir o tamanho do buraco em que estamos nos metendo. Na ponta final, a consequência do sistema de reconhecimento facial em específico encontra certa reverberação – mas o filme, acertadamente, enquadro essa ferramenta apenas como uma parte do debate.

Se há algo em comum a produções como “O Dilema das Redes” ou do alemão “Olá, IA” (2019), este que usa representações ficcionais para se aproximar ainda mais do espectador-médio, é que nossa perda de autonomia parece um caminho sem volta. Desafiar o algoritmo além de cansativo é inútil. Porém, o que foge de nossa atuação como indivíduo é o que nos leva ao caos social. O documentário, então, traz alguns dos casos, envolvendo desde o sistema educacional ao prisional norte-americano. Vagas de emprego são cada vez menos ocupadas por mulheres porque os algoritmos de triagem de currículos “entendem” que homens têm mais chance de serem contratados. Afinal, desde sempre eles ocuparam cargos de chefia e permaneceram mais tempo nas empresas. Na saúde, leitos em hospitais não são ocupados por pessoas de renda menor porque os algoritmos de triagem “entendem” que a chance de recuperação deles também é menor. Afinal, a pobreza os impede de ter uma boa alimentação e seus trabalhos e sufocamento do sistema de transportes dos grandes centros urbanos o mantém em um sedentarismo preocupante.

O mais interessante do longa-metragem é que, uma vez absorvida a lógica que formata o problema, podemos discuti-los e chegar a outros não citados assim que a sessão termina. A polarização entre EUA e China em relação ao domínio da tecnologia, limitada a algumas empresas, é mencionado também sem o viés sensacionalista dos tempos em que as corridas armamentistas e espaciais nos levaram a guerras frias e quentes no século XX. De forma propositiva, o filme provoca no sentido de questionar a ausência de regulamentação. Hoje esses conglomerados soam mais poderosos que os Estados – e os governos parecem não se esforçarem nada para promover igualdade, justiça social ou o mínimo de ética nos procedimentos. O que podemos fazer contra os algoritmos? Individualmente, praticar a boa e velha desobediência enquanto esse padrão comportamental não é por ele identificado.

Mas, ao contrário de outras obras do gênero, “Coded Bias” não precisa te dizer que o problema o qual apresenta parece não ter solução. Pelo menos enquanto a sociedade parece tão bem adaptada e anestesiada pelas maravilhas da modernidade.

Veja o Trailer de “Coded Bias”:

 

Clique aqui e leia críticas de outros filmes da Netflix.