No livro “Algoritmos da Opressão”, autora estadunidense Safiya Umoja Noble demonstra a lógica capitalista por trás dos resultados de mecanismos de buscas
Fazer uma busca na internet se tornou tão comum que não pensamos no que existe por trás do mecanismo que nos oferece os resultados. Não apenas no funcionamento do mecanismo em si, mas qual o critério que faz um site aparecer na primeira página? Quais identidades étnicas são favorecidas? E quais não? E qual é o impacto disso no nosso dia a dia? Bem, até abrir Algoritmos da Opressão: como o Google fomenta e lucra com o racismo, da estadunidense Safiya Umoja Noble, confesso que nunca tinha pensado nesses termos. Afinal, são só buscas como nas bibliotecas não?
Bem, não exatamente, afinal bibliotecas não vendem posições de ranqueamento de pesquisa, vendem? Um bibliotecário não vai te entregar um livro porque a editora pagou mais para que fosse indicado primeiro, para dar um exemplo bem simples. No livro, Noble deixa bem claro que o Google e outros mecanismos de busca são empresas que vendem espaços publicitários para quem pagar mais e é isso que lhes dá lucro. Logo, há uma lógica capitalista por trás dos resultados quando você digita, por exemplo, “meninas negras”, que é o que aconteceu com a autora quando buscou informações sobre jogos para crianças em sua família.
Ao contrário do que esperava, os primeiros resultados que apareceram foram sites de conteúdo pornográfico nos quais corpos de pessoas negras são constantemente hipersexualizados. Ou seja, não foi o conteúdo mais adequado à pesquisa, mas àquele pertencente ao site que pagou mais por aquela posição ou que melhor usou ferramentas de otimização para estar na primeira página.
O grande argumento do livro é os resultados dos mecanismos de busca estão entregando conteúdos que formam imagens racistas, sexistas, LGBTfóbicas de grupos historicamente marginalizados. E isto vai contra ao que se vende em relação às decisões dos algoritmos, tidas como puramente matemáticas e frias. “Aprendizagem profunda de máquinas, que é o uso de algoritmos para replicar o pensamento humano, tem como base valores específicos de tipos específicos de pessoas — as mais poderosas instituições da sociedade e aqueles a que as controlam”, pontua Noble em sua obra. Afinal, alguém programou aquele algoritmo, há um interesse específico ligado ao capital.
“A própria noção de que as tecnologias são neutras deve ser diretamente contestada como sendo enganosa”. E é preciso que não apenas tenhamos isso muito claro, mas que questionemos como é vendida a identidade de pessoas não brancas, mulheres, pessoas trans e não binárias, migrantes e imigrantes e como é essa identidade que chega aos usuários em todo o mundo.
Os algoritmos estão entre nós. A partir deles recebemos ou não anúncios, postagens na internet, notícias. Vejo criadores de conteúdo negros a todo momento perguntando a seus seguidores se eles vêm recebendo seu conteúdo. Há algum tempo, houve a comoção acerca de quais fotos apareciam mais de pessoas negra ou brancas. Mas, como tudo na rede, foi apenas um momento, logo esquecido.
O debate trazido por Algoritmos da Opressão é um necessário dentro dos movimentos sociais. Cada vez mais, algoritmos decidem nossas vidas e, em alguns lugares do mundo, já são usados como ferramenta no policiamento de cidades. E o que foi percebido era que os suspeitos, em sua maioria, eram negros que, geralmente, não tinha cometido crime nenhum. Como você já acompanha aqui na Ponte para fazer reconhecimentos ilegais e acusar inocentes, o Brasil tem um talento especial. Pode imaginar com algoritmos automatizando isso como ficará nosso sistema carcerário?
