O que realmente sabemos sobre o algoritmo? Podemos dizer que é parecido com uma receita de bolo. Assim como a receita mostra todos os ingredientes necessários e todo passo a passo para chegar a um bolo gostoso, os algoritmos mostram ao computador qual é a lógica e o passo a passo para chegar ao resultado esperado. Mas como o algoritmo está conectado ao racismo e resultar no racismo algorítmico? É exatamente aqui que temos uma problemática, já que na formulação do algoritmo, é desenvolvida por especialistas da área, contudo, seguem o padrão de uma sociedade de classe média de branquitude.
O algoritmo está conectado com uma simples busca na internet e o resultado da pesquisa é direcionada de tal forma que vai beneficiar os grandes veículos da mídia que está imbricada com a elite.
Com a abolição da escravidão em 1888, a negação e a falta de direitos são usadas para manter e legitimar estruturas violentas de exclusão racial e de gênero que afetam as relações nos fatores sociais, econômicos, políticos, tecnológicos e o direito do trabalhador. Quando trazemos essas influências à área da tecnologia, observamos que a base racista é sólida.
A estrutura técnico-algorítmica pode facilitar manifestações de racismo, enquanto, no mesmo momento em que as manifestações são fontes e conteúdos para aspectos da estrutura técnica nos ambientes digitais. Portanto, aqui podemos trazer o conceito do professor doutor e pesquisador Tarcízio Silva, de racismo algorítmico:
“Como o modo pelo qual a atual disposição de tecnologias e imaginários sócio técnicos em um mundo moldado pela supremacia branca fortalece a ordenação racializada de conhecimentos, recursos, espaço e violência em detrimento de grupos não-brancos”.
A disposição de tecnologias e imaginários sócio técnicos de um mundo moldado pela supremacia branca realiza a ordenação algorítmica radicalizada de classificação social, recursos e violência em detrimento de grupos menorizados. Uma camada adicional do racismo estrutural que molda o futuro e os horizontes de relações de poder.
Quando nos deparamos com o recente edital feito pela prefeitura de São Paulo, com um sistema de 20 mil câmeras para o reconhecimento facial por cor e “vadiagem” que enfatiza o uso da tecnologia na continuidade e proliferação do racismo estrutural.
A Smart Sampa projetou o uso de uma tecnologia de reconhecimento facial, que é altamente imprecisa e, dentro de um contexto de segurança pública, é a reprodução do racismo da forma mais nefasta que possa existir para a população negra e os tantos moradores negros que atualmente se encontram em situação de rua na cidade de São Paulo.
Na pesquisa do POLOS/UFMG, aponta que 68% das pessoas em situação de rua são negras, 87% são homens entre 18 a 59 anos, com ensino fundamental incompleto.
Enquanto tal tecnologia está sendo globalmente criticada e discutida, o edital do Smart Sampa reafirma uma prática que segue um viés racista, altamente discriminatório e anticonstitucional em seus trechos: “uma pessoa suspeita, monitoramento todos os movimentos e atividades”. De colocar câmeras em parques e praças, que normalmente possuem árvores e áreas verdes que podem ter uma vigilância mais precisa.
E continua: “A pesquisa deve ser feita por diferentes tipos de características como cor, face, roupas, forma do corpo, aspectos físicos, etc”.
Outro ponto que o edital traz sobre o monitoramento é ser objetivo em apontar as situações de “vadiagem” e “tempo de permanência”, que é considerado um comportamento suspeito.
A vadiagem está prevista na Lei de Contravenções Penais, que prevê prisão de 15 dias a três meses àqueles que fossem “vadios” ou “habitualmente à ociosidade, sendo válido para trabalho, sem ter renda que assegure meios bastantes de subsistência, ou prover a própria subsistência mediante ocupação ilícita”.
O projeto da Smart Sampa junto ao um projeto de lei que tentam trazer à tona uma anomalia para justificar o controle através de garantir a “segurança” da população paulistana, de dar continuidade ao genocídio da população negra, de tal forma que o racismo algorítmico vai anular o direito de ir e vir aos milhares de brasileiros e brasileiros vitimados pelo aumento do desemprego pelo decorrer da pandemia, pela fome e pelo descaso do estado com as mais de 30 mil pessoas em situação de rua. Uma relação entre o fenômeno da população de rua e séculos de escravidão, findado no racismo estrutural.
O projeto Smart Sampa foi altamente criticado pelo Instituto Brasileiro de Defesa do Consumidor (Idec) e mais 50 organizações socais, acionaram o Ministério Público do Estado, no qual, foi aceito pedido de suspensão, uma vez, que tinha inúmeras violações aos direitos dos cidadãos paulistanos - as quais devem ser ponderadas no enfrentamento ao racismo, à vigilância racializada, à seletividade do sistema penal e ao encarceramento em massa no Brasil", mas que seguirão "entendendo pela necessidade de problematizar o projeto, contestando sua falsa narrativa de entregar melhor segurança à cidade".
Para que o racismo algoritmo não se aprofunde cada vez mais dentro do mundo da tecnologia, é fundamental que o Estado promova políticas públicas em diversas frentes, de maneira densa e a sensibilização dos usuários e seus direitos.
Indicação
Deixo como indicação o documentário, Coded Boas, da cineasta Shalini Kantayya, da Netflix, no qual, vai mostrar como o uso de câmeras com inteligência artificial podem fazer o reconhecimento e ser usado para alimentação de um banco de dados ou até mesmo em algum viés de investigação sobre estrutura racista e também machista, algo camuflado pelos algoritmos de reconhecimento facial. A Joy Buolamwini mostra o seu trabalho e como tem um forte impacto nos desdobramentos da população e relação com a tecnológica.
