Racismo algorítmico e inteligência artificial: a discriminação nos sistemas de videomonitoramento
DOI:
https://doi.org/10.5007/1806-5023.2025.e105023Palavras-chave:
Racismo algoritmico, Racismo, Inteligência artificialResumo
Com o aumento do uso da inteligência artificial e dos algoritmos em tecnologias digitais, surgem questões importantes sobre a “neutralidade” desses sistemas, especialmente ao pensarmos em como eles podem reforçar o racismo algorítmico. A pesquisa, baseada em autores como Noble (2021) e Silva (2022), examina como, longe de serem imparciais, esses algoritmos acabam por reproduzir e até agravar discriminações raciais, prejudicando ainda mais grupos marginalizados. Com uma abordagem qualitativa, o estudo questiona como essas tecnologias, muitas vezes vistas como soluções para problemas sociais, podem, na verdade, perpetuar ou até intensificar desigualdades existentes. Reflexão centrada em como o racismo se reproduz nos processos algorítmicos e afeta a vida das pessoas negras. O objetivo é provocar uma análise crítica sobre a implementação dessas tecnologias e a urgência de um olhar mais atento às suas consequências, especialmente para aqueles que já enfrentam a marginalização.
Referências
BBENJAMIN, Ruha. Race After Technology: Abolitionist Tools for the New Jim Code. Cambridge: Polity Press, 2019.
BUENANO, Larissa; TRISKA, Ricardo; BAGGENSTOSS, Grazyelle. Análise Interseccional das opressões digitais sofridas pelas mulheres através do uso e da interação social com os filtros de aparência do Instagram. Projetica, v. 13, n. 3, p. 252-267, 2022.
CARNEIRO, Sueli. Mulheres em movimento. Estudos Avançados. São Paulo, v. 17, no 49, p. 117 - 133, 2003.
COLLINS, Patricia Hill; BILGE, Sirma. Interseccionalidade. São Paulo: Boitempo, 2021.
FACIOLI, Lara Rodrigues; PADILHA, F. Apresentação. Sociologia digital - tópicos e abordagens teórico-metodológicas da pesquisa social no século XXI. Estudos de Sociologia. Araraquara, v. 25, no. 48, p. 21 - 35, 2020.
CRUZ, Bruna Souza. Deputada quer barrar reconhecimento facial em SP por racismo - e com razão. Tilt Uol, 2022. Disponível em: https://www.uol.com.br/tilt. Acesso em: jan. 2022.
GONZALEZ, Lélia. Por um feminismo afro-latino-americano. Editora Schwarcz-Companhia das Letras, 2020.
MUNANGA, Kabengele. Rediscutindo a mestiçagem no Brasil: identidade nacional versus identidade negra. Belo Horizonte: Autêntica Editora, 2019.
NASCIMENTO, Abdias. O genocídio do negro brasileiro: processo de um racismo mascarado. Editora Perspectiva SA, 2016.
NOBLE, Safiya Umoja. Algoritmos da opressão: como o Google fomenta e lucra com o racismo. Santo André: Rua do Sabão, 2021.
PASQUALE, Frank. The Black Box Society: The Secret Algorithms That Control Money and Information. Cambridge: Harvard University Press, 2015
SANTOS, Ynaê Lopes dos. Racismo brasileiro: uma história de formação do país. São Paulo: Todavia, 2022.
SECRETARIA ESPECIAL DE COMUNICAÇÃO. Prefeito assina contrato para o início do Smart Sampa, maior programa de videomonitoramento da cidade com até 40 mil câmeras. Cidade de São Paulo, 2023. Disponível em: https://www.capital.sp.gov.br/noticia/prefeito-assina-contrato-para-o-inicio-do-smart-sampa-maior-programa-de-videomonitoramento-da-cidade-com-ate-40-mil-cameras-2 Acesso em: ago. 2023.
SECRETARIA DO DESENVOLVIMENTO ECONOMICO. Recife ganha o primeiro de 108 relógios eletrônicos digitais. Município do Recife, 2022. Disponível em: https://www2.recife.pe.gov.br/noticias/29/12/2022/recife-ganha-o-primeiro-de-108-relogios-eletronicos-digitais Acesso em: jun. 2024.
SILVA, Tarcízio. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc São Paulo, 2022.
TRINDADE, Luiz Valério. Discurso de ódio nas redes sociais. São Paulo: Jandaia, 2022.
WEISS, Marcos Cesar; BERNARDES, Roberto C.; CONSONI, Flavia L. Cidades inteligentes: casos e perspectivas para as cidades brasileiras. Revista Tecnológica Facet Americana, Americana, vol. 05, nº 01, p. 1 - 13, 2017.
Downloads
Publicado
Edição
Seção
Licença
Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.
Os autores cedem à Em Tese os direitos exclusivos de primeira publicação, com o trabalho simultaneamente licenciado sob a Licença Creative Commons Attribution 4.0 Internacional (CC BY). Estra licença permite que terceiros remixem, adaptem e criem a partir do trabalho publicado, atribuindo o devido crédito de autoria e publicação inicial neste periódico. Os autores têm autorização para assumir contratos adicionais separadamente, para distribuição não exclusiva da versão do trabalho publicada neste periódico (ex.: publicar em repositório institucional, em site pessoal, publicar uma tradução, ou como capítulo de livro), com reconhecimento de autoria e publicação inicial neste periódico.
Em Tese by http://www.periodicos.ufsc.br/index.php/emtese/index is licensed under a Creative Commons - Atribuição 4.0 Internacional.
