Algorithmic racism and artificial intelligence: discrimination in video surveillance systems
DOI:
https://doi.org/10.5007/1806-5023.2025.e105023Keywords:
Algorithmic Racism, Racism, Artificial IntelligenceAbstract
The increased use of artificial intelligence and algorithms in digital technologies raises important questions about the “neutrality” of these systems, especially when considering how they might reinforce algorithmic racism. The research, based on authors like Noble (2021) and Silva (2022), examines how, far from being impartial, these algorithms end up reproducing and even exacerbating racial discrimination, further harming marginalized groups. With a qualitative approach, the study questions how these technologies, often seen as solutions to social problems, can actually perpetuate or even intensify existing inequalities. The reflection focuses on how racism is reproduced in algorithmic processes and impacts the lives of Black people. The goal is to provoke a critical analysis of the implementation of these technologies and the urgency of a more careful look at their consequences, especially for those already facing marginalization.
References
BBENJAMIN, Ruha. Race After Technology: Abolitionist Tools for the New Jim Code. Cambridge: Polity Press, 2019.
BUENANO, Larissa; TRISKA, Ricardo; BAGGENSTOSS, Grazyelle. Análise Interseccional das opressões digitais sofridas pelas mulheres através do uso e da interação social com os filtros de aparência do Instagram. Projetica, v. 13, n. 3, p. 252-267, 2022.
CARNEIRO, Sueli. Mulheres em movimento. Estudos Avançados. São Paulo, v. 17, no 49, p. 117 - 133, 2003.
COLLINS, Patricia Hill; BILGE, Sirma. Interseccionalidade. São Paulo: Boitempo, 2021.
FACIOLI, Lara Rodrigues; PADILHA, F. Apresentação. Sociologia digital - tópicos e abordagens teórico-metodológicas da pesquisa social no século XXI. Estudos de Sociologia. Araraquara, v. 25, no. 48, p. 21 - 35, 2020.
CRUZ, Bruna Souza. Deputada quer barrar reconhecimento facial em SP por racismo - e com razão. Tilt Uol, 2022. Disponível em: https://www.uol.com.br/tilt. Acesso em: jan. 2022.
GONZALEZ, Lélia. Por um feminismo afro-latino-americano. Editora Schwarcz-Companhia das Letras, 2020.
MUNANGA, Kabengele. Rediscutindo a mestiçagem no Brasil: identidade nacional versus identidade negra. Belo Horizonte: Autêntica Editora, 2019.
NASCIMENTO, Abdias. O genocídio do negro brasileiro: processo de um racismo mascarado. Editora Perspectiva SA, 2016.
NOBLE, Safiya Umoja. Algoritmos da opressão: como o Google fomenta e lucra com o racismo. Santo André: Rua do Sabão, 2021.
PASQUALE, Frank. The Black Box Society: The Secret Algorithms That Control Money and Information. Cambridge: Harvard University Press, 2015
SANTOS, Ynaê Lopes dos. Racismo brasileiro: uma história de formação do país. São Paulo: Todavia, 2022.
SECRETARIA ESPECIAL DE COMUNICAÇÃO. Prefeito assina contrato para o início do Smart Sampa, maior programa de videomonitoramento da cidade com até 40 mil câmeras. Cidade de São Paulo, 2023. Disponível em: https://www.capital.sp.gov.br/noticia/prefeito-assina-contrato-para-o-inicio-do-smart-sampa-maior-programa-de-videomonitoramento-da-cidade-com-ate-40-mil-cameras-2 Acesso em: ago. 2023.
SECRETARIA DO DESENVOLVIMENTO ECONOMICO. Recife ganha o primeiro de 108 relógios eletrônicos digitais. Município do Recife, 2022. Disponível em: https://www2.recife.pe.gov.br/noticias/29/12/2022/recife-ganha-o-primeiro-de-108-relogios-eletronicos-digitais Acesso em: jun. 2024.
SILVA, Tarcízio. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições Sesc São Paulo, 2022.
TRINDADE, Luiz Valério. Discurso de ódio nas redes sociais. São Paulo: Jandaia, 2022.
WEISS, Marcos Cesar; BERNARDES, Roberto C.; CONSONI, Flavia L. Cidades inteligentes: casos e perspectivas para as cidades brasileiras. Revista Tecnológica Facet Americana, Americana, vol. 05, nº 01, p. 1 - 13, 2017.
Downloads
Published
Issue
Section
License
This work is licensed under a Creative Commons Attribution 4.0 International License.
Os autores cedem à Em Tese os direitos exclusivos de primeira publicação, com o trabalho simultaneamente licenciado sob a Licença Creative Commons Attribution 4.0 Internacional (CC BY). Estra licença permite que terceiros remixem, adaptem e criem a partir do trabalho publicado, atribuindo o devido crédito de autoria e publicação inicial neste periódico. Os autores têm autorização para assumir contratos adicionais separadamente, para distribuição não exclusiva da versão do trabalho publicada neste periódico (ex.: publicar em repositório institucional, em site pessoal, publicar uma tradução, ou como capítulo de livro), com reconhecimento de autoria e publicação inicial neste periódico.
Em Tese by http://www.periodicos.ufsc.br/index.php/emtese/index is licensed under a Creative Commons - Atribuição 4.0 Internacional.
