Intersectionality and algorithmic discrimination

Autores/as

DOI:

https://doi.org/10.5007/2177-7055.2026.e115125

Palabras clave:

discrimination, algorithm, intersectionality, differentiation, fundamental rights

Resumen

El presente artículo analiza cómo los procesos de discriminación y exclusión social basados ​​en la identidad son reconfigurados por la diferenciación social algorítmica, proponiendo la articulación entre la teoría de los sistemas sociales y la interseccionalidad como parámetro crítico y normativo para las respuestas jurídicas. En este sentido, el creciente uso de algoritmos reproduce y amplifica desigualdades históricas, resultando insuficientes las categorías del Derecho Antidiscriminatorio —de carácter unidimensional— para captar la complejidad de la exclusión digital que afecta a múltiples marcadores sociales interconectados. Se empleó un enfoque cualitativo de reconstrucción teórico-conceptual, integrando la teoría de los sistemas sociales con la perspectiva analítica de la interseccionalidad. Se evidencia que la diferenciación algorítmica recombina formas clásicas de diferenciación social mediante la elaboración de perfiles psicográficos, la clasificación jerárquica (*ranking*) y el control predictivo del flujo comunicativo. La discriminación algorítmica posee una naturaleza policontextual y sistémica, operando como una reproducción automatizada de asimetrías históricas y no como un mero fallo técnico. Se concluye que afrontar esta exclusión exige superar visiones simplistas de la igualdad, requiriendo instrumentos multidimensionales tales como la transparencia explicable, la auditabilidad independiente, la supervisión humana significativa, el perfeccionamiento probatorio y la participación democrática en la gobernanza tecnológica.

Biografía del autor/a

Mateus de Oliveira Fornasier, UNIJUÍ

Professor and Researcher in the Stricto Sensu Graduate Program (Master's and Doctorate) in Law at the Universidade Regional do Noroeste do Estado do Rio Grande do Sul (UNIJUI). PhD in Law from the Universidade do Vale do Rio dos Sinos (UNISINOS), with a postdoctoral fellowship in Law and Theory from the University of Westminster (United Kingdom).

Citas

ALBA, Joel Tyler. Insights into Algorithmic Decision-Making Systems via a Decolonial-Intersectional Lens: A Cross-Analysis Case Study. Digital Society, v. 3, n. 58, 2024. DOI: https://doi.org/10.1007/s44206-024-00144-9.

ALESSI, Nicolò Paolo. Intersectionality as a legal concept? Applications and implications of the notion (within and) beyond non-discrimination law. BioLaw Journal - Rivista di biodiritto, v. 1, 2025. DOI: https://doi.org/10.15168/2284-4503-3503

ANDERSON, Gavin W. Societal Constitutionalism, Social Movements, and Constitutionalism from Below. Indiana Journal of Global Legal Studies, v. 20, n. 2, p. 881-906, 2013. DOI: https://doi.org/10.2979/indjglolegstu.20.2.881

BACHUR, João Paulo. A Performatividade da Exclusão e as Lutas por Inclusão: Questões Distributivas a Partir da Teoria de Sistemas Sociais. Sociologia & Antropologia, v. 10, n. 1, jan./abr. 2020. Disponível em: https://doi.org/10.1590/2238-38752019v1014

BAECKER, Dirk. Distinguishing next society. Current Sociology, v. 73, n. 4, p. 493–508, 2025.

BRASIL. Decreto n. 10.932, de 10 de janeiro de 2022. Promulga a Convenção Interamericana contra o Racismo, a Discriminação Racial e Formas Correlatas de Intolerância.

BRASIL. Conselho Nacional de Justiça. Resolução n. 492, de 17 de março de 2023. Institui o Protocolo para Julgamento com Perspectiva de Gênero.

BUOLAMWINI, Joy; GEBRU, Timnit. Gender shades: intersectional accuracy disparities in commercial gender classification In: CONFERENCE ON FAIRNESS, ACCOUNTABILITY AND TRANSPARENCY, 1., 2018, New York. Proceedings of Machine Learning Research, New York: PMLR, v. 81, p. 77-91, 2018. Disponível em: https://proceedings.mlr.press/v81/. Acesso em 09 ago 2026.

COLLINS, Patricia Hill; BILGE, Sirma. Interseccionalidade. Trad. Rane Souza. 1. ed. São Paulo: Boitempo, 2020.

CRENSHAW, Kimberlé. Demarginalizing the intersection of race and sex: a black feminist critique of antidiscrimination doctrine, feminist theory and antiracist politics. University of Chicago Legal Forum, Chicago, v. 1989, n. 1, p. 139–167, 1989. Disponível em: https://chicagounbound.uchicago.edu/uclf/vol1989/iss1/8. Acesso em: 19 fev. 2025.

CRENSHAW, Kimberlé Williams. Mapping the Margins: Intersectionality, Identity Politics, and Violence Against Women of Color. In: CRENSHAW, Kimberlé; GOTANDA, Neil; PELLER, Gary; THOMAS, Kendall (Ed.). Critical Race Theory: The Key Writings That Formed the Movement. New York: The New Press, 1995. p. 357–383.

ESPOSITO, Elena. Artificial Communication: How Algorithms Produce Social Intelligence. Cambridge, MA: MIT Press, 2022.

ESTADOS UNIDOS. District Court, E. D. Missouri, Eastern Division. DeGraffenreid v. General Motors Assembly Div., St. Louis. 413 F. Supp. 142. 1976. Disponível em: https://law.justia.com/cases/federal/district-courts/FSupp/413/142/1660699/. Acesso em: 02 ago 2026.

ESTADOS UNIDOS. [Civil Rights Act of 1964]. Pub. L. 88-352, 78 Stat. 241, enacted July 2, 1964. Disponível em: https://www.archives.gov/milestone-documents/civil-rights-act. Acesso em: 02 ago 2026.

FERREIRA, Luisa Teresa Hedler. Algorithms, Efficiency and the Two Faces of Courts: A Case Study of the Brazilian Superior Court of Justice (STJ). Soziale Systeme, v. 26, n. 1-2, p. 370-395, 2022. DOI: https://doi.org/10.1515/sosys-2021-0014

FROSIO, Giancarlo; GEIGER, Christope. Taking fundamental rights seriously in the Digital Services Act's platform liability regime. *European Law Journal*, v. 29, n. 1-2, p. 31-77, 2023. DOI:https://doi.org/10.1111/eulj.12475

GERARDS, J. H.; XENIDIS, R. Algorithmic Discrimination in Europe: Challenges and Opportunities for Gender Equality and Non-Discrimination Law. LuxemburgO: Publications Office of the European Union, 2021.

GOMES, Amanda Maria de Sobral. Sexismo e racismo algorítmico: um olhar interseccional sobre o neomaterialismo através do Midjourney. Revista da UFMG, Belo Horizonte, MG, v. 30, 2023. DOI: 10.35699/2965-6931.2023.47587.

JOSEPH, Sania; ANANTHARAMAN, Vijay. Algorithmic bias and human rights: exploring the intersection and implications. International Journal of Law Management & Humanities, v. 7, n. 1, 2024. Disponível em: https://ijlmh.com/wp-content/uploads/Algorithmic-Bias-and-Human-Rights.pdf. Acesso em 02 ago 2026.

JUNQUEIRA, Antonio Helio; BOTELHO-FRANCISCO, Rodrigo. Raça: dimensão interseccional das vulnerabilidades digitais. Contemporânea, [S. l.], v. 19, n. 3, p. 63-78, 2022. DOI: 10.9771/contemporanea.v19i3.45899.

LEWIS, J. David; WEIGERT, Andrew. Trust as a social reality. Social Forces, Oxford, v. 63, n. 4, p. 967-985, 1985.

LUHMANN, Niklas. Ecological Communication. Tradução de John Bednarz Jr. Chicago: University of Chicago Press, 1989.

LUHMANN, Niklas. Essays on Self-Reference. New York: Columbia University Press, 1990.

LUHMANN, Niklas. La sociedad de la sociedad. México: Herder/Universidad Iberoamericana, 2006.

LUHMANN, Niklas. Love as Passion: The Codification of Intimacy. Trad. Jeremy Gaines e Doris L. Jones. Cambridge, Massachusetts: Harvard University Press, 1986.

LUHMANN, Niklas. Organización y Decisión. México: Universidad Iberoamericana, 2000.

LUHMANN, Niklas. Sistemas Sociales: lineamientos para una teoría general. Barcelona: Anthropos; México: Universidad Iberoamericana, 1998.

LUHMANN, Niklas. Trust and power. Chichester: Wiley, 1979.

MATURBONGS, Yoseph Hendrik. Artificial Intelligence and the Fragile Fortress: Addressing the Security and Data Privacy Gaps in Indonesia’s Financial Sector Resilience. The International Journal of Financial Systems, v. 3, n. 2, p. 129–158, 2025. DOI: https://doi.org/10.61459/ijfs.v3i2.89

MCCALL, Leslie. Complex Inequality: gender, class, and race in the new economy. New York; London: Routledge, 2001.

MONTEIRO, Pedro Diogo Carvalho. Reconhecendo faces, enclausurando corpos: terror racial, vigilância racializadora e o uso policial do reconhecimento facial na Bahia. 2022. Dissertação (Mestrado em Direito) – Faculdade de Direito, Universidade Federal da Bahia, Salvador, 2022.

MOREIRA, Adilson José; ALMEIDA, Philippe Oliveira de; CORBO, Wallace. Manual de educação jurídica antirracista: direito, justiça e transformação social. São Paulo: Editora Contracorrente, 2022.

MOREIRA, Adilson José. O que é discriminação? 2 ed. Belo Horizonte: Letramento; Justificando, 2017.

NUNES, Pablo; LIMA, Thallita; CRUZ, Thais. O sertão vai virar mar: expansão do reconhecimento facial na Bahia [livro eletrônico]. Rio de Janeiro: CESeC, 2023. Disponível em: https://cesecseguranca.com.br/livro/o-sertao-vai-virar-mar-expansao-do-reconhecimento-facial-na-bahia/. Acesso em: 9 ago. 2026.

RAMOS, Wanessa Assunção; TEIDER, Lucas Hinckel. As mulheres negras e o enviesamento da tecnologia. Cadernos de Gênero e Tecnologia, Curitiba, v. 15, n. 45, p. 252-266, jan./jul. 2022.

ROTH, Stephan. Digital transformation of management and organization theories: a research programme. Systems Research and Behavioral Science, v. 40, p. 451-459, 2023.

SALES, Augusto; CARVALHO, Juliana. Pardo is the new black: reframing racial identity in Brazil and beyond — a systems perspective. Management Review, v. 36, n. 2, 2025. DOI: https://doi.org/10.31083/MRev39591

SANTOS, Rodrigo Coimbra; GRAMINHO, Vivian Maria Caxambu. Discriminação algorítmica nas relações de trabalho e princípios da Lei Geral De Proteção De Dados. Seqüência, Florianópolis, v. 45, n. 96, p. 1–31, 2024. DOI: https://doi.org/10.5007/2177-7055.2024.e96294

SCHWARTZ, Germano. Algonormative expectations. Oñati Socio-Legal Series, v. 14, n. 5, p. 1337-1358, 2024. DOI:https://doi.org/10.35295/osls.iisl.1864

SIKIMIC, Vlasta et al. Do Political Attitudes Matter for Epistemic Decisions of Scientists?. Review of Philosophy and Psychology, v. 12, p. 775-801, 2021. DOI: https://doi.org/10.1007/s13164-020-00504-7.

SOUZA, L. C., SILVA, R. P., & LACERDA, C. L. Discriminação algorítmica racial e direitos humanos no uso de inteligência artificial: impactos do PL 2.338/2023. Libertas, v. 14, n. 1, 2024. Recuperado de https://periodicos.famig.edu.br/index.php/libertas/article/view/489

TAEKKE, Jesper. Algorithmic Differentiation of Society – a Luhmann Perspective on the Societal Impact of Digital Media. Journal of Sociocybernetics, v. 18, n. 1, p. 2-23, 2022. https://doi.org/10.26754/ojs_jos/jos.202216225

TAEKKE, Jesper. Digital Media as Technology and Interactivity: From Explicit Social Selection to Implicit Algorithmic Governance. Media, Communication & Society, 2025. Disponível em: https://pure.au.dk/portal/en/publications/digital-media-as-technology-and-interactivity-from-explicit-socia/. Acesso em 30 dez 2025.

TEUBNER, Gunther. Fragmentos constitucionais: constitucionalismo social na globalização. Coordenação de Ricardo Campos. 2. ed. São Paulo: Saraiva Educação, 2020.

TOSINI, Domenico. Social immunology: A theory of the immune processes of social systems. Systems Research and Behavioral Science, v. 38, n. 3, p. 336-349, 2021. DOI: https://doi.org/10.1002/sres.2664

ULNICANE, Inga. Intersectionality in Artificial Intelligence: Framing Concerns and Recommendations for Action. Social Inclusion, v. 12, n. 2, p. 1-20, 2024. DOI: https://doi.org/10.17645/si.v12.7543

XU, Gezheng; CHEN, Qi; LING, Charles X.; WANG, Boyu; SHUI, Changjian. Intersectional unfairness discovery. In: Proceedings of the 41st International Conference on Machine Learning (ICML 2024). Vienna: PMLR, 2024. p. 54888-54917. Disponível em: https://proceedings.mlr.press/v235/xu24d.html. Acesso em 02 ago 2026.

Descargas

Publicado

2026-11-09

Cómo citar

FORNASIER, Mateus de Oliveira. Intersectionality and algorithmic discrimination. Revista Seqüência: Estudos Jurídicos e Políticos, Florianópolis, v. 47, n. 102, p. 1–35, 2026. DOI: 10.5007/2177-7055.2026.e115125. Disponível em: https://periodicos.ufsc.br/index.php/sequencia/article/view/115125. Acesso em: 11 nov. 2026.