Discriminação algorítmica nas relações de trabalho e princípios da Lei Geral De Proteção De Dados

Rodrigo Coimbra Santos; Vivian Maria Caxambu Graminho

doi:10.5007/2177-7055.2024.e96294

Authors

Rodrigo Coimbra Santos Universidade Federal do Rio Grande do Sul https://orcid.org/0000-0002-6732-3643
Vivian Maria Caxambu Graminho Universidade Federal do Rio Grande do Sul https://orcid.org/0000-0001-6847-1747

DOI:

https://doi.org/10.5007/2177-7055.2024.e96294

Keywords:

Work relationships, Algorithmic discrimination, General Law for the Protection of Personal Data

Abstract

The article deals with the topic of algorithmic discrimination, in labor relations and the principled limits embodied in the General Personal Data Protection Law (LGPD). Companies delegate their decisions to automated systems, deciding who will be hired and fired, monitoring worker activity, and managing practically all business activity. Thus, the research problem is: does the LGPD offer principled limits to prevent and/or reduce the possibility of discrimination against workers through algorithms, especially artificial intelligence? To this end, the text is divided into three chapters. The first analyzes how technologies have influenced labor relations. In the second, the reasons why algorithms can generate discrimination against workers are investigated. In the third, the LGPD is examined, verifying instruments that could contribute to unraveling the research problem. The deductive approach method, the qualitative research approach and the bibliographic research technique are used. It is concluded that the LGPD offers principled limits to prevent and/or reduce the possibility of algorithmic discrimination, highlighting the principles of non-discrimination, transparency, responsability and accountability, as well as the right to explanation and the need to establish audit systems, ensuring greater equality in automated decisions.

Author Biographies

Rodrigo Coimbra Santos, Universidade Federal do Rio Grande do Sul

Professor Pemanente no Programa de Pós-Graduação em Direito da Universidade Federal do Rio Grande do Sul (UFRGS), no qual desenvolve pesquisa, ministra disciplina e orienta nas linhas de pesquisa Fundamentos Dogmáticos da Experiência Jurídica – ênfase V (Direito do Trabalho), bem como integra o Conselho do PPGDir. Professor adjunto da Faculdade de Direito da UFRGS, integrando o colegiado do Departamento de Direito Econômico e do Trabalho (DIR 4) e lecionando na graduação as disciplinas de Direito do Trabalho e de Direito Processual do Trabalho. Coordenador da especialização em Direito do Trabalho da UFRGS. Doutor em Direito pela Pontifícia Universidade Católica do Rio Grande do Sul. Mestre em Direito pela Universidade Federal do Rio Grande do Sul. Realizou estágio pós-doutoral em Direito do Trabalho pela Pontifícia Universidade Católica do Rio Grande do Sul. Líder do grupo de pesquisa "Fundamentos do Direito do Trabalho e do Processo do Trabalho" aprovado pela UFRGS/FDIR/CPDIR e cadastrado no CNPq. Pesquisador na área do Direito do Trabalho e do Direito Processual do Trabalho, com ênfase em direito e processo coletivo, direitos difusos, sucessão de empregadores, prescrição trabalhista; terceirização de serviços, direitos humanos, grupo econômico, alterações contratuais, entre outros. Quatro livros publicados: "Relações Terceirizadas de Trabalho", "Efetivação dos direitos com objeto difuso","Direito do Trabalho" (em co-autoria) e "Prescrição no Direito do Trabalho" (em co-autoria). Diversos artigos publicados em periódicos especializados. Titular da cadeira n. 20 da Academia Sul-Riograndense de Direito doTrabalho. Advogado.

Vivian Maria Caxambu Graminho, Universidade Federal do Rio Grande do Sul

Doutoranda em Direito pelo Programa de Pós-Graduação em Direito da Universidade Federal do Rio Grande do Sul - UFRGS. Mestra em Direito pelo Programa de Pós-Graduação em Direito da Universidade do Extremo Sul Catarinense - UNESC. Pesquisadora do Grupo de Estudos, Pesquisa e Extensão Direito e Fraternidade - UFRGS. Pesquisadora do Grupo de Pesquisa Direitos Humanos e Novas Tecnologias - PPGD/UNESC. Possui graduação em Direito pelo Centro Universitário Curitiba (2006). Pós Graduada pela UNAR, especialização em Direito Civil e Processual Civil. Cursando pós-graduação em Direito Digital Aplicado e Compliance Digital. Atualmente é advogada autônoma (contencioso e consultoria) nas áreas de Direito Civil e Direito do Trabalho, com ênfase em novas tecnologias de informação e comunicação. Tem experiência na área de Direito de Família, Direito Civil e Processual Civil, Direito Bancário, Direito Securitário, Direito do Trabalho e Responsabilidade Civil.

References

ANPD. Resolução CD/ANPD n. 2, de 27 de janeiro de 2022. Aprova o Regulamento de aplicação da Lei nº 13.709, de 14 de agosto de 2018, Lei Geral de Proteção de Dados Pessoais (LGPD), para agentes de tratamento de pequeno porte. Disponível: https://www.gov.br/anpd/pt-br/documentos-e-publicacoes/regulamentacoes-da-anpd/resolucao-cd-anpd-no-2-de-27-de-janeiro-de-2022. Acesso em: 15 ago. 2024.

ANPD. Nota técnica n. 19/2023/FIS/CGF/ANPD. Disponível em: https://www.gov.br/anpd/pt-br/documentos-e-publicacoes/documentos-de-publicacoes/nota-tecnica-no-19-2023-fis-cgf-anpd.pdf. Acesso em: 15 ago. 2024.

ANPD. Resolução CD/ANPD n. 10, de 5 de dezembro de 2023. Aprova o Mapa de Temas Prioritários para o biênio 2024-2025 e dispõe sobre a periodicidade do Ciclo de Monitoramento. Disponível em: https://www.in.gov.br/en/web/dou/-/resolucao-cd/anpd-n-10-de-5-de-dezembro-de-2023-530258528. Acesso em: 15 ago. 2023.

ANPD. Resolução CD/ANPD n. 11, de 27 de dezembro de 2023. Altera a Agenda Regulatória para o biênio 2023-2024. Disponível em: https://www.in.gov.br/en/web/dou/-/resolucao-cd/anpd-n-11-de-27-de-dezembro-de-2023-534947737. Acesso em: 15 ago. 2024.

ANPD. Resolução CD/ANPD n. 18, de 16 de julho de 2024. Aprova o Regulamento sobre a atuação do encarregado pelo tratamento de dados pessoais. Disponível em: https://www.in.gov.br/en/web/dou/-/resolucao-cd/anpd-n-18-de-16-de-julho-de-2024-572632074. Acesso em: 15 ago. 2024.

BARZOTTO, Luciane Cardoso. Igualdade e discriminação no ambiente de trabalho. In. BARZOTTO, Luciane Cardozo (Coord.). Trabalho e igualdade: tipos de discriminação no ambiente de trabalho [livro eletrônico]. Porto Alegre: Livraria do Advogado, 2012.

BARZOTTO, Luciane Cardoso; LANNER, Maíra Brecht. Declaração do centenário da Organização Internacional do Trabalho e a proteção do trabalhador digital no paradigma da fraternidade. In. BREDA, Luciele; LANNER, Maíra Brecht. Fraternidade, tecnologia e Direitos Humanos: uma homenagem à Profª Luciane Cardoso Barzotto pelas contribuições para o direito do trabalho. Curitiba: Appris, 2020.

BASAN, Arthur Pinheiro. Art. 5. In. MARTINS, Guilherme Magalhães; LONGHI, João Victor Rozatti; FALEIROS JÚNIOR, José Luiz de Moura (Coords.). Comentário à Lei Geral de Proteção de Dados Pessoais [livro eletrônico]. Indaiatuba: Editora Foco, 2022.

BENJAMIM, Ruha. Race after technology: abolitionist tools for the new Jim Code [livro eletrônico]. Cambridge: Polity Press, 2019.

BRASIL. Decreto-lei n. 5.452, de 1º de maio de 1943. Aprova a Consolidação das Leis do Trabalho. Disponível em: http://www.planalto.gov.br/ccivil_03/decreto-lei/del5452.htm. Acesso em: 10 abr. 2022.

BRASIL. Lei n. 9.029, de 13 de abril de 1995. Proíbe a exigência de atestados de gravidez e esterilização, e outras práticas discriminatórias, para efeitos admissionais ou de permanência da relação jurídica de trabalho, e dá outras providências. Disponível em: https://www.planalto.gov.br/ccivil_03/leis/l9029.htm. Acesso em: 15 ago. 2024.

BRASIL. Lei n. 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 20 abr. 2022.

BRASIL. Lei n. 13.853, de 8 de julho de 2019. Altera a Lei nº 13.709, de 14 de agosto de 2018, para dispor sobre a proteção de dados pessoais e para criar a Autoridade Nacional de Proteção de Dados; e dá outras providências. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2019-2022/2019/lei/L13853.htm. Acesso em: 15 ago. 2024.

BRASIL. Lei n. 14.460, de 25 de outubro de 2022. Transforma a Autoridade Nacional de Proteção de Dados (ANPD) em autarquia de natureza especial e transforma cargos comissionados; altera as Leis nºs 13.709, de 14 de agosto de 2018 (Lei Geral de Proteção de Dados Pessoais), e 13.844, de 18 de junho de 2019; e revoga dispositivos da Lei nº 13.853, de 8 de julho de 2019. Disponível em: https://www.planalto.gov.br/ccivil_03/_ato2019-2022/2022/Lei/L14460.htm#art9. Acesso em: 15 ago. 2024.

CABANELLAS, Guillermo. Tratado de derecho laboral. Buenos Aires: El Grafico, 1949, tomo II.

CARLOTO, Selma. Discriminação Algorítmica em Processos Seletivos Eletrônicos e uma Metodologia para Eliminação de Vieses Discriminatórios. Leme, SP: Editora Mizuno, 2023.

CASTELLS, Manuel. A sociedade em rede. 8. ed. São Paulo: Paz e Terra, 2005.

COIMBRA, Rodrigo; ARAÚJO, Franciso Rossal de. Direito do Trabalho. 2.ed. São Paulo: Ltr, 2021.

COIMBRA, Rodrigo; ARAÚJO, Franciso Rossal de. Direito do trabalho: evolução do modelo normativo e tendências atuais na Europa. Revista Ltr: legislação do trabalho, São Paulo, v. 73, n. 8, p. 953-962, ago. 2009.

CORMEN, Thomas H. Desmistificando algoritmos. Rio de Janeiro: Elsevier, 2014.

DASTIN, Jeffrey. Amazon scraps secret AI recruiting tool thet showed bias against women. Reuters. 10. out. 2018. Disponível em: https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G. Acesso em: 20 abr. 2022.

DÄUBLER, Wolfgang. A flexibilidade do direito do trabalho na Alemanha. Revista de direito do trabalho, São Paulo, v. 29, n. 111, p. 210-228. jul./set. 2003.

DE MASI, Domenico. O futuro chegou [livro eletrônico]. Rio de Janeiro: Cia da Palavra, 2013.

DEVEALI, Mario L. Lineamientos de derecho del trabajo. 2. ed. Buenos Aires: Tipografica Editora, 1953.

DORNELES, Leandro do Amaral D. de. Teoria Geral Clássica do Direito do Trabalho e Sociedade Pós-Industrial: Faces de uma Crise e Perspectivas para Superação. In. FINCATO, Denise Pires; VIDALETTI, Leiliane Piovesani (Orgs.). Novas Tecnologias, Processo e Relações de Trabalho III. Porto Alegre: Magister, 2019.

FALEIROS JÚNIOR, José Luiz de Moura. Discriminação por algoritmos de inteligência artificial: a responsabilidade civil, os vieses e o exemplo das tecnologias baseadas em luminâncias. In. BARBOSA, Mafalda Miranda, et. al. Direito digital e inteligência artificial: diálogos entre Brasil e Europa. Indaiatuba: Foco, 2021.

FONTANELA, Cristiani; SANTOS, Maria Isabel dos Santos Araújo Silva dos; ALBINO, Jaqueline da Silva. A sociedade 5.0 como instrumento de promoção dos direitos sociais no Brasil. Justiça do Direito, v. 34, n. 1, p. 29-56, 30 abr. 2020, p. 43. Disponível em: http://seer.upf.br/index.php/rjd/article/view/10904. Acesso em: 20 abr. 2022.

FORD, Martin. Rise of the robots: technology and the threat of a jobless future [livro eletrônico]. Philadelphia: Basic Books, 2015.

FRAZÃO, Ana; GOETTENAUER, Carlos. Black box e o direito face à opacidade algorítmica. In.: BARBORSA, Mafalda Miranda; BRAGA NETTO, Felipe; FALEIROS JÚNIOR, José Luiz de Moura (Coords). Direito digital e Inteligência Artificial: diálogos entre Brasil e Europa. Indaiatuba: Foco, 2021.

GEBRU, Timnit. Race and Gender. In. DUBBER, Markus D.; PASQUALE, Frank; DAS, Sunit. The Oxford Handbook of Ethics of AI. New York: Oxford University Press, 2020.

GOULART, Guilherme Damasio. Art. 20. In. MARTINS, Guilherme Magalhães; LONGHI, João Victor Rozatti; FALEIROS JÚNIOR, José Luiz de Moura (Coords.). Comentário à Lei Geral de Proteção de Dados Pessoais [livro eletrônico]. Indaiatuba: Editora Foco, 2022.

GPAN IA. Orientações éticas para uma IA de confiança. 08 nov. 2019. Disponível em: https://op.europa.eu/en/publication-detail/-/publication/d3988569-0434-11ea-8c1f-01aa75ed71a1/language-pt/format-PDF. Acesso em: 20 abr. 2022.

HOFFMANN-RIEM, Wolfgang. Teoria geral do direito digital: transformação digital - desafios para o direito [livro eletrônico]. Rio de Janeiro: Forense, 2021.

HUECK, Alfred; NIPPERDEY, H. C. Compendio de derecho del trabajo. Madrid: Editorial Revista de derecho privado, 1963.

JUNQUEIRA, Thiago. Tratamento de dados pessoais e discriminação algorítmica nos seguros [livro eletrônico]. São Paulo: Thomson Reuters, 2020.

LA CUEVA, Mario de. Decrecho mexicano del trabajo. 4. ed. México: Editorial Porrua, 1954, tomo I.

LIMA, Cíntia Rosa Pereira. Art. 55-J. In. MARTINS, Guilherme Magalhães; LONGHI, João Victor Rozatti; FALEIROS JÚNIOR, José Luiz de Moura (Coords.). Comentário à Lei Geral de Proteção de Dados Pessoais [livro eletrônico]. Indaiatuba: Editora Foco, 2022.

LINDOSO, Maria Cristine Branco. Discriminação de gênero no tratamento automatizado de dados pessoais: como a automatização incorpora vieses de gênero e perpetua a discriminação de mulheres. Rio de Janeiro: Processo, 2021.

MARQUES, Claudia Lima; MIRAGEM, Bruno (Coords). Diálogo das fontes: novos estudos sobre a coordenação e aplicação das normas no direito brasileiro [livro eletrônico]. São Paulo: Thomson Reuters, 2020.

MARTINS, Guilherme Magalhães. Responsabilidade civil por acidente de consumo na internet [livro eletrônico]. 2. ed. São Paulo: Thomson Reuters Brasil, 2020.

MENDES, Laura Schertel; MATTIUZZO, Marcela; FUJIMOTO, Mônica Tiemy. Discriminação algorítmica à luz da Lei Geral de Proteção de Dados. In.: BIONI, Bruno; et. al. (Coord.). Tratado de proteção de dados pessoais. Rio de Janeiro: Forense, 2020.

MONDENESI, Pedro. Art. 46. In. MARTINS, Guilherme Magalhães; LONGHI, João Victor Rozatti; FALEIROS JÚNIOR, José Luiz de Moura (Coords.). Comentário à Lei Geral de Proteção de Dados Pessoais [livro eletrônico]. Indaiatuba: Editora Foco, 2022.

MOREIRA, Teresa Alexandra Coelho. A privacidade dos trabalhadores e as novas tecnologias de informação e comunicação: contributo para um estudo dos limites do poder de controlo eletrônico do empregador. Coimbra: Almedina, 2010.

MOREIRA, Teresa Coelho. A discriminação algorítmica. In. CARLOTO, Selma. Inteligência Artificial e novas tecnologias nas relações de trabalho. Leme: Mizuno, 2022.

MULHOLLAND, Caitlin; FRAJHOF, Isabella Z. Inteligência artificial e a Lei Geral de Proteção de Dados pessoais: breves anotações sobre o direito a explicação perante a tomada de decisões por meio de machine learning. In. FRAZÃO, Ana; MULHOLLAND, Caitlin (Coords.). Inteligência artificial e direito: ética regulação e responsabilidade. São Paulo: Thomson Reuters, 2019.

O GLOBO. 'Fui despedido por um robô': como a Amazon deixa máquinas decidirem o destino dos trabalhadores. Jun. 2021. Disponível em: https://oglobo.globo.com/economia/tecnologia/fui-despedido-por-um-robo-como-amazon-deixa-maquinas-decidirem-destino-dos-trabalhadores-25079925. Acesso em: 20 abr. 2022.

OIT. Convenção 111 - Discriminação em matéria de emprego e ocupação. 15 jun 1960. Disponível em: https://www.ilo.org/brasilia/convencoes/WCMS_235325/lang--pt/index.htm. Acesso em: 20 abr. 2022.

OIT. Declaração do Centenário da OIT para o Futuro do Trabalho. 21 jun. 2019. Disponível em: https://www.ilo.org/lisbon/publica%C3%A7%C3%B5es/WCMS_749807/lang--pt/index.htm. Acesso em: 20 abr. 2022.

O’NEIL, Cathy. Algoritmos de destruição em massa: como o big data aumenta a desigualdade e ameaça a democracia [livro eletrônico]. Santo André: Editora Rua do Sabão, 2020.

PASQUALE, Frank. The black box society: the secret algorithms that control money and information. London: Harvard University Press, 2015.

RAMALHO, Maria do Rosário Palma. Estudos de direito do trabalho. Coimbra: Almedina, 2003, v. 1.

RIFKIN, Jeremy. Sociedade com custo marginal zero. São Paulo: M. Books do Brasil, 2016.

SCHWAB, Klaus; DAVIS, Nicholas. Aplicando a quarta revolução industrial. São Paulo: Edipro, 2019.

SILVA, Jorge Cesa Ferreira da. Antidiscriminação e contrato: a integração e autonomia [livro eletrônico]. São Paulo: Thomson Reuters Brasil, 2020.

SOUZA, Carlos Affonso; PERRONE, Christian; MAGRANI, Eduardo. O direito à explicação entre a experiência europeia e sua positivação na LGPD. In. BIONI, Bruno; et. al. (Coords.). Tratado de proteção de dados pessoais. Rio de Janeiro: Forense, 2020.

SUMPTER, David. Dominados pelos números: do Facebook e Google às fake News – os algoritmos que controlam nossa vida [livro eletrônico]. Rio de Janeiro: Bertrand Brasil, 2019.

TEFFÉ, Chiara Spadaccini de. Art. 11. In. MARTINS, Guilherme Magalhães; LONGHI, João Victor Rozatti; FALEIROS JÚNIOR, José Luiz de Moura (Coords.). Comentário à Lei Geral de Proteção de Dados Pessoais [livro eletrônico]. Indaiatuba: Editora Foco, 2022.