Inteligência artificial e jurisdição: dever analítico de fundamentação e os limites da substituição dos humanos por algoritmos no campo da tomada de decisão judicial

Dirceu Pereira Siqueira; Fausto Santos de; Marcel Ferreira dos

doi:10.5007/2177-7055.2022.e90662

Authors

Dirceu Pereira Siqueira Universidade Cesumar - UNICESUMAR https://orcid.org/0000-0001-9073-7759
Fausto Santos de Escola de Direito e do PPGD IMED https://orcid.org/0000-0002-4648-2418
Marcel Ferreira dos Universidade Cesumar - UNICESUMAR - Maringá/PR https://orcid.org/0000-0003-1742-9519

DOI:

https://doi.org/10.5007/2177-7055.2022.e90662

Keywords:

Artificial Intelligence, Decision Making, Analytical Foundation, Explainability

Abstract

This article aims, in general, to identify the limits to the use of Artificial Intelligence (AI) in judicial decision making, having as specific objectives: (i) to describe the context of the use of AI from the due legal process; (ii) identify the analytical basis hypotheses provided for in the ordinary legislation and their conformation from the use of AI instruments, with a focus on explainability. The operationalization of jurisdiction, in the current context of a justice system permeated by AI instruments, must find limits in the Constitution of the Republic, in the theory of judicial decision and in specific rules of legal hermeneutics. Such limits, however, were not created with an eye towards AI, which is why there remains the need to identify beacons for the ethical use of technological tools in the Judiciary. As a research problem, we intend to discuss what are the limits to the use of AI in decision making, whether in the civil or criminal fields, based on the so-called analytical reasoning, provided for in articles 489, §1, CPC, and 315, §2, CPP. The procedure method used is the hypothetical-deductive method. The research technique is bibliographic. It is suggested, as a hypothesis, the Judiciary, as an instrument for the protection of fundamental and personality rights, when exercising decision-making based on AI instruments, is limited, in principle, to repetitive decisions devoid of complexity, the which even meet the duty of reasoning when working on the concept of explicability, under penalty of violating due process of law.

Author Biographies

Dirceu Pereira Siqueira, Universidade Cesumar - UNICESUMAR

Coordenador e Professor Permanente do Programa de Doutorado e Mestrado em Direito da Universidade Cesumar, Maringá, PR (UniCesumar); Pós-doutor em Direito pela Faculdade de Direito da Universidade de Coimbra (Portugal), Doutor e Mestre em Direito Constitucional pela Instituição Toledo de Ensino - ITE/Bauru, Especialista Lato Sensu em Direito Civil e Processual Civil pelo Centro Universitário de Rio Preto, Pesquisador Bolsista - Modalidade Produtividade em Pesquisa para Doutor - PPD - do Instituto Cesumar de Ciência, Tecnologia e Inovação (ICETI), Professor nos cursos de graduação em direito da Universidade de Araraquara (UNIARA) e do Centro Universitário Unifafibe (UNIFAFIBE), Professor Convidado do Programa de Mestrado University Missouri State – EUA, Editor da Revista Direitos Sociais e Políticas Públicas (Qualis B1), Consultor Jurídico, Parecerista, Advogado. Orcid: https://orcid.org/0000-0001-9073-7759. E-mail: dpsiqueira@uol.com.br

Fausto Santos de, Escola de Direito e do PPGD IMED

Doutor em Direito (UNISINOS), Docente da Escola de Direito e do PPGD IMED, Passo Fundo (RS), Editor Chefe da Revista Brasileira de Direito (RBD) e da Revista Brasileira de Inteligência Artificial e Direito (RBIAD), Fundador da Associação Ibero Americana de Direito e Inteligência Artificial (AID-IA), pesquisador com fomento da Fundação Meridional, Advogado. CV: http://lattes.cnpq.br/2028518764749733. ORCID https://orcid.org/0000-0002-4648-2418. E-mail: faustosmorais@gmail.com

Marcel Ferreira dos, Universidade Cesumar - UNICESUMAR - Maringá/PR

Doutorando pelo Programa de Pós-Graduação em Ciências Jurídicas no Centro Universitário de Maringá – Unicesumar, na linha pesquisa relacionada aos direitos da personalidade e seu alcance na contemporaneidade. Mestre em Ciências Jurídicas no Centro Universitário de Maringá – Unicesumar. Especialista em Direito Civil e Processo Civil pela Escola Paulista de Direito (EPD). Especialista em Direito Público pela Faculdade de Direito Professor Damásio de Jesus. Professor Coordenador do Curso de Direito da Pontifícia Universidade Católica do Paraná, Campus Maringá. Professor e ex-diretor da Escola da Magistratura do Paraná (Núcleo de Maringá). Vice-Presidente da Associação dos Magistrados do Paraná. Juiz de Direito no TJPR. CV: http://lattes.cnpq.br/9432917972384107. ORCID https://orcid.org/0000-0003-1742-9519. E-mail: marcelfsantos@hotmail.com.

References

BARCELLOS, Ana Paula de. Curso de direito constitucional. Rio de Janeiro: Forense, 2018.

BARCELLOS, Ana Paula de. Neoconstitucionalismo, direitos fundamentais e controle das políticas públicas. Revista Direito Administrativo, Rio de Janeiro, n. 240, p. 80-103, abr./jun. 2005. Disponível em: http://bibliotecadigital.fgv.br/ojs/index.php/rda/article/view/43620/44697. Acesso em: 30 jan. 2022.

BARROSO, Luís Roberto. Judicialização, ativismo judicial e legitimidade democrática. (Syn) thesis, v. 5, n. 1, p. 23-32, 2012. Disponível em: https://www.e-publicacoes.uerj.br/index.php/synthesis/article/view/7433. Acesso em: 30 jan. 2022.

BERKMAN KLEIN CENTER. Berkman Klein Center and MIT Media Lab to Collaborate on the Ethics and Governance of Artificial Intelligence. 10 jan. 2017. Disponível em: https://cyber.harvard.edu/node/99772. Acesso em: 30 maio 2022.

BRASIL. CONSELHO NACIONAL DE JUSTIÇA. Resolução n°. 332, de 21 de agosto de 2020. Brasília: CNJ, 2020. Disponível em: https://atos.cnj.jus.br/files/original191707202008255f4563b35f8e8.pdf. Acesso em 30 de jan. 2022.

BRASIL. SUPREMO TRIBUNAL FEDERAL (Pleno). ADI 6341 MC-Ref/DF. Relator: Min. Marco Aurélio, 15 abr. 2020. Disponível em: https://jurisprudencia.stf.jus.br/pages/search/sjur436466/false. Acesso em: 30 jan. 2022.

BRASIL. Supremo Tribunal Federal (Pleno). Recurso Extraordinário nº 566.471. Relator: Min. Marco Aurélio, 27 abr. 2021. Disponível em: http://www.stf.jus.br/portal/jurisprudenciaRepercussao/verAndamentoProcesso.asp?incidente=2565078&numeroProcesso=566471&classeProcesso=RE&numeroTema=6. Acesso em 30: jan. 2022.

BRASIL. [Constituição (1988)]. Constituição da República Federativa do Brasil. Diário Oficial [da] República Federativa do Brasil, Brasília, DF, 5 out. 1988. Disponível em: http://www.planalto.gov.br/ccivil_03/constituicao/constituicao.htm. Acesso em 30 jan. 2022.

BRASIL. Lei nº 13.105, de 16 de março de 2015. Código do Processo Civil. Diário Oficial da União: seção 1, Brasília, DF, 16 mar. 2015. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2015/lei/l13105.htm. Acesso em: 30 jan. 2022.

BRASIL. Lei nº 13.709, de 14 de agosto de 2018. Lei Geral de Proteção de Dados Pessoais (LGPD). Diário Oficial da União: seção 1, Brasília, DF, 14 ago. 2018.Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2015-2018/2018/lei/l13709.htm. Acesso em: 30 jan. 2022.

BRASIL. Lei nº 13.964, de 24 de dezembro de 2019. Aperfeiçoa a legislação penal e processual penal. Diário Oficial da União: seção 1, Brasília, DF, 24 dez. 2019. Disponível em: http://www.planalto.gov.br/ccivil_03/_ato2019-2022/2019/lei/L13964.htm. Acesso em: 31 maio 2022.

BRASIL. Superior Tribunal de Justiça (Presidência). SUSPENSÃO DE LIMINAR E DE SENTENÇA Nº 2925 - MT (2021/0123084-6). Relator: Min. Humberto Martins, 27 de abril de 2021. Disponível em: https://scon.stj.jus.br/SCON/decisoes/toc.jsp?livre=UTI+CUIAB%C1&b=DTXT. Acesso em 30: jan. 2022.

BRASIL. Superior Tribunal de Justiça. EDcl no MS: 21.315-DF. Relator: Min. Diva Malerbi (Desembargadora convocada do TRF da 3ª Região), data do julgamento: 8/6/2016, 1ª Seção, Info 585. Disponível em: https://processo.stj.jus.br/processo/revista/documento/mediado/?componente=ITA&sequencial=1518824&num_registro=201200649610&data=20160614&peticao_numero=201600225259&formato=PDF. Acesso em: 30 jan. 2022.

BRASIL. SUPERIOR TRIBUNAL DE JUSTIÇA. Tema 106 de Recurso Repetitivo. Disponível em: https://processo.stj.jus.br/repetitivos/temas_repetitivos/pesquisa.jsp?novaConsulta=true&tipo_pesquisa=T&cod_tema_inicial=106&cod_tema_final=106. Acesso em: 30 jan. 2022.

BRASIL. SUPREMO TRIBUNAL FEDERAL (Pleno). ADI 6343 MC-Ref/DF. Relator: Relator: Min. Marco Aurélio, 6 maio 2020. Disponível em: http://portal.stf.jus.br/processos/downloadPeca.asp?id=15344984917&ext=.pdf. Acesso em: 30 jan. 2022.

BRASIL. SUPREMO TRIBUNAL FEDERAL (Pleno). ADPF 672 MC-Ref/DF. Relator: Relator: Min. Alexandre de Moraes, 13 out. 2020. Disponível em: https://jurisprudencia.stf.jus.br/pages/search/sjur435113/false. Acesso em: 30 jan. 2022.

BRASIL. SUPREMO TRIBUNAL FEDERAL. Discurso proferido pelo Ministro Celso de Mello, em nome do Supremo tribunal federal, na solenidade de posse do Ministro Gilmar Mendes, na presidência da Suprema Corte do Brasil, em 23/04/2008. Disponível em: http://www.stf.jus.br/arquivo/cms/noticiaNoticiaStf/anexo/discursoCMposseGM.pdf. Acesso em: 30 jan. 2022.

BRASIL.CONSELHO NACIONAL DE JUSTIÇA. Justiça em Números 2021: ano-base 2020. Brasília: CNJ, 2021. Disponível em: https://www.cnj.jus.br/wp-content/uploads/2021/11/relatorio-justica-em-numeros2021-221121.pdf. Acesso em: 30 maio 2022.

CAMBI, Eduardo. Neoconstitucionalismo e Neoprocessualismo. Direitos Fundamentais. Políticas Públicas e Protagonismo judiciário. São Paulo: Almeida, 2006.

CARMONA, Carlos Alberto. Arbitragem e processo. Um comentário à Lei nº 9307/96. São Paulo: Atlas, 2009.

CARNEIRO, Athos Gusmão. Jurisdição e competência. rev. e ampl. de conformidade com a jurisprudência do Superior Tribunal de Justiça. São Paulo: Saraiva, 2000.

CEPEJ. European Ethical Charter on the Use of Artificial Intelligence in Judicial Systems and their environment. fev. 2019. Disponível em: https://rm.coe.int/ethical-charter-en-for--publication-4-december-2018/16808f699c. Acesso em: 30 jan. 2022.

CINTRA, Antonio Carlos de Araújo; GRINOVER, Ada Pellegrini; DINAMARCO, Cândido Rangel. Teoria Geral do Processo. 18. ed. São Paulo: Malheiros, 2002.

COMANDUCCI, Paolo. Formas de (neo) constitucionalismo: un análisis metateórico. Isonomía, n. 16, p. 89-112, abr. 2002. Disponível em: https://scholar.google.com.br/scholar?hl=pt-BR&as_sdt=2005&sciodt=0%2C5&cites=10855811787922223018&scipsc=&q=Formas+de+(neo)+constitucionalismo%3A+um+an%C3%A1lisis+metate%C3%B3rico.+&btnG=. Acesso em: 30 jan. 2022.

COMISSÃO EUROPEIA PARA A EFICÁCIA DA JUSTIÇA (CEPEJ). Carta Europeia de Ética sobre o Uso da Inteligência Artificial em Sistemas Judiciais e seu ambiente. Adotada pela CEPEJ na sua 31ª reunião plenária (Estrasburgo, 3 e 4 de dezembro de 2018). 2018. Disponível em: https://rm.coe.int/carta-etica-traduzida-para-portugues-revista/168093b7e0. Acesso em: 30 maio 2022.

COMISSÃO EUROPEIA. The 2018 EU justice Scoreboard. Luxembourg: Publications Office of the European Union, 2018. Disponível em: https://ec.europa.eu/info/sites/info/files/justice_scoreboard_2018_en.pdf. Acesso em: 30 jan. 2022.

CUI, Yadong. Artificial Intelligence and Judicial Modernization. Tradução de Cao Yan e Liu Yan. Cingapura: Springer, 2020.

CUNHA, Leonardo José Carneiro da. Jurisdição e Competência. São Paulo: Revista dos Tribunais, 2013.

DIDIER JR., Fredie; OLIVEIRA, Rafael Alexandria de; BRAGA, Paula Sarno. In: CABRAL, Antonio do Passo; CRAMER, Ronaldo (Coord.). Comentários ao Novo Código de Processo Civil. Rio de Janeiro: Forense, 2015.

ELIAS, Paulo Sá. Algoritmos e inteligência artificial exigem atenção do Direito. Revista CONJUR, v. 20, 2021.

FAZENDA, Ivani Catarina Arantes. Integração e interdisciplinaridade no ensino brasileiro. São Paulo: Edições Loyola, 2002.

FORNASIER, Mateus de Oliveira. Inteligência Artificial e o Futuro das Profissões Jurídicas. Rio de Janeiro: Lumen Juris, 2021.

FUNDAÇÃO GETÚLIO VARGAS. Relatório de Pesquisa: Tecnologia aplicada à gestão dos conflitos no âmbito do Poder Judiciário Brasileiro. 2020. Disponível em: https://ciapj.fgv.br/sites/ciapj.fgv.br/files/estudos_e_pesquisas_ia_1afase.pdf. Acesso em: 30 jan. 2022.

GOMES, Luiz Flávio. A dimensão da magistratura no Estado Constitucional e Democrático de Direito: independência judicial, controle judiciário, legitimação da jurisdição, politização e responsabilidade do juiz. São Paulo: Revista dos Tribunais, 1997.

GRAU, Eros Roberto. Ensaio e discurso sobre a interpretação/aplicação do Direito. São Paulo: Malheiros, 2002.

JANTSCH, Ari Paulo. Interdisciplinaridade: para além da filosofia do sujeito. Petrópolis: Vozes, 2000.

JAPIASSU, Hilton. Interdisciplinaridade e Patologia do saber. Rio de Janeiro: Imago, 1976.

KAPLAN, Andreas; HAENLEIN, Michael. Siri, Siri, in my hand: Who’s the fairest in the land? On the interpretations, illustrations, and implications of artificial intelligence. Business Horizons, v. 62, n. 1, p. 15-25, 2019.

MARINONI, Luiz Guilherme. AREHART, Sérgio Cruz. MITIDIERO, Daniel. Novo curso de processo civil. São Paulo: RT, 2015.

MARTINS-COSTA, Judith. A boa-fé no direito privado. São Paulo: Revista dos Tribunais, 2000.

MONTESQUIEU. O espírito das leis. São Paulo: Martins Fontes, 2000.

MORAIS, Fausto Santos. O Uso Da Inteligência Artificial Na Repercussão Geral: Desafios Teóricos e Éticos. Revista Direito Público. v. 18 (Inteligência Artificial, Ética e Epistemologia). p. 306–26, 2021.

MOSTOWY, Walter A. Explaingin Opaque AI Decisions, Legally. Berkeley Technology Law Journal, v. 35, 2020.

NERY JÚNIOR, Nelson. Princípios do Processo Civil na Constituição Federal. 8. ed. São Paulo: Revista dos Tribunais, 2004.

NERY JUNIOR, Nelson; NERY, Rosa Maria Andrade. Código Civil Comentado. 9. ed. São Paulo: Revista dos Tribunais, 2012.

NUNES, Dierle; MARQUES, Ana Luiza Pinto Coelho. Inteligência artificial e direito processual: vieses algorítmicos e os riscos de atribuição de função decisória às máquinas. Revista de Processo. p. 421-447, 2018.

PARLAMENTO EUROPEU. Resolução do Parlamento Europeu, de 16 de fevereiro de 2017, que contém recomendações à Comissão sobre disposições de Direito Civil sobre Robótica (2015/2103(INL)). Disponível em: http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//TEXT+TA+P8-TA-2017-0051+0+DOC+XML+V0//PT. Acesso em: 30 jan. 2022.

SIQUEIRA, Dirceu Pereira; FAZOLLI, Fabricio. Do direito à saúde: do paradoxo do dever público e da iniciativa privada. Revista Direitos Sociais e Políticas Públicas (UNIFAFIBE), v. 2, n. 2, p. 182-197, 2015. Disponível em: https://www.unifafibe.com.br/revista/index.php/direitos-sociais-politicas-pub/article/view/45/pdf. Acesso em: 30 jan. 2022.

SUSSKIND, Richard. Tomorrow Lawyers: an introduction to your future. Oxford: Oxford University Press, 2013.

VALE, Luís Manoel Borges do. A Tomada de Decisão por Máquinas: A Proibição, no Direito, de Utilização de Algoritmos não Supervisionados. In: NUNES, Dierle; LUCON, Paulo Henrique dos Santos; WOLKART, Erik Navarro. Inteligência Artificial e Direito Processual: Os Impactos da Virada Tecnológica no Direito Processual. 2. ed. Salvador: JusPodivm, 2021.

VILLANI, Cédric. Donner uns sens à li’intelligence artificielle: pour une stratégie nationale et européenne. Conseil national du numérique, 2018. Disponível em: https://www.aiforhumanity.fr. Acesso em: 30 jan. 2022.

WATANABE, Kazuo. Política Pública do Poder Judiciário Nacional para tratamento adequado dos conflitos de interesses. Revista de Processo. p. 381-389, 2011.

ZARSKY, T. Transparent predictions. University of Illinois Law Review, Champaign, v. 2013, n. 4, p. 1503-1570, 2013.