Esboço de um devido processo digital: garantias mínimas para uma persecução penal em rede

João Paulo Lordelo Guimarães Tavares

doi:10.5007/2177-7055.2024.e92408

Autores

João Paulo Lordelo Guimarães Tavares Instituto Brasileiro de Ensino Desenvolvimento e Pesquisa (IDP) https://orcid.org/0000-0002-5190-2835

DOI:

https://doi.org/10.5007/2177-7055.2024.e92408

Palavras-chave:

Devido processo legal, Tecnologias digitais, Algoritmos, Inteligência artificial

Resumo

O artigo pretende responder ao seguinte problema de pesquisa: quais garantias podem ser extraídas de uma compreensão evolutiva da cláusula do devido processo legal, no contexto do emprego das novas tecnologias digitais para fins de persecução penal? A hipótese – confirmada a título de conclusão – é a de que o uso de recursos tecnológicos digitais pelo Poder Público, inclusive com o emprego de algoritmos de inteligência artificial, é algo irrefreável, sendo capaz de agregar utilidades, notadamente no âmbito decisório. Por outro lado, o seu emprego, especialmente no campo da persecução penal, implica o reconhecimento de novas garantias e deveres acentuados de transparência e accountability, havendo suporte normativo e meios tecnológicos de promovê-los de forma satisfatória e sem prejuízo à propriedade industrial. Em conclusão, tais garantias comporiam uma dimensão procedimental contemporânea da cláusula do devido processo legal. Os suportes fáticos e teóricos do trabalho são fornecidos por uma análise comparatista, com destaque para relatórios, a disciplina normativa e a jurisprudência dos Estados Unidos e da Comunidade Europeia. O método de abordagem empregado é o hipotético-dedutivo.

Palavras-chave: Devido processo legal. Tecnologias digitais. Algoritmos. Transparência.

Biografia do Autor

João Paulo Lordelo Guimarães Tavares, Instituto Brasileiro de Ensino Desenvolvimento e Pesquisa (IDP)

Graduado em Direito pela Universidade Federal da Bahia. Especialista em Direito do Estado. Mestre em Direito Público pela Universidade Federal da Bahia. Mestre em Direito Constitucional pela Universidad de Sevilla. Doutor em Direito pela Universidade Federal da Bahia. Realizou pesquisa de pós-doutoramento em Direitos Humanos pela Universidade de Coimbra e desenvolve segunda pesquisa de pós-doutoramento na Universidade do Estado do Rio de Janeiro (UERJ). Professor do programa de mestrado do Instituto Brasileiro de Ensino, Desenvolvimento e Pesquisa (IDP). Professor da graduação em Direito da Universidade Presbiteriana Mackenzie. Pesquisador Visitante (Visiting Scholar) do Centre for Socio-Legal Studies da Universidade de Oxford (Oxford Faculty of Law). Professor visitante da Universidade Vytautas Magnus (Lituânia). Orientador pedagógico e professor da Escola Superior do Ministério Público da União (ESMPU). Membro da comissão avaliadora da Revista de Processo (REPRO), da Civil Procedure Review e da Seqüência Estudos Jurídicos e Políticos (UFSC - Q A.1). Membro do Conselho Consultivo sobre Internet e Eleições do Tribunal Superior Eleitoral (2018). Membro da comissão de juristas da Câmara dos Deputados de reforma da Lei de Lavagem de Capitais (2021). Coordenador da Assessoria Jurídica Criminal do Gabinete do Procurador-Geral da República junto ao Supremo Tribunal Federal (2020-2021). Coordenador do Grupo de Trabalho sobre Inovações no Processo Coletivo do Conselho Nacional do Ministério Público (CNMP). Ex-Defensor Público Federal (2010-2014), é membro do Ministério Público Federal (Procurador da República) em São Paulo.

ORCID: http://orcid.org/0000-0002-5190-2835. E-mail: joaolordelo@gmail.com. Currículo Lattes: http://lattes.cnpq.br/3696439036747412

Referências

ALLAN, T. R. S. Constitutional Justice: A Liberal Theory of the Rule of Law. Oxford: Oxford University Press, 2003.

BARCELLOS, Ana Paula de. Um debate para o neoconstitucionalismo. Papeis do Direito Constitucional no fomento do controle social democrático: algumas propostas sobre o tema da informação. Revista de Direito do Estado, Rio de Janeiro, n. 12, 2008.

BATHAEE, Yavar. Artificial Intelligence Black Box and the Failure of Intent and Causation. Harvard Law Review, v. 31, n. 2, p. 889-938, 2018; YANISKY-RAVID, Shlomit; HALLISEY, Sean. Equality and Privacy by Design: a New Model of Artificial Intelligence Data Transparency via Auditing, Certification, and Safe Harbor Regimes. Fordham Urban Law Journal, v. 46, n. 2, p. 428-486, 2019.

BBC BITESIZE. Representing an algorithm: Pseudocode. Disponível em: https://www.bbc.co.uk/bitesize/guides/zpp49j6/revision/2#:~:text=Writing%20in%20pseudocode%20is%20similar,pseudocode%2C%20INPUT%20asks%20a%20question. Acesso em: 24 out. 2022.

BRENNAN-MARQUEZ, Kiel; HENDERSON, Stephen E. Artificial Intelligence and Role-Reversible Judgment. Journal of Criminal Law and Criminology, vol. 109, 2019, p. 137.

BROWN, Shea; DAVIDOVIC, Jovana; HASAN, Ali. The algorithm audit: Scoring the algorithms that score us. Big Data & Society, vol. 8, no. 1, 2021.

BÜCKER, Michael; SZEPANNEK, Gero; GOSIEWSKAC, Alicja; BIECEK, Przemyslaw. Transparency, auditability, and explainability of machine learning models in credit scoring. Journal of the Operational Research Society, p. 1-21, 2021. Disponível em: https://www.tandfonline.com/doi/full/10.1080/01605682.2021.1922098. Acesso em: 10 dez. 2022.

CASTETS-RENARD, C. Human Rights and Algorithmic Impact Assessment for Predictive Policing. In MICKLITZ, H.; POLLICINO, O.; REICHMAN; A.; SIMONCINI, A.; SARTOR, G.; DE GREGORIO, G. (Eds.), Constitutional Challenges in the Algorithmic Society. Cambridge: Cambridge University Press, 2021.

CITRON, Danielle Keats. Data Mining for Juvenile Offenders. Concurring Opinions, 2010. Disponível em: http://www.concurringopinions.com/archives/2010/04/data-mining-for-juvenileoffenders.html. Acesso em: 30 nov. 2022.

CITRON, Danielle Keats. Technological Due Process. Washington University Law Review, vol. 85, n. 1249, 2008.

CITRON, Danielle Keats; PASQUALE, Frank. The Scored Society: Due Process for Automated Predictions. Washington Law Review, vol. 89, 2014.

CRAWFORD, Kate; SCHULTZ, Jason. Big Data and Due Process: Toward a Framework to Redress Predictive Privacy Harms. Boston College Law Review, vol 55, 2014.

DILLER, Matthew. The Revolution in Welfare Administration: Rules, Discretion, and Entrepreneurial Government. New York University Law Review, vol. 75, 2000.

FRIEND, Zach. Predictive Policing: Using Technology do Reduce Crime. FBI L. Enforcement Bull, 2013. Disponível em: https://leb.fbi.gov/articles/featured-articles/predictive-policing-using-technology-to-reduce-crime. Acesso em: 4 nov. 2022.

GORDON, Greg. `Data mining' may implicate innocent people in search for terrorists. McClatchy-Tribune Information Services. Disponível em: https://www.mcclatchydc.com/latest-news/article24460132.html. Acesso em: 08 nov. 2022.

KARAVAS, Vagias; TEUBNER, Gunther. Www.CompanyNameSucks.Com: The Horizontal Eﬀect of Fundamental Rights on “Private Parties” Within Autonomous Internet Law. Constellations, vol. 12, p. 262–282, 2005.

KEHL, Danielle; GUO, Priscilla; KESSLER, Samuel. Algorithms in the Criminal Justice System: Assessing the Use of Risk Assessments in Sentencing. Responsive Communities Initiative, Berkman Klein Center for Internet & Society, Harvard Law School, 2017. Disponível em: https://dash.harvard.edu/bitstream/handle/1/33746041/2017-07_responsivecommunities_2.pdf. Acesso em 12 out. 2020.

KROLL, Joshua A.; HUEY, Joanna; BAROCAS, Solon; FELTEN, Edward W.; REIDENBERG, Joel R.; ROBINSON, David G.; YU, Harlan. Accountable algorithms. University of Pennsylvania Law Review, v. 165, n. 3, p. 633-706, 2017.

LEE, Jyh-An. New Perspectives on Public Goods Production: Policy Implications of Open Source Software. Vanderbilt Journal of Entertainment and Technology Law, vol. 9, n. 1, 2006.

LUTZ, Donald. The Relative Influence of European Writers on Late Eighteenth-Century American Political Thought. The American Political Science Review. Vol. 78, p. 189-197, 1984.

MAYSON, Sandra G. Bias In, Bias Out. Yale Law Journal, v. 128, 2019.

O’CONNOR, Michael P; RUMANN, Celia. Into the Fire: How to Avoid Getting Burned by the Same Mistakes Made Fighting Terrorism in Northern Ireland. Cardozo Law Review, v. 24, 2003.

PARLAMENTO EUROPEU E CONSELHO DA UNIÃO EUROPEIA, Regulamento (UE) 2016/679. Disponível em: https://eur-lex.europa.eu/legal-content/PT/TXT/?uri=celex%3A32016R0679. Acesso: 18 out. 2022.

PASQUALE, Frank. Inalienable Due Process in an Age of AI: Limiting the Contractual Creep toward Automated Adjudication. In MICKLITZ, H.; POLLICINO, O.; REICHMAN; A.; SIMONCINI, A.; SARTOR, G.; DE GREGORIO, G. (Eds.), Constitutional Challenges in the Algorithmic Society. Cambridge: Cambridge University Press, 2021.

REDISH, Martin H.; MARSHALL, Lawrence C. Adjudicatory Independence and the Values of Procedural Due Process. Yale Law Journal, vol. 95, n. 3, 1986.

RITCHEL, Matt. I Was Discovered by an Algorithm. N.Y. Times, 28 de abril de 2013. Disponível em: http://archive.indianexpress.com/news/i-was-discovered-by-an-algorithm/1111552/. Acesso em: 30 nov. 2022.

ROLDÁN, José Mena; VILA, Oriol Pujol; MARCA, Jordi Vitrià. Dirichlet uncertainty wrappers for actionable algorithm accuracy accountability and auditability. Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency, 2020.

STANFORD ENCYCLOPEDIA OF PHILOSOPHY. Counterfactuals. Disponível em https://plato.stanford.edu/entries/counterfactuals/#WhatCoun. Acesso em: 21 out. 2021.

STEINBOCK, Daniel J. Data Matching, Data Mining and Due Process. Georgia Law Review, v. 40, n. 1, 2005.

SUPREMA CORTE DOS ESTADOS UNIDOS, Goldberg v. Kelly, 397 U.S. 254, 1970.

SUPREMA CORTE DOS ESTADOS UNIDOS, Mathews v. Eldridge, 424 U.S. 319, 1976.

SUPREMA CORTE DOS ESTADOS UNIDOS. Brady v. Maryland, 373 U.S. 83, 1963.

TIAN, Hui; CHEN, Zhaoyi; CHANG, Chin-Chen; KURIBAYASHI, Minoru; HUANG, Yongfeng; CAI, Yiqiao; CHEN, Yonghong; WANG, Tian. Enabling Public Auditability for Operation Behaviors in Cloud Storage. Soft Computing, vol. 21, n. 8, p. 2175-2187, 2016.

VILLASENOR, John; FOGGO, Virginia. Artificial Intelligence, Due Process and Criminal Sentencing. Michigan State Law Review, v. 295, 2020, p. 339-340.

WACHTER, Sandra; MITTELSTADT, Brent; RUSSELL, Chris. Counterfactual Explanations without Opening the Black Box: Automated Decisions and the GDPR. Harvard Journal of Law & Technology, vol. 31, p. 841-888, 2018.

WON, Deborah. The Missing Algorithm: Safeguarding The Missing Algorithm: Safeguarding Brady Against the Rise of Against the Rise of Trade Secrecy in Policing. Michigan Law Review, vol. 120, 157, 2021.