De la autonomía emergente a la personalidad instrumental: reconstrucción dogmática de la responsabilidad en agentes inteligentes de frontera

Fernando A. Ramos-Zaga

doi:10.5007/2177-7055.2026.e109148

Autores

Fernando A. Ramos-Zaga Private University of the North https://orcid.org/0000-0001-6301-9460

DOI:

https://doi.org/10.5007/2177-7055.2026.e109148

Palavras-chave:

Personalidade jurídica algorítmica, Agência funcional, Agentes inteligentes, Controle humano significativo

Resumo

Este artigo analisa as tensões estruturais que a opacidade epistêmica inerente aos modelos de fronteira empregados em agentes inteligentes produz sobre as garantias constitucionais de fundamentação, rastreabilidade e controle jurisdicional. A pesquisa parte da constatação de que a autonomia emergente e a impossibilidade técnica de reconstruir cadeias causais no funcionamento desses sistemas tornam inviável o paradigma do controle humano significativo e o convertem em uma ficção normativa incapaz de assegurar uma responsabilização efetiva. A partir desse diagnóstico, adota-se uma abordagem teórico-dogmática de orientação crítico-analítica para compreender a crise de legitimidade provocada pela inteligência artificial generativa. Os resultados mostram que a ausência de sujeitos humanos identificáveis vinculados causalmente aos efeitos desses modelos gera um vazio estrutural de imputação, incompatível com as exigências do Estado de Direito. Conclui-se que a criação de uma personalidade jurídica algorítmica de caráter instrumental, inspirada em antecedentes como o peculium romano, constitui uma alternativa normativamente coerente para restabelecer centros funcionais de responsabilidade, garantir a reparação e preservar a coerência do sistema jurídico em contextos de agência distribuída.

Biografia do Autor

Fernando A. Ramos-Zaga, Private University of the North

Docente e pesquisador, seu trabalho acadêmico concentra-se em bioética, filosofia do direito, regulação de novas tecnologias e economia comportamental, áreas nas quais desenvolve abordagens interdisciplinares voltadas à análise das implicações sociais, éticas e normativas da inovação científica e tecnológica. Entre suas publicações mais recentes destacam-se os artigos “Hacia una bioética de segunda generación: fundamentos normativos para la edición genética de la línea germinal humana” [Rumo a uma bioética de segunda geração: fundamentos normativos para a edição genética da linha germinativa humana] (En-claves del Pensamiento, 2026) e “Reconceptualizing Human Authorship in the Age of Generative AI: A Normative Framework for Copyright Thresholds” [Reconceituando a autoria humana na era da IA generativa: um marco normativo para os limiares de proteção do direito autoral] (Laws, 2025).

Referências

ALBRECHT, L.; BRAUN, H.; KOSACK, T. R.; KRÜGER, T. The Limits of Meaningful Human Control of AI in the Maritime Domain. Transactions on Maritime Science, v. 14, n. 3, 2025.

ALEXY, R. Teoría de la argumentación jurídica: La teoría del discurso racional como teoría de la fundamentación jurídica. Madrid: Centro de Estudios Constitucionales, 1989.

AMODEI, D.; OLAH, C.; STEINHARDT, J.; CHRISTIANO, P.; SCHULMAN, J.; MANÉ, D. Concrete Problems in AI Safety. arXiv, 2016.

ANTAMIS, T.; DROSOU, A.; VAFEIADIS, T.; NIZAMIS, A.; IOANNIDIS, D.; TZOVARAS, D. Interpretability of Deep Neural Networks: A Review of Methods, Classification and Hardware. Neurocomputing, v. 601, artículo 128204, oct. 2024.

ATIENZA, M. Curso de argumentación jurídica. Madrid: Editorial Trotta, 2013.

BAROCAS, S.; SELBST, A. D. Big Data's Disparate Impact. California Law Review, v. 104, n. 3, p. 671–732, 2016.

BOMMASANI, R.; HUDSON, D. A.; ADELI, E.; ALTMAN, R.; ARORA, S.; VON ARX, S.; BERNSTEIN, M. S. et al. On the Opportunities and Risks of Foundation Models. arXiv, 2021.

BROWN, T. B.; MANN, B.; RYDER, N.; SUBBIAH, M.; KAPLAN, J.; DHARIWAL, P.; NEELAKANTAN, A. et al. Language Models Are Few Shot Learners. In: Advances in Neural Information Processing Systems 33, 2020.

ČERKA, P.; GRIGIENĖ, J.; SIRBIKYTĖ, G. Liability for Damages Caused by Artificial Intelligence. Computer Law & Security Review, v. 31, n. 3, p. 376–389, 2015.

CHAR, D. S.; SHAH, N. H.; MAGNUS, D. Implementing Machine Learning in Health Care, Addressing Ethical Challenges. New England Journal of Medicine, v. 378, n. 11, p. 981–983, 2018.

CITRON, D. K. Technological Due Process. Washington University Law Review, v. 85, n. 6, p. 1249–1313, 2008.

CROOTOF, R. War Torts: Accountability for Autonomous Weapons. University of Pennsylvania Law Review, v. 164, n. 6, p. 1347–1402, 2016.

ELHAGE, N.; NANDA, N.; OLSSON, C.; HENIGHAN, T.; JOSEPH, N.; MANN, B.; ASKELL, A. et al. A Mathematical Framework for Transformer Circuits. Transformer Circuits Thread, 2021.

ELISH, M. C. Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction. Engaging Science, Technology, and Society, v. 5, p. 40–60, 2019.

FERRAJOLI, L. Principia iuris: Teoría del derecho y de la democracia. Vol. 1, Teoría del derecho. Madrid: Editorial Trotta, 2011.

GIERKE, O. F. von; TROELTSCH, E. Natural Law and the Theory of Society, 1500 to 1800. Traducido por Sir Ernest Barker. Reimpresa. The Lawbook Exchange, Ltd., 2001.

GREEN, B.; CHEN, Y. The Principles and Limits of Algorithm-in-the-Loop Decision Making. Proceedings of the ACM on Human-Computer Interaction, v. 3, CSCW, p. 1–24, 2019.

GUASTINI, R. Interpretar y argumentar. Madrid: Centro de Estudios Políticos y Constitucionales, 2014.

HILDEBRANDT, M. The New Imbroglio, Living with Machine Algorithms. In: JANSSENS, L. (ed.). The Art of Ethics in the Information Society. Amsterdam: Amsterdam University Press, 2016. p. 55–60.

KELSEN, H. Teoría pura del derecho. Traducción de Roberto J. Vernengo. México: Universidad Nacional Autónoma de México, 1982.

KENTON, Z.; EVERITT, T.; WEIDINGER, L.; GABRIEL, I.; MIKULIK, V.; IRVING, G. Alignment of Language Agents. arXiv preprint, arXiv:2103.14659, 2021.

KOZLOVSKI, A. Reasons Underdetermination in Meaningful Human Control. Ethics and Information Technology, v. 27, n. 59, 2025.

KUMARAGE, P. M.; SAARELA, M. Explainable Generative AI: A Two-Stage Review of Existing Techniques and Future Research Directions. AI, v. 7, n. 1, p. 31, 2026.

LIPTON, Z. C. The Mythos of Model Interpretability. Communications of the ACM, v. 61, n. 10, p. 36–43, 2018.

LUHMANN, N. Social Systems. Stanford: Stanford University Press, 1995.

MAHROUK, A. Epistemic Limits of Local Interpretability in Self-Modulating Cognitive Architectures. Frontiers in Artificial Intelligence, v. 8, 2025.

MELLO, M. M.; GUHA, N. Understanding Liability Risk from Using Health Care Artificial Intelligence Tools. New England Journal of Medicine, v. 390, n. 3, p. 271–278, 2024.

O'NEIL, C. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. New York: Crown, 2016.

PAGALLO, U. The Laws of Robots: Crimes, Contracts, and Torts. Dordrecht: Springer, 2013.

PARASURAMAN, R.; RILEY, V. Humans and Automation: Use, Misuse, Disuse, Abuse. Human Factors, v. 39, n. 2, p. 230–253, 1997.

PAREDES, F. I. Judicial Discretion, Reasonableness and Judicial Review. Cuestiones Constitucionales, n. 42, p. 251–270, 2020.

PRICE, W. N. II. Medical Malpractice and Black-Box Medicine. In: COHEN, I. G.; LYNCH, H. F.; VAYENA, E.; GASSER, U. (eds.). Big Data, Health Law, and Bioethics. Cambridge: Cambridge University Press, 2018. p. 295–306.

PRIERGAARD, J. Not My Debt: The Institutional Origins of Robodebt. Australian Journal of Public Administration, ago. 2024.

REMUS, D.; LEVY, F. Can Robots Be Lawyers? Computers, Lawyers, and the Practice of Law. Georgetown Journal of Legal Ethics, v. 30, p. 501–558, 2017.

SALVI, M.; SEONI, S.; CAMPAGNER, A.; GERTYCH, A.; ACHARYA, U. R.; MOLINARI, F.; CABITZA, F. Explainability and Uncertainty: Two Sides of the Same Coin for Enhancing the Interpretability of Deep Learning Models in Healthcare. International Journal of Medical Informatics, v. 197, p. 105846, 2025.

SANTONI DE SIO, F.; MECACCI, G.; CALVERT, S.; HEIKOOP, D.; HAGENZIEKER, M.; VAN AREM, B. Realising Meaningful Human Control Over Automated Driving Systems: A Multidisciplinary Approach. Minds and Machines, v. 33, p. 587–611, 2023.

SANTONI DE SIO, F.; VAN DEN HOVEN, J. Meaningful Human Control over Autonomous Systems: A Philosophical Account. Frontiers in Robotics and AI, v. 5, p. 15, 2018.

SCHERER, M. U. Regulating Artificial Intelligence Systems: Risks, Challenges, Competencies, and Strategies. Harvard Journal of Law & Technology, v. 29, n. 2, p. 353–400, 2016.

SOLUM, L. B. Legal Personhood for Artificial Intelligences. North Carolina Law Review, v. 70, n. 4, p. 1231–1287, 1992.

SRIVASTAVA, S. Large Language Models Threaten Language's Epistemic and Communicative Foundations. In: Proceedings of the 2025 Conference on Empirical Methods in Natural Language Processing. Miami, Florida: Association for Computational Linguistics, 2025. p. 1–15.

SUKSI, M. Administrative Due Process When Using Automated Decision-Making in Public Administration: Some Notes from a Finnish Perspective. Artificial Intelligence and Law, v. 29, p. 87–110, 2021.

TEUBNER, G. Digital Personhood? The Status of Autonomous Software Agents in Private Law. Ancilla Iuris, p. 107–149, 2018.

TRITTO, P. P.; TORRES, I. C. Jurists of the Gaps: Large Language Models and the Quiet Erosion of Legal Authority. Masaryk University Journal of Law and Technology, v. 19, n. 2, p. 179–205, 2025.

UNIÓN EUROPEA. Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo de 13 de junio de 2024 por el que se establecen normas armonizadas en materia de inteligencia artificial. Diario Oficial de la Unión Europea, L 2024/1689, 12 jul. 2024.

VASWANI, A.; SHAZEER, N.; PARMAR, N.; USZKOREIT, J.; JONES, L.; GOMEZ, A. N.; KAISER, Ł.; POLOSUKHIN, I. Attention Is All You Need. In: Advances in Neural Information Processing Systems 30, 2017. p. 5998–6008.

VELUWENKAMP, H. Reasons for Meaningful Human Control. Ethics and Information Technology, v. 24, n. 51, 2022.

WACHTER, S.; MITTELSTADT, B.; FLORIDI, L. Why a Right to Explanation of Automated Decision-Making Does Not Exist in the General Data Protection Regulation. International Data Privacy Law, v. 7, n. 2, p. 76–99, 2017.

WEI, J.; TAY, Y.; BOMMASANI, R.; RAFFEL, C.; ZOPH, B.; BORGEAUD, S.; YOGATAMA, D. et al. Emergent Abilities of Large Language Models. Transactions on Machine Learning Research, 2022.

YEUNG, K. 'Hypernudge': Big Data as a Mode of Regulation by Design. Information, Communication & Society, v. 20, n. 1, p. 118–136, 2017.

ZALNIERIUTE, M.; MOSES, L. B.; WILLIAMS, G. The Rule of Law and Automation of Government Decision-Making. Modern Law Review, v. 82, n. 3, p. 425–455, 2019.