AI-Augmented Consequentialist Ethics (AI-ACE): a new frontier for the concept of responsibility

Marcus Gansauskas Bruzzo

doi:10.5007/1677-2954.2026.e111930

Autores

Marcus Gansauskas Bruzzo University of Tartu https://orcid.org/0000-0002-3689-5008

DOI:

https://doi.org/10.5007/1677-2954.2026.e111930

Palavras-chave:

consequencialismo, inteligência artificial, ética, desqualificação, IA

Resumo

Este artigo explora como a teoria ética do consequencialismo - que determina a "moralidade" de uma ação com base na previsibilidade de seus resultados - está sendo redefinida pela Inteligência Artificial. Tradicionalmente, a responsabilidade ética humana é restringida pela capacidade cognitiva de prever consequências (ignorância não culpável). A tese central é que a IA, ao processar vastos "Data Lakes," gera uma "hipervisão" que revela padrões previamente não vistos, expandindo significativamente o escopo do que é considerado "razoavelmente previsível." Este desenvolvimento estabelece o Consequencialismo Aumentado por IA (Al-Augmented Consequentialism), onde o dever moral de um agente agora incorpora a capacidade preditiva da tecnologia disponível. Consequentemente, a responsabilidade ética aumenta, minando a defesa da ignorância como desculpa moral (erosão da ignorância culpável); a falha em utilizar esta capacidade pode, portanto, ser vista como negligência. No entanto, esta suposta hipervisão é desafiada por questões de opacidade do sistema (o problema da caixa preta) e o 'deskilling moral" (perda de habilidades morais), onde a autonomia humana pode ser sacrificada pela otimização algorítmica. Embora a IA deva idealmente aprimorar a maturidade ética humana em vez de substituí-la, a dependência humana da IA para uma previsão precisa torna-se inevitável.

Referências

BIJKER, Wiebe E.; LAW, John. Shaping Technology/Building Society: studies in sociotechnical change. Cambridge, MA: MIT Press, 1992.

BRINK, David O. Consequentialism, the separateness of persons, and aggregation. In: PORTMORE, Douglas W. (ed.). The Oxford handbook of consequentialism. New York: Oxford University Press, 2020. p. 378–398.

BYKVIST, Krister. Consequentialism, ignorance, and uncertainty. In: PORTMORE, Douglas W. (ed.). The Oxford handbook of consequentialism. New York: Oxford University Press, 2020. p. 310–330.

CASTELLS, Manuel. The rise of the network society. Oxford: Blackwell, 1996.

CHAKRABORTI, Chhanda. Introduction to ethics: concepts, theories, and contemporary issues. Cham: Springer, 2023.

CRAIG, Edward. The shorter Routledge encyclopedia of philosophy. London/New York: Routledge, 2005.

FLORIDI, Luciano. The ethics of artificial intelligence: principles, challenges, and opportunities. Oxford: Oxford University Press, 2023.

FLORIDI, Luciano. The fourth revolution: how the infosphere is reshaping human reality. Oxford: Oxford University Press, 2014.

HOLLAND MICHEL, Arthur. The black box, unlocked: predictability and understandability in military AI. Geneva: United Nations Institute for Disarmament Research, 2020.

HOOKER, Brad. The role(s) of rules in consequentialist ethics. In: PORTMORE, Douglas W. (ed.). The Oxford handbook of consequentialism. New York: Oxford University Press, 2020. p. 441–460.

HURLEY, Paul. Consequentializing. In: PORTMORE, Douglas W. (ed.). The Oxford handbook of consequentialism. New York: Oxford University Press, 2020. cap. 2.

JACKSON, Frank. Consequentialism and action guidingness. In: PORTMORE, Douglas W. (ed.). The Oxford handbook of consequentialism. New York: Oxford University Press, 2020. cap. 17.

KANT, Immanuel. Metaphysics of morals. Petrópolis: Vozes, 2013.

KAZIM, Emre; KOSHIYAMA, Adriano S. A high-level overview of AI ethics. Patterns, v. 2, n. 100314, 2021.

LATOUR, Bruno. An inquiry into modes of existence: an anthropology of the moderns. Cambridge, MA: Harvard University Press, 2013.

LAZOVIC, S. Perspectives on AI, machine learning and predictability in the Italian legal system. Tese (Doutorado) – Università degli Studi Niccolò Cusano, Roma, 2022.

LIBERMAN, Alida. Consequentialism and promises. In: PORTMORE, Douglas W. (ed.). The Oxford handbook of consequentialism. New York: Oxford University Press, 2020. cap. 15.

LIU, Yinqi; MOORE, Adam; WEBB, J.; VALLOR, Shannon. Artificial moral advisors: a new perspective from moral psychology. In: Proceedings of the ACM/AAAI conference on AI, ethics, and society (AIES ’22). New York: ACM, 2022. p. 1–10.

MARTIN, Kelly. Ethical implications and accountability of algorithms. Journal of Business Ethics, v. 160, p. 835–850, 2019.

MCLUHAN, Marshall. Understanding media: the extensions of man. São Paulo: Cultrix, 2012.

PETERSON, Martin. The dimensions of consequentialism: ethics, equality and risk. Cambridge: Cambridge University Press, 2013.

RAILTON, Peter. Facts, values, and norms: essays toward a morality of consequence. Cambridge: Cambridge University Press, 2003.

TSAMADOS, Andreas et al. The ethics of algorithms: key problems and solutions. AI & Society, v. 37, p. 215–230, 2022.

VALLOR, Shannon. Moral deskilling and upskilling in a new machine age. Philosophy & Technology, v. 28, n. 1, p. 107–124, 2015.

WOOD, Nathan. Virtue rediscovered: deontology, consequentialism, and virtue ethics in the contemporary moral landscape. Lanham: Rowman & Littlefield, 2020.