A Inteligência Artificial frente ao fascismo: uma discussão a partir do ChatGPT

Autores

DOI:

https://doi.org/10.5007/2175-795X.2025.e101322

Palavras-chave:

Inteligência Artificial, Ciberfascismo, Tecnologias digitais

Resumo

Este artigo busca problematizar a suposta neutralidade da ferramenta de Inteligência Artificial (IA) generativa ChatGPT por meio de uma discussão na literatura crítica acerca da governamentalidade algorítmica e do ciberfascismo, bem como um experimento de conversa com o chatbot sobre temas sensíveis. Na primeira parte, são apresentadas definições do conceito de fascismo e discute-se a relação entre cibernética e fascismo, enfatizando a sua vertente contemporânea impulsionada pela mediação algorítmica. Depois, contextualiza-se o surgimento do ChatGPT, cotejando algumas experiências anteriores de IAs evidenciadas como ferramentas de diálogo que se viram obrigadas a lidar com a radicalização política e a alimentação da inteligência artificial com conteúdos sintonizados a um ethos fascista por parte de alguns usuários. Refletimos, também, sobre a presença de IAs generativas na educação, postulando sobre a proximidade do conceito freireano de Educação Bancária com o contemporâneo cibertecnicismo. Na parte empírica, destacamos dados de uma experimentação em formato de entrevista realizada com ChatGPT, na qual são formuladas perguntas que tentam induzir a inteligência artificial a responder se posicionando em determinados debates controversos. Na análise desse experimento, apontamos afinidades dessas respostas com a ideologia política fascista. Ao final, discutimos esses dados à luz do conceito de mediação e de cultura técnica em Gilbert Simondon.

Biografia do Autor

Rodrigo Lages e Silva, Universidade Federal do Rio Grande do Sul

Doutor em Psicologia pela Universidade Federal Fluminense, UFF, Niterói, RJ, Brasil, (com período de estudos na Universitat Rovira y Virgili _Tarragona/ES, doutorado-sanduíche), mestrado em Psicologia Social e Institucional pela Universidade Federal do Rio Grande do Sul, UFRGS, Brasil, e graduação em Psicologia pela UNISINOS. Foi professor visitante com financiamento CAPES-PRINT na Universidade Autônoma de Barcelona, no Programa de Pós Graduação Sociedade e Mundo Contemporâneo. É professor do Departamento de Estudos Básicos da Universidade (DEBAS) Federal do Rio Grande do Sul (UFRGS) e do Programa de Pós-graduação em Educação na linha Aprendizagem e Ensino. É coordenador do grupo de pesquisa INOMINAAR - Estudos sobre aprendizagem INventiva, saberes NÔmades, devires MInoritários, cognição eNAtiva e ARtesanias docentes. Atua como pesquisador e orientador de pós-graduação nas temáticas: aprendizagem incorporada; ensino de ciências humanas; genealogia das psicologias da educação; imigração, refúgio e os efeitos da experiência urbana na cognição e nas práticas educacionais.

Juliana Fraga, Universidade Federal do Rio Grande do Sul

Mestre em Educação pela Universidade Federal do Rio Grande do Sul, UFGRS, Brasil. Doutoranda em Educação pelo Programa de Pós-Graduação em Educação da Universidade Federal do Rio Grande do Sul (UFRGS). Especialista em Gestão e Planejamento Escolar pela Universidade La Salle (Unilasalle) e licenciada em História pela Universidade do Vale do Rio dos Sinos (Unisinos). Possui experiência docente desde 2002, tendo atuado na Educação Básica com crianças, jovens e adultos. Possui experiência no Ensino de História, ministra oficinas de Teatro em escolas desde 2012, dirigindo mais de 12 montagens teatrais com crianças e adolescentes em escolas das cidades de Esteio e Porto Alegre. Vasta experiência em projetos educacionais com grupos multisseriados, partindo de interesses e necessidades dos estudantes. Atualmente é bolsista CAPES, pesquisa na área de Ensino e Aprendizagem em Educação, em especial temáticas correlacionadas ao letramento histórico e potência pedagógica do Teatro em contexto das Sociedades das Plataformas (negacionismos e neofascismo).

Geovane Dantas Lacerda, Universidade Federal do Rio Grande do Sul

Mestre em Educação pela Universidade Federal do Rio Grande do Sul, UFRGS, Brasil. Professor de educação básica, graduado em História (UNISINOS) com especialização nas áreas de Filosofia (Filosofia: Os clássicos e suas obras, UNISINOS) e Educação (Mídias na Educação, UFRGS).  e doutorando em Educação (PPGEDU-UFRGS).

Marcelo Leandro Eichler, Universidade Federal do Rio Grande do Sul

Possui Licenciatura em Química (1997), mestrado em Psicologia (2000) e doutorado em Psicologia do Desenvolvimento (2004), obtendo todos os títulos na Universidade Federal do Rio Grande do Sul UFRGS, Brasil. Lecionou em outras quatro universidades públicas (UERGS, UFBA, FURG e UFSC) e, atualmente, é professor adjunto do Departamento de Química Inorgânica da Universidade Federal do Rio Grande do Sul (UFRGS), docente permanente dos programas de pós-graduação em Educação (UFRGS) e em Educação em Ciências (UFRGS/UFSM/UNIPAMPA) e pesquisador da Área de Educação Química. Foi coordenador local do Mestrado Profissional em Química em Rede Nacional (2017-2018) e coordenador dos cursos de química da UFRGS (2019-2020). Foi bolsista de Produtividade em Desenvolvimento Tecnológico e Extensão Inovadora entre 2010 e 2020; é bolsista de Produtividade de Pesquisa desde 03/2022. As suas atividades de pesquisa e de inovação estão relacionadas com a disseminação das tecnologias de informação e comunicação na educação científica e tecnológica. Também tem interesse pelos estudos de agnotologia e pela tematização e atualização do projeto de pesquisa de Jean Piaget. Possui experiência nas áreas de psicologia da educação e de ensino de química, atuando principalmente nos seguintes temas: epistemologia genética, psicologia ambiental, didática das ciências, informática educativa e formação de professores.

Referências

AB´SÁBER, Tales. Winnicott: Experiência e Paradoxo. São Paulo: UBU, 2021.

BALMER, Andrew. A Sociological Conversation with ChatGPT about AI Ethics, Affect and Reflexivity. Sociology, v. 57, n. 5, p. 1249-1258, 2023.

BEIGUELMAN, Giselle. Políticas da Imagem: vigilância e resistência na dadosfera. São Paulo: Ubu, 2021.

BENJAMIN, Walter. Teses sobre a filosofia da história. In: BENJAMIN, W. Obras escolhidas I. São Paulo: Brasiliense, 1985.

BERARDI, Franco. Depois do futuro. São Paulo: Ubu Editora, 2019.

BREY, Antony; INNERARITY. Daniel; MAYOS, Gonçal. La Sociedad de la Ignorancia y otros ensayos. Barcelona: Infomania, 2009.

BOBBIO, Norberto. Fascismo. In: BOBBIO, Norberto.; MATTEUCCI, Nicola.; PASQUINO, Gianfranco. Dicionário de política. Brasília: Editora Universidade de Brasília, 1998, p. 466-474.

CARVALHO, Felipe.; POCAHY, Fernando. Milícias digitais: fragmentos de pedagogias ciberfascistas. Educação (UFSM), [S. l.], v. 48, n. 1, 2023, p. 1-22. DOI: 10.5902/1984644466116

CASSAM, Quassim. Epistemic insouciance. Journal of Philosophical Research, 2018.

CHOMSKY, Noam.; ROBERTS, Ian.; WATUMULL, Jeffrey. Noam Chomsky: a Falsa Promessa do ChatGPT. Folha de São Paulo, São Paulo, 2023. Disponível em: https://www1.folha.uol.com.br/tec/2023/03/a-falsa-promessa-do-chatgpt.shtml. Acesso em: 7 nov. 2023.

COOPER, Grant. Examining Science Education in ChatGPT: An Exploratory Study of Generative Artificial Intelligence. Journal of Science Education and Technology, v. 32, 2023. p. 444–452.

DELEUZE, Gilles. Post Scriptum para a sociedade de controle. Conversações. São Paulo: Ed. 34, 1992.

FOUCAULT, Michel. Vigiar e punir: história da violência nas prisões. 8. ed. Petrópolis: Vozes, 1991.

FREIRE, Paulo. Pedagogia da autonomia: saberes necessários à prática educativa. 47. ed. São Paulo: Paz e Terra, (1996/2013).

GRAY, David E. Pesquisa no mundo real. Porto Alegre: Penso, 2012.

GUATTARI, Felix. Caosmose: um Novo Paradigma Estético. São Paulo: Editora 34, 2012.

HAN, Byung-Chul. Não-coisas: reviravoltas do mundo da vida. Petrópolis: Vozes, 2022.

HELBING, Dirk. Digital Fascism Rising? In: HELBING, D. (eds) Towards Digital Enlightenment. Springer, 2019, p. 99 - 102. Cham. https://doi.org/10.1007/978-3-319-90869-4_8. Acesso em: 15 nov. 2023.

KASTRUP, Virginia. Máquinas cognitivas: da cibernética a autopoiese. Arquivos Brasileiros de Psicologia, v. 45, n. 1, p. 150-61, 1993.

KLEIN, Naomi. AI machines aren’t ‘hallucinating’. But their makers are. The Guardian, Londres, 2023. Disponível em: https://www.theguardian.com/commentisfree/2023/may/08/ai-machines-hallucinating-naomi-klein. Acesso em: 7 nov. 2023.

LANIER, Jaron. Gadget: Você Não É um Aplicativo! São Paulo: Saraiva, 2010.

LAZZARATO, Maurizio. Fascismo ou revolução? O neoliberalismo em chave estratégica. São Paulo: N-1 Edições, 2019.

LOOS, Eugène.; GRÖPLER, Johanna.; GOUDEAU, Marie-Louise. Using ChatGPT in Education: Human Reflection on ChatGPT’s Self-Reflection. Societies, v. 13, n. 8, p. 196, 2023. Disponível em: https://doi.org/10.3390/soc13080196

MANCUSO, Stefano. A Revolução das Plantas. São Paulo: Ubu editora, 2019.

O DILEMA DAS REDES. Direção: Jeff Orlowski-Yang. Netflix, 2020. Streaming.

OPENAI. GPT-4 System Card. OpenAI, 2023. Disponível em: https://cdn.openai.com/papers/gpt-4-system-card.pdf. Acesso em: 7 nov. 2023.

PETERS, Michael A. et al. AI and the future of humanity: ChatGPT-4, philosophy and education – Critical responses. Educational Philosophy and Theory, 2023, p. 1-36. DOI: 10.1080/00131857.2023.22134372

PIMENTEL, Mariano.; CARVALHO, Felipe. Cibertecnicismo. Revista de Educação Pública, [S. l.], v. 31, n. jan/dez, 2022, p. 1–22. DOI: 10.29286/rep.v31ijan/dez.13919

PIMENTEL, Mariano.; CARVALHO, Felipe. ChatGPT: concepções epistêmico-didático-pedagógicas dos usos na educação. SBC Horizontes, 6 jun. 2023. Disponível em: http://horizontes.sbc.org.br/index.php/2023/06/chatgpt-concepcoes/. Acesso em: 30 out. 2023.

PIMENTEL, Mariano.; CARVALHO, Felipe. CHATGPT-4, OpenAI. ChatGPT: potencialidades e riscos para a Educação. SBC Horizontes, 8 maio 2023. Disponível em: http://horizontes.sbc.org.br/index.php/2023/05/chatgpt-potencialidades-e-riscos-para-a-educacao/. Acesso em: 28 out. 2023.

PIMENTEL, Mariano.; AZEVEDO, Viviane.; CARVALHO, Felipe. ChatGPT substituirá professoras e professores? SBC Horizontes, 10 mar. 2023a. Disponível em: http://horizontes.sbc.org.br/index.php/2023/03/chatgpt-substituira-professoras-e-professores. Acesso em: 26 out. 2023.

PIMENTEL, Mariano.; AZEVEDO, Viviane.; CARVALHO, Felipe. ChatGPT: a era da autoria híbrida humana/o-IA. SBC Horizontes, 21 mar. 2023b. Disponível em: https://horizontes.sbc.org.br/index.php/2023/03/chatgpt-a-era-da-autoria-hibrida/. Acesso em: 10 out. 2023.

PRADO, Magaly. Fake News e Inteligência Artificial: o Poder dos Algoritmos na Guerra da Desinformação. Lisboa: Edições 70, 2022.

RODRÍGUEZ, Pablo Esteban. Gubernamentalidad algorítmica: Sobre las formas de subjetivación en la sociedad de los metadatos. Barda, v. 6, n. 8, p. 14-35, 2018.

ROUVROY, Antoinette.; BERNS, Thomas. Governamentalidade algorítmica e perspectivas de emancipação: o díspar como condição de individuação pela relação. Revista Eco-Pós, v. 18, n. 2, p. 36-56, 2015.

SABZALIEVA, Emma.; VALENTINI, Arianna. ChatGPT e inteligencia artificial en la educación superior: Guía de inicio rápido. Paris: UNESCO, 2023.

SAFATLE, Vladimir. Cinismo e falência da crítica. São Paulo: Boitempo, 2008.

SILVA, Mozart Linhares da; HILLESHEIM, Betina. “Jogos de verdade”, educação e o ethos do fascismo contemporâneo. Perspectiva, n. 39, v. 1, 2021, p. 1-17. DOI. doi.org/10.5007/2175-795X.2021.e69860

SIMONDON, Gilbert. Do modo de existência dos objetos técnicos. Rio de Janeiro: Contraponto, 2020.

STIEGLER, Bernard. What Makes Life Worth Living: On Pharmacology. Cambridge: Polity, 2013.

STIEGLER, Bernard. Automatic Society: The Future of Work, Volume 1. Cambridge: Polity, 2016.

TIBURI, Márcia. Como derrotar o turbotecnomachonazifascismo, ou seja lá o nome que se queira dar ao mal que devemos superar. Rio de Janeiro: Record, 2020.

WINNICOTT, Donald. O brincar e a realidade. São Paulo: Ubu Editora, 2019.

Downloads

Publicado

2025-03-20

Como Citar

Silva, R. L. e, Fraga, J., Lacerda, G. D., & Eichler, M. L. (2025). A Inteligência Artificial frente ao fascismo: uma discussão a partir do ChatGPT. Perspectiva, 43(3), 1–22. https://doi.org/10.5007/2175-795X.2025.e101322

Edição

v. 43 n. 3 (2025)

Seção

Artigos de Demanda Contínua

Licença

Copyright (c) 2025 Rodrigo Lages e Silva, Juliana Fraga, Geovane Dantas Lacerda, Marcelo Leandro Eichler

Creative Commons License
Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.

 Esta revista proporciona acesso público a todo seu conteúdo, seguindo o princípio de que tornar gratuito o acesso a pesquisas gera um maior intercâmbio global de conhecimento. Tal acesso está associado a um crescimento da leitura e citação do trabalho de um autor. Para maiores informações sobre esta abordagem, visite Public Knowledge Project, projeto que desenvolveu este sistema para melhorar a qualidade acadêmica e pública da pesquisa, distribuindo o Open Journal Sistem (OJS) assim como outros software de apoio ao sistema de publicação de acesso público a fontes acadêmicas. Os nomes e endereços de e-mail neste site serão usados exclusivamente para os propósitos da revista, não estando disponíveis para outros fins.

A Perspectiva permite que os autores retenham os direitos autorais sem restrições bem como os direitos de publicação. Caso o texto venha a ser publicado posteriormente em outro veículo, solicita-se aos autores informar que o mesmo foi originalmente publicado como artigo na revista Perspectiva, bem como citar as referências bibliográficas completas dessa publicação.