Inteligencia Artificial frente al fascismo: una discusión desde ChatGPT

Autores/as

DOI:

https://doi.org/10.5007/2175-795X.2025.e101322

Palabras clave:

Inteligencia Artificial, Ciberfascismo, Tecnologías digitales

Resumen

Con el objetivo de discutir la neutralidad de la herramienta de Inteligencia Artificial (IA) generativa de ChatGPT, este artículo analiza las relaciones entre el fascismo y las respuestas producidas por el chatbot.. En la primera parte se presentan definiciones del concepto de fascismo y se discute la relación entre la cibernética y el fascismo, enfatizando su aspecto contemporáneo impulsado por la mediación algorítmica. Luego se contextualiza el surgimiento de ChatGPT, comparando algunas experiencias previas de IA presentadas como una herramienta para el diálogo que tuvieron que lidiar con la radicalización política y la alimentación de la inteligencia artificial con contenidos sintonizados con un ethos fascista por parte de unos usuarios. Reflexionamos sobre la presencia de IA generativas en la educación, postulando la proximidad. En la parte empírica, reportamos datos de un experimento tipo entrevista realizado con ChatGPT, en el que se formulan preguntas que intentan inducir a la inteligencia artificial a responder tomando posición en ciertos debates polémicos. Al analizar el experimento, señalamos algunas afinidades de estas respuestas con la ideología política fascista. Finalmente, discutimos estos datos bajo los concepto de mediación y cultura técnica en Gilbert Simondon.

Biografía del autor/a

Rodrigo Lages e Silva, Universidade Federal do Rio Grande do Sul

Es doctor en Psicología: Estudios de la Subjetividad por la Universidade Federal Fluminense, UFF, Niterói, RJ, Brasil (con período de estudio en la Universitat Rovira y Virgili _Tarragona/ES, doctorado sándwich), máster en Psicología Social e Institucional por la UFRGS y licenciado en Psicología por la UNISINOS. Fue profesor visitante con financiación CAPES-PRINT en la Universidad Autónoma de Barcelona, ​​​​en el Programa de Posgrado en Sociedad y Mundo Contemporáneo. Es profesor del Departamento de Estudios Básicos de la Universidad Federal de Rio Grande do Sul (DEBAS) y del Programa de Posgrado en Educación en la línea de Aprendizaje y Enseñanza. Es coordinador del grupo de investigación INOMINAAR - Estudios sobre aprendizaje INventivo, saberes nómadas, devenires minoritarios, cognición eNAtiva y artesanos docentes. Actúa como investigador y asesor de posgrado en los siguientes temas: aprendizaje encarnado; enseñanza de ciencias humanas; genealogía de las psicologías educativas; inmigración, refugio y efectos de la experiencia urbana en la cognición y las prácticas educativas.

Juliana Fraga, Universidade Federal do Rio Grande do Sul

Máster en Educación por la Universidad Federal de Rio Grande do Sul, UFGRS, Brasil. Estudiante de doctorado en Educación en el Programa de Postgrado en Educación de la Universidad Federal de Rio Grande do Sul (UFRGS), especialista en Gestión y Planificación Escolar por la Universidad La Salle (Unilasalle) y licenciada en Historia por la Universidad del Vale do Rio dos Sinos (Unisinos). Tiene experiencia docente desde 2002, habiendo trabajado en Educación Básica con niños, jóvenes y adultos. Tiene experiencia en Enseñanza de Historia, ha impartido talleres de Teatro en escuelas desde 2012, dirigiendo más de 12 producciones teatrales con niños y adolescentes en escuelas de las ciudades de Esteio y Porto Alegre. Amplia experiencia en proyectos educativos con grupos multigrado, a partir de los intereses y necesidades de los estudiantes. Actualmente es becaria CAPES, investigando en el área de Enseñanza y Aprendizaje en Educación, especialmente temas relacionados con la alfabetización histórica y el poder pedagógico del Teatro en el contexto de las Sociedades de Plataforma (negacionismo y neofascismo).

Geovane Dantas Lacerda, Universidade Federal do Rio Grande do Sul

Máster en Educación - PPGEDU - Universidade Federal do Rio Grande do Sul, UFRGS, Brasil,  y candidata a doctora en Educación (PPGEDU-UFRGS). Soy maestro de educación básica, licenciada en Historia (UNISINOS) con especialización en las áreas de Filosofía (Filosofía: Los clásicos y sus obras, UNISINOS) y Educación (Medios en Educación, UFRGS).

Marcelo Leandro Eichler, Universidade Federal do Rio Grande do Sul

Es licenciado en Química (1997), máster en Psicología (2000) y doctor en Psicología del Desarrollo (2004), obteniendo todos los títulos de la Universidade Federal do Rio Grande do Sul UFRGS, Brasil. Enseñó en otras cuatro universidades públicas (UERGS, UFBA, FURG y UFSC) y actualmente es profesor adjunto del Departamento de Química Inorgánica de la Universidad Federal de Rio Grande do Sul (UFRGS), profesor permanente de los programas de posgrado en Educación (UFRGS) y en Educación en Ciencias (UFRGS/UFSM/UNIPAMPA) e investigador del Área de Educación Química. Fue coordinador local de la Maestría Profesional en Química en Red Nacional (2017-2018) y coordinador de los cursos de química de la UFRGS (2019-2020). Fue becario de Productividad en Desarrollo Tecnológico y Extensión Innovadora entre 2010 y 2020; es Becario de Productividad en Investigación desde 03/2022. Sus actividades de investigación e innovación están relacionadas con la difusión de las tecnologías de la información y la comunicación en la educación científica y tecnológica. También está interesado en los estudios de agnotología y la tematización y actualización del proyecto de investigación de Jean Piaget. Tiene experiencia en las áreas de psicología educativa y enseñanza de la química, trabajando principalmente en los siguientes temas: epistemología genética, psicología ambiental, didáctica de las ciencias, informática educativa y formación docente.

Citas

AB´SÁBER, Tales. Winnicott: Experiência e Paradoxo. São Paulo: UBU, 2021.

BALMER, Andrew. A Sociological Conversation with ChatGPT about AI Ethics, Affect and Reflexivity. Sociology, v. 57, n. 5, p. 1249-1258, 2023.

BEIGUELMAN, Giselle. Políticas da Imagem: vigilância e resistência na dadosfera. São Paulo: Ubu, 2021.

BENJAMIN, Walter. Teses sobre a filosofia da história. In: BENJAMIN, W. Obras escolhidas I. São Paulo: Brasiliense, 1985.

BERARDI, Franco. Depois do futuro. São Paulo: Ubu Editora, 2019.

BREY, Antony; INNERARITY. Daniel; MAYOS, Gonçal. La Sociedad de la Ignorancia y otros ensayos. Barcelona: Infomania, 2009.

BOBBIO, Norberto. Fascismo. In: BOBBIO, Norberto.; MATTEUCCI, Nicola.; PASQUINO, Gianfranco. Dicionário de política. Brasília: Editora Universidade de Brasília, 1998, p. 466-474.

CARVALHO, Felipe.; POCAHY, Fernando. Milícias digitais: fragmentos de pedagogias ciberfascistas. Educação (UFSM), [S. l.], v. 48, n. 1, 2023, p. 1-22. DOI: 10.5902/1984644466116

CASSAM, Quassim. Epistemic insouciance. Journal of Philosophical Research, 2018.

CHOMSKY, Noam.; ROBERTS, Ian.; WATUMULL, Jeffrey. Noam Chomsky: a Falsa Promessa do ChatGPT. Folha de São Paulo, São Paulo, 2023. Disponível em: https://www1.folha.uol.com.br/tec/2023/03/a-falsa-promessa-do-chatgpt.shtml. Acesso em: 7 nov. 2023.

COOPER, Grant. Examining Science Education in ChatGPT: An Exploratory Study of Generative Artificial Intelligence. Journal of Science Education and Technology, v. 32, 2023. p. 444–452.

DELEUZE, Gilles. Post Scriptum para a sociedade de controle. Conversações. São Paulo: Ed. 34, 1992.

FOUCAULT, Michel. Vigiar e punir: história da violência nas prisões. 8. ed. Petrópolis: Vozes, 1991.

FREIRE, Paulo. Pedagogia da autonomia: saberes necessários à prática educativa. 47. ed. São Paulo: Paz e Terra, (1996/2013).

GRAY, David E. Pesquisa no mundo real. Porto Alegre: Penso, 2012.

GUATTARI, Felix. Caosmose: um Novo Paradigma Estético. São Paulo: Editora 34, 2012.

HAN, Byung-Chul. Não-coisas: reviravoltas do mundo da vida. Petrópolis: Vozes, 2022.

HELBING, Dirk. Digital Fascism Rising? In: HELBING, D. (eds) Towards Digital Enlightenment. Springer, 2019, p. 99 - 102. Cham. https://doi.org/10.1007/978-3-319-90869-4_8. Acesso em: 15 nov. 2023.

KASTRUP, Virginia. Máquinas cognitivas: da cibernética a autopoiese. Arquivos Brasileiros de Psicologia, v. 45, n. 1, p. 150-61, 1993.

KLEIN, Naomi. AI machines aren’t ‘hallucinating’. But their makers are. The Guardian, Londres, 2023. Disponível em: https://www.theguardian.com/commentisfree/2023/may/08/ai-machines-hallucinating-naomi-klein. Acesso em: 7 nov. 2023.

LANIER, Jaron. Gadget: Você Não É um Aplicativo! São Paulo: Saraiva, 2010.

LAZZARATO, Maurizio. Fascismo ou revolução? O neoliberalismo em chave estratégica. São Paulo: N-1 Edições, 2019.

LOOS, Eugène.; GRÖPLER, Johanna.; GOUDEAU, Marie-Louise. Using ChatGPT in Education: Human Reflection on ChatGPT’s Self-Reflection. Societies, v. 13, n. 8, p. 196, 2023. Disponível em: https://doi.org/10.3390/soc13080196

MANCUSO, Stefano. A Revolução das Plantas. São Paulo: Ubu editora, 2019.

O DILEMA DAS REDES. Direção: Jeff Orlowski-Yang. Netflix, 2020. Streaming.

OPENAI. GPT-4 System Card. OpenAI, 2023. Disponível em: https://cdn.openai.com/papers/gpt-4-system-card.pdf. Acesso em: 7 nov. 2023.

PETERS, Michael A. et al. AI and the future of humanity: ChatGPT-4, philosophy and education – Critical responses. Educational Philosophy and Theory, 2023, p. 1-36. DOI: 10.1080/00131857.2023.22134372

PIMENTEL, Mariano.; CARVALHO, Felipe. Cibertecnicismo. Revista de Educação Pública, [S. l.], v. 31, n. jan/dez, 2022, p. 1–22. DOI: 10.29286/rep.v31ijan/dez.13919

PIMENTEL, Mariano.; CARVALHO, Felipe. ChatGPT: concepções epistêmico-didático-pedagógicas dos usos na educação. SBC Horizontes, 6 jun. 2023. Disponível em: http://horizontes.sbc.org.br/index.php/2023/06/chatgpt-concepcoes/. Acesso em: 30 out. 2023.

PIMENTEL, Mariano.; CARVALHO, Felipe. CHATGPT-4, OpenAI. ChatGPT: potencialidades e riscos para a Educação. SBC Horizontes, 8 maio 2023. Disponível em: http://horizontes.sbc.org.br/index.php/2023/05/chatgpt-potencialidades-e-riscos-para-a-educacao/. Acesso em: 28 out. 2023.

PIMENTEL, Mariano.; AZEVEDO, Viviane.; CARVALHO, Felipe. ChatGPT substituirá professoras e professores? SBC Horizontes, 10 mar. 2023a. Disponível em: http://horizontes.sbc.org.br/index.php/2023/03/chatgpt-substituira-professoras-e-professores. Acesso em: 26 out. 2023.

PIMENTEL, Mariano.; AZEVEDO, Viviane.; CARVALHO, Felipe. ChatGPT: a era da autoria híbrida humana/o-IA. SBC Horizontes, 21 mar. 2023b. Disponível em: https://horizontes.sbc.org.br/index.php/2023/03/chatgpt-a-era-da-autoria-hibrida/. Acesso em: 10 out. 2023.

PRADO, Magaly. Fake News e Inteligência Artificial: o Poder dos Algoritmos na Guerra da Desinformação. Lisboa: Edições 70, 2022.

RODRÍGUEZ, Pablo Esteban. Gubernamentalidad algorítmica: Sobre las formas de subjetivación en la sociedad de los metadatos. Barda, v. 6, n. 8, p. 14-35, 2018.

ROUVROY, Antoinette.; BERNS, Thomas. Governamentalidade algorítmica e perspectivas de emancipação: o díspar como condição de individuação pela relação. Revista Eco-Pós, v. 18, n. 2, p. 36-56, 2015.

SABZALIEVA, Emma.; VALENTINI, Arianna. ChatGPT e inteligencia artificial en la educación superior: Guía de inicio rápido. Paris: UNESCO, 2023.

SAFATLE, Vladimir. Cinismo e falência da crítica. São Paulo: Boitempo, 2008.

SILVA, Mozart Linhares da; HILLESHEIM, Betina. “Jogos de verdade”, educação e o ethos do fascismo contemporâneo. Perspectiva, n. 39, v. 1, 2021, p. 1-17. DOI. doi.org/10.5007/2175-795X.2021.e69860

SIMONDON, Gilbert. Do modo de existência dos objetos técnicos. Rio de Janeiro: Contraponto, 2020.

STIEGLER, Bernard. What Makes Life Worth Living: On Pharmacology. Cambridge: Polity, 2013.

STIEGLER, Bernard. Automatic Society: The Future of Work, Volume 1. Cambridge: Polity, 2016.

TIBURI, Márcia. Como derrotar o turbotecnomachonazifascismo, ou seja lá o nome que se queira dar ao mal que devemos superar. Rio de Janeiro: Record, 2020.

WINNICOTT, Donald. O brincar e a realidade. São Paulo: Ubu Editora, 2019.

Descargas

Publicado

2025-03-20

Cómo citar

Silva, R. L. e, Fraga, J., Lacerda, G. D., & Eichler, M. L. (2025). Inteligencia Artificial frente al fascismo: una discusión desde ChatGPT. Perspectiva, 43(3), 1–22. https://doi.org/10.5007/2175-795X.2025.e101322

Número

Vol. 43 Núm. 3 (2025): Dossier La escuela remota se hizo realidad: ¿y ahora, dónde está el lector?

Sección

Artículos de demanda continua

Licencia

Derechos de autor 2025 Rodrigo Lages e Silva, Juliana Fraga, Geovane Dantas Lacerda, Marcelo Leandro Eichler

Creative Commons License

Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.

 Esta revista proporciona acesso público a todo seu conteúdo, seguindo o princípio de que tornar gratuito o acesso a pesquisas gera um maior intercâmbio global de conhecimento. Tal acesso está associado a um crescimento da leitura e citação do trabalho de um autor. Para maiores informações sobre esta abordagem, visite Public Knowledge Project, projeto que desenvolveu este sistema para melhorar a qualidade acadêmica e pública da pesquisa, distribuindo o Open Journal Sistem (OJS) assim como outros software de apoio ao sistema de publicação de acesso público a fontes acadêmicas. Os nomes e endereços de e-mail neste site serão usados exclusivamente para os propósitos da revista, não estando disponíveis para outros fins.

A Perspectiva permite que os autores retenham os direitos autorais sem restrições bem como os direitos de publicação. Caso o texto venha a ser publicado posteriormente em outro veículo, solicita-se aos autores informar que o mesmo foi originalmente publicado como artigo na revista Perspectiva, bem como citar as referências bibliográficas completas dessa publicação.