Semiosis Algorítmica y Sesgo Racial
un Estudio de Imágenes Creadas por IA Generativa
DOI:
https://doi.org/10.5007/1518-2924.2025.e103495Palabras clave:
Racismo AlgorítmicoResumen
Objetivo: Investigar la relación trirrelacional entre objeto, signo e interpretante en el funcionamiento de herramientas de Inteligencia Artificial (IA) generativa para la producción de imágenes, con énfasis en el sesgo racial. Método: Investigación exploratoria y cuali-cuantitativa, que empleó un enfoque semiótico y de contenido crítico. La recolección de datos se llevó a cabo en cuatro etapas: 1) selección de 10 herramientas; 2) formulación de ocho prompts textuales en inglés; 3) generación y almacenamiento de 155 imágenes; 4) categorización, análisis de estas imágenes y selección de 47 de ellas para demostrar los patrones y marcadores observados. Resultados: Predominio de un grupo étnico y social específico en las imágenes generadas, con ausencia de marcadores de diversidad. Al usar los prompts genéricos: 'un hombre' y 'una mujer', el 90,9 % de las imágenes de hombres y el 92 % de las imágenes de mujeres retrataron a individuos blancos de clase media-alta. Al usar prompts más específicos: 'un hombre negro' y 'una mujer negra', las imágenes a menudo replicaron estereotipos y características que refuerzan los prejuicios raciales y de clase. Conclusiones: Las herramientas de IA generativa analizadas forman parte de un nuevo ciclo de producción de realidad visual que refleja, reproduce y amplifica los dispositivos de racialidad existentes. Las imágenes técnicas generadas por la IA reflejan relaciones de poder, así como marcadores de blanquitud y racismo, destacando cómo la tecnología asistiva se entrelaza con las representaciones sociales y culturales en su acción semiótica. El estudio ayudó a desnaturalizar las semiosis algorítmicas al demostrar cómo el funcionamiento de las IA generativas revela implicaciones éticas y sociales guiadas por percepciones de raza y alteridad, moldeadas por jerarquías que contribuyen a la creación de imágenes de control.
Descargas
Citas
BAEZA-YATES, R.; RIBEIRO-NETO, B. Recuperação de Informação: Conceitos e Tecnologia das Máquinas de Busca. Bookman Editora, 2011.
BENGIO, Y.; LECUN, Y.; HINTON, G. Deep learning for AI. Communications of the ACM, v. 64, n. 7, p. 58-65, 2021.
BENTO, C. O pacto da branquitude. São Paulo: Companhia das Letras, 2022. 148 p.
CARNEIRO, S. Dispositivo de racialidade: a construção do outro como não-ser como fundamento do ser. São Paulo: Editora Jandaíra. 2023.431 p.
COLLINS, P. H. Pensamento feminista negro: conhecimento, consciência e a política do empoderamento (D. N. Barbosa, Trad.). São Paulo: Boitempo. 2019.
CORREDERA, J. R. C. Inteligencia artificial generativa. In: Anales de la Real academia de Doctores. 2023. p. 475-489.
FLUSSER, V. Filosofia da caixa preta: ensaios para uma futura filosofia da fotografia.1985. 48p.
GILLESPIE, T. A relevância dos algoritmos. Parágrafo, [S.l.], v. 6, n. 1, p. 95-121, jun. 2018.
GOODFELLOW, I. et al. Generative adversarial nets. Advances in neural information processing systems, v. 27, 2014.
HAYKIN, S. Redes neurais: princípios e prática. Bookman Editora, 2001.
HINTON, G. E. et al. How neural networks learn from experience. 1992.
MANINI, M. P. Análise documentária de imagens. Informação & Sociedade: Estudos, v. 11 n.1 2001, n. 1, 2001.
MCCULLOCH, W.S.; PITTS, W. A logical calculus of the ideas immanent in nervous activity. The bulletin of mathematical biophysics, v. 5, p. 115-133, 1943.
MOURA, M. A. Semiótica e mediações digitais: o processo de criação e recepção de hipermídia. São Paulo: PUC/SP, 2002.
MUNANGA, K. Uma abordagem conceitual das noções de raça, racismo, identidade e etnia. 2004.
PEIRCE, C. S. Collected Papers of Charles Sanders Peirce. Versão eletrônica.
PINTO, J. 1,2,3 da semiótica. Belo Horizonte: Editora UFMG, 1995.
RUMELHART, D. E.; HINTON, G. E.; WILLIAMS, R. J. Learning representations by backpropagating errors. Nature, v. 323, n. 6088, p. 533-536, 1986.
SHATFORD, S. Some issues in the indexing of images. Journal of the American Society for Information Science. [Washington, USA], v. 45, n. 8, p. 583-588, Set. 1994.
SMIT, J. W. A representação da imagem. Informare – Cadernos da Pós Graduação, Ci. Inf., Rio de Janeiro, v.2, n.2, p. 28-36, jul./dez. 1996.
SILVA, T. Racismo algorítmo: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições SESC, 2022.
SILVA, T. Racismo Algorítmico em Plataformas Digitais: microagressões e discriminação em código. 2019.
VASWANI, A. et. al. Attention is all you need. Advances in neural information processing systems, v. 30, 2017.
Descargas
Publicado
Cómo citar
Número
Sección
Licencia
Derechos de autor 2025 Juliana de Assis, Maria Aparecida Moura
Esta obra está bajo una licencia internacional Creative Commons Atribución 4.0.
El autor debe garantizar:
que existe un consenso total de todos los coautores para aprobar la versión final del documento y su presentación para su publicación.
que su trabajo es original, y si se han utilizado el trabajo y / o las palabras de otras personas, estos se han reconocido correctamente.
El plagio en todas sus formas constituye un comportamiento editorial poco ético y es inaceptable. Encontros Bibli se reserva el derecho de utilizar software o cualquier otro método para detectar plagio.
Todas las presentaciones recibidas para su evaluación en la revista Encontros Bibli: revista electrónica de biblioteconomía y ciencias de la información pasan por la identificación del plagio y el auto-plagio. El plagio identificado en los manuscritos durante el proceso de evaluación dará como resultado la presentación de la presentación. En el caso de identificación de plagio en un manuscrito publicado en la revista, el Editor en Jefe llevará a cabo una investigación preliminar y, si es necesario, la retractará.
Esta revista, siguiendo las recomendaciones del movimiento de Acceso Abierto, proporciona su contenido en Acceso Abierto Completo. Por lo tanto, los autores conservan todos sus derechos, permitiendo a Encontros Bibli publicar sus artículos y ponerlos a disposición de toda la comunidad.
Los contenidos de Encontros Bibli están licenciados bajo Licencia Creative Commons 4.0.
Cualquier usuario tiene derecho a:
- Compartir: copiar, descargar, imprimir o redistribuir material en cualquier medio o formato
- Adaptar: mezclar, transformar y crear a partir del material para cualquier propósito, incluso comercial.
De acuerdo con los siguientes términos:
- Atribución: debe otorgar el crédito apropiado, proporcionar un enlace a la licencia e indicar si se han realizado cambios. Debe hacerlo bajo cualquier circunstancia razonable, pero de ninguna manera sugeriría que el licenciante lo respalde a usted o su uso.
- Sin restricciones adicionales: no puede aplicar términos legales o medidas tecnológicas que restrinjan legalmente a otros de hacer cualquier cosa que permita la licencia.
As obras deste periódico estão licenciadas com 