Semioses algorítmicas e viés racial: um estudo de imagens criadas pela IA generativa
un Estudio de Imágenes Creadas por IA Generativa
DOI:
https://doi.org/10.5007/1518-2924.2025.e103495Palavras-chave:
Inteligência Artificial Generativa, Semiose Algorítmica, Racismo Algorítmico, Imagens Geradas por IAResumo
Objetivo: Investigar a relação trirrelativa entre objeto, signo e interpretante no funcionamento de ferramentas de Inteligência Artificial (IA) generativa de imagens, com ênfase no enviesamento racial.
Método: Pesquisa exploratória e quali-quantitativa, que empregou uma abordagem semiótica e crítica de conteúdo. Coleta de dados realizada em quatro etapas: 1) seleção de 10 ferramentas; 2) formulação de oito prompts textuais em inglês; 3) geração e armazenamento de 155 imagens; 4) categorização, análise dessas imagens e seleção de 47 dentre elas, para demonstração dos padrões e marcadores observados.
Resultados: Predominância de um grupo étnico e social nas imagens geradas, ausência de marcadores de diversidade. Ao utilizar os prompts genéricos: “a man” e “a woman”, 90,9% das imagens de homens e 92% das de mulheres retratavam indivíduos brancos de classe média alta. Ao empregar prompts mais específicos: "a black man" e "a black woman" ,as imagens frequentemente replicavam estereótipos e características que reforçam preconceitos raciais e de classe.
Conclusões: As IAs generativas analisadas integram um novo ciclo de produção de realidades visuais que reflete, reproduz e amplifica dispositivos de racialidade já existentes. As imagens técnicas geradas por IA refletem relações de poder, bem como, marcadores da branquitude e do racismo, evidenciando como a tecnologia assistiva se entrelaça com as representações sociais e culturais em sua ação sígnica. O estudo auxiliou na desnaturalização das semioses algorítmicas ao demonstrar como o funcionamento das IA generativas revela implicações éticas e sociais que são orientadas por percepções de raça e alteridade, atravessadas por hierarquizações que contribuem para a geração de imagens de controle.
Downloads
Referências
BAEZA-YATES, R.; RIBEIRO-NETO, B. Recuperação de Informação: Conceitos e Tecnologia das Máquinas de Busca. Bookman Editora, 2011.
BENGIO, Y.; LECUN, Y.; HINTON, G. Deep learning for AI. Communications of the ACM, v. 64, n. 7, p. 58-65, 2021.
BENTO, C. O pacto da branquitude. São Paulo: Companhia das Letras, 2022. 148 p.
CARNEIRO, S. Dispositivo de racialidade: a construção do outro como não-ser como fundamento do ser. São Paulo: Editora Jandaíra. 2023.431 p.
COLLINS, P. H. Pensamento feminista negro: conhecimento, consciência e a política do empoderamento (D. N. Barbosa, Trad.). São Paulo: Boitempo. 2019.
CORREDERA, J. R. C. Inteligencia artificial generativa. In: Anales de la Real academia de Doctores. 2023. p. 475-489.
FLUSSER, V. Filosofia da caixa preta: ensaios para uma futura filosofia da fotografia.1985. 48p.
GILLESPIE, T. A relevância dos algoritmos. Parágrafo, [S.l.], v. 6, n. 1, p. 95-121, jun. 2018.
GOODFELLOW, I. et al. Generative adversarial nets. Advances in neural information processing systems, v. 27, 2014.
HAYKIN, S. Redes neurais: princípios e prática. Bookman Editora, 2001.
HINTON, G. E. et al. How neural networks learn from experience. 1992.
MANINI, M. P. Análise documentária de imagens. Informação & Sociedade: Estudos, v. 11 n.1 2001, n. 1, 2001.
MCCULLOCH, W.S.; PITTS, W. A logical calculus of the ideas immanent in nervous activity. The bulletin of mathematical biophysics, v. 5, p. 115-133, 1943.
MOURA, M. A. Semiótica e mediações digitais: o processo de criação e recepção de hipermídia. São Paulo: PUC/SP, 2002.
MUNANGA, K. Uma abordagem conceitual das noções de raça, racismo, identidade e etnia. 2004.
PEIRCE, C. S. Collected Papers of Charles Sanders Peirce. Versão eletrônica.
PINTO, J. 1,2,3 da semiótica. Belo Horizonte: Editora UFMG, 1995.
RUMELHART, D. E.; HINTON, G. E.; WILLIAMS, R. J. Learning representations by backpropagating errors. Nature, v. 323, n. 6088, p. 533-536, 1986.
SHATFORD, S. Some issues in the indexing of images. Journal of the American Society for Information Science. [Washington, USA], v. 45, n. 8, p. 583-588, Set. 1994.
SMIT, J. W. A representação da imagem. Informare – Cadernos da Pós Graduação, Ci. Inf., Rio de Janeiro, v.2, n.2, p. 28-36, jul./dez. 1996.
SILVA, T. Racismo algorítmo: inteligência artificial e discriminação nas redes digitais. São Paulo: Edições SESC, 2022.
SILVA, T. Racismo Algorítmico em Plataformas Digitais: microagressões e discriminação em código. 2019.
VASWANI, A. et. al. Attention is all you need. Advances in neural information processing systems, v. 30, 2017.
Downloads
Publicado
Como Citar
Edição
Seção
Licença
Copyright (c) 2025 Juliana de Assis, Maria Aparecida Moura
Este trabalho está licenciado sob uma licença Creative Commons Attribution 4.0 International License.
O autor deve garantir:
- que haja um consenso completo de todos os coautores em aprovar a versão final do documento e sua submissão para publicação.
- que seu trabalho é original, e se o trabalho e/ou palavras de outras pessoas foram utilizados, estas foram devidamente reconhecidas.
Plágio em todas as suas formas constituem um comportamento antiético de publicação e é inaceitável. Encontros Bibli reserva-se o direito de usar software ou quaisquer outros métodos de detecção de plágio.
Todas as submissões recebidas para avaliação na revista Encontros Bibli: revista eletrônica de biblioteconomia e ciência da informação passam por identificação de plágio e autoplágio. Plágios identificados em manuscritos durante o processo de avaliação acarretarão no arquivamento da submissão. No caso de identificação de plágio em um manuscrito publicado na revista, o Editor Chefe conduzirá uma investigação preliminar e, caso necessário, fará a retratação.
Esta revista, seguindo as recomendações do movimento de Acesso Aberto, proporciona seu conteúdo em Full Open Access. Assim os autores conservam todos seus direitos permitindo que a Encontros Bibli possa publicar seus artigos e disponibilizar pra toda a comunidade.
Os conteúdos de Encontros Bibli estão licenciados sob uma Licença Creative Commons 4.0 by.
Qualquer usuário tem direito de:
- Compartilhar — copiar, baixar, imprimir ou redistribuir o material em qualquer suporte ou formato
- Adaptar — remixar, transformar, e criar a partir do material para qualquer fim, mesmo que comercial.
De acordo com os seguintes termos:
- Atribuição — Você deve dar o crédito apropriado, prover um link para a licença e indicar se mudanças foram feitas. Você deve fazê-lo em qualquer circunstância razoável, mas de maneira alguma que sugira ao licenciante a apoiar você ou o seu uso.
- Sem restrições adicionais — Você não pode aplicar termos jurídicos ou medidas de caráter tecnológico que restrinjam legalmente outros de fazerem algo que a licença permita.
As obras deste periódico estão licenciadas com 