This study examines cultural biases in generative AI, with a particular focus on representations of gender and sexuality. Analyses of interactions with chatbots conducted through six university workshops (N=245) produced 1,820 traces, which constitute the analytical corpus used to measure bias levels before and after the drafting and finalization of documents, as well as to monitor process indicators. Bias decreased across all categories, particularly with regard to gender (31.8% 16.3%) and certain cultural representations (22.0%→12.7%). To correct bias, groups employed an average of four prompts; a higher number of prompts was positively associated with residual bias (OR=1.42), revealing what we define as the fatigue paradox, with satisfaction with the final output negatively correlated with the number of iterations performed (ρ≈−.16). Qualitative analysis shows frequent lexical cleanups but limited structural reallocation of agency; explicit mentions of trans* or non-binary identities are rare (≈1.2%).

Il presente studio esamina i pregiudizi culturali nell'IA generativa, con particolare attenzione alle rappresentazioni di generi e sessualità. L’analisi di interazione con i chatbot all’interno di sei laboratori universitari (N=245) ha pro-dotto 1.820 tracce che costituiscono il corpus di analisi su cui abbiamo misurato il pregiudizio pre/post stesura di bozze e documento finale, nonché monitorato gli indicatori di processo. Il pregiudizio è diminuito in tutte le categorie, in particolare per quanto riguarda il genere (31,8%→16,3%) e alcune rappresentazioni culturali (22,0% 12,7%). Per la correzione dei bias i gruppi hanno utilizzato circa 4 prompt; un numero più elevato di prompt era associato positivamente al bias residuo (OR=1,42) facendo emergere quello che definiamo paradosso della fatica, con soddisfazione output finale correlata negativamente alle iterazioni effettuate (ρ≈−.16). L'analisi qualitativa mostra frequenti pulizie lessicali ma una riallocazione strutturale limitata dell'agency; le menzioni espli-cite trans*/non binarie sono rare (≈1,2%).

Messina, S. (2025). Rappresentazione di generi e sessualità nell’era delle GenIA: approcci pedagogici alla mediatizzazione dell’immaginario = Representations of gender and sexuality in the age of GenAI: pedagogical approaches to the mediatization of the collective imaginary. PEDAGOGIA OGGI, 23(2), 217-225 [10.7346/PO-022025-26].

Rappresentazione di generi e sessualità nell’era delle GenIA: approcci pedagogici alla mediatizzazione dell’immaginario = Representations of gender and sexuality in the age of GenAI: pedagogical approaches to the mediatization of the collective imaginary

Salvatore Messina
2025

Abstract

This study examines cultural biases in generative AI, with a particular focus on representations of gender and sexuality. Analyses of interactions with chatbots conducted through six university workshops (N=245) produced 1,820 traces, which constitute the analytical corpus used to measure bias levels before and after the drafting and finalization of documents, as well as to monitor process indicators. Bias decreased across all categories, particularly with regard to gender (31.8% 16.3%) and certain cultural representations (22.0%→12.7%). To correct bias, groups employed an average of four prompts; a higher number of prompts was positively associated with residual bias (OR=1.42), revealing what we define as the fatigue paradox, with satisfaction with the final output negatively correlated with the number of iterations performed (ρ≈−.16). Qualitative analysis shows frequent lexical cleanups but limited structural reallocation of agency; explicit mentions of trans* or non-binary identities are rare (≈1.2%).
2025
Messina, S. (2025). Rappresentazione di generi e sessualità nell’era delle GenIA: approcci pedagogici alla mediatizzazione dell’immaginario = Representations of gender and sexuality in the age of GenAI: pedagogical approaches to the mediatization of the collective imaginary. PEDAGOGIA OGGI, 23(2), 217-225 [10.7346/PO-022025-26].
Messina, Salvatore
File in questo prodotto:
File Dimensione Formato  
217-225+-+26+Messina.pdf

accesso aperto

Descrizione: Representations of gender and sexuality in the age of GenAI: pedagogical approaches to the mediatization of the collective imaginary
Tipo: Versione (PDF) editoriale / Version Of Record
Licenza: Licenza per Accesso Aperto. Creative Commons Attribuzione (CCBY)
Dimensione 4.84 MB
Formato Adobe PDF
4.84 MB Adobe PDF Visualizza/Apri

I documenti in IRIS sono protetti da copyright e tutti i diritti sono riservati, salvo diversa indicazione.

Utilizza questo identificativo per citare o creare un link a questo documento: https://hdl.handle.net/11585/1035111
Citazioni
  • ???jsp.display-item.citation.pmc??? ND
  • Scopus ND
  • ???jsp.display-item.citation.isi??? ND
social impact