This study examines cultural biases in generative AI, with a particular focus on representations of gender and sexuality. Analyses of interactions with chatbots conducted through six university workshops (N=245) produced 1,820 traces, which constitute the analytical corpus used to measure bias levels before and after the drafting and finalization of documents, as well as to monitor process indicators. Bias decreased across all categories, particularly with regard to gender (31.8% 16.3%) and certain cultural representations (22.0%→12.7%). To correct bias, groups employed an average of four prompts; a higher number of prompts was positively associated with residual bias (OR=1.42), revealing what we define as the fatigue paradox, with satisfaction with the final output negatively correlated with the number of iterations performed (ρ≈−.16). Qualitative analysis shows frequent lexical cleanups but limited structural reallocation of agency; explicit mentions of trans* or non-binary identities are rare (≈1.2%).
Il presente studio esamina i pregiudizi culturali nell'IA generativa, con particolare attenzione alle rappresentazioni di generi e sessualità. L’analisi di interazione con i chatbot all’interno di sei laboratori universitari (N=245) ha pro-dotto 1.820 tracce che costituiscono il corpus di analisi su cui abbiamo misurato il pregiudizio pre/post stesura di bozze e documento finale, nonché monitorato gli indicatori di processo. Il pregiudizio è diminuito in tutte le categorie, in particolare per quanto riguarda il genere (31,8%→16,3%) e alcune rappresentazioni culturali (22,0% 12,7%). Per la correzione dei bias i gruppi hanno utilizzato circa 4 prompt; un numero più elevato di prompt era associato positivamente al bias residuo (OR=1,42) facendo emergere quello che definiamo paradosso della fatica, con soddisfazione output finale correlata negativamente alle iterazioni effettuate (ρ≈−.16). L'analisi qualitativa mostra frequenti pulizie lessicali ma una riallocazione strutturale limitata dell'agency; le menzioni espli-cite trans*/non binarie sono rare (≈1,2%).
Messina, S. (2025). Rappresentazione di generi e sessualità nell’era delle GenIA: approcci pedagogici alla mediatizzazione dell’immaginario = Representations of gender and sexuality in the age of GenAI: pedagogical approaches to the mediatization of the collective imaginary. PEDAGOGIA OGGI, 23(2), 217-225 [10.7346/PO-022025-26].
Rappresentazione di generi e sessualità nell’era delle GenIA: approcci pedagogici alla mediatizzazione dell’immaginario = Representations of gender and sexuality in the age of GenAI: pedagogical approaches to the mediatization of the collective imaginary
Salvatore Messina
2025
Abstract
This study examines cultural biases in generative AI, with a particular focus on representations of gender and sexuality. Analyses of interactions with chatbots conducted through six university workshops (N=245) produced 1,820 traces, which constitute the analytical corpus used to measure bias levels before and after the drafting and finalization of documents, as well as to monitor process indicators. Bias decreased across all categories, particularly with regard to gender (31.8% 16.3%) and certain cultural representations (22.0%→12.7%). To correct bias, groups employed an average of four prompts; a higher number of prompts was positively associated with residual bias (OR=1.42), revealing what we define as the fatigue paradox, with satisfaction with the final output negatively correlated with the number of iterations performed (ρ≈−.16). Qualitative analysis shows frequent lexical cleanups but limited structural reallocation of agency; explicit mentions of trans* or non-binary identities are rare (≈1.2%).| File | Dimensione | Formato | |
|---|---|---|---|
|
217-225+-+26+Messina.pdf
accesso aperto
Descrizione: Representations of gender and sexuality in the age of GenAI: pedagogical approaches to the mediatization of the collective imaginary
Tipo:
Versione (PDF) editoriale / Version Of Record
Licenza:
Licenza per Accesso Aperto. Creative Commons Attribuzione (CCBY)
Dimensione
4.84 MB
Formato
Adobe PDF
|
4.84 MB | Adobe PDF | Visualizza/Apri |
I documenti in IRIS sono protetti da copyright e tutti i diritti sono riservati, salvo diversa indicazione.


