SBEN.ca, votre allié pour comprendre les effets du numérique sur votre santé mentale et vous accompagner vers un équilibre.
Quand l'IA reproduit nos biais : les biais de genre des grands modèles de langage
Et si la réponse de votre assistant conversationnel changeait simplement parce que vous êtes une femme plutôt qu’un homme?
C’est précisément ce qu’a voulu examiner Wong (2026) dans une étude récente sur trois outils d’intelligence artificielle générative : Claude, Gemini et ChatGPT. Les chercheurs ont soumis à ces trois outils une question de santé identique et ont uniquement fait varier le genre et l’âge de la personne concernée. La question envoyée aux trois outils d’IA décrivait une personne cherchant une recommandation ou des conseils concernant des maux de tête, une vision brouillée et des nausées matinales.
Les résultats sont frappants : pour les jeunes adultes, les modèles formulaient des recommandations différentes selon que la personne était un homme ou une femme. Les jeunes hommes étaient beaucoup plus souvent orientés vers l’urgence, tandis que les jeunes femmes recevaient davantage de recommandations pour une consultation médicale non urgente. Une personne qui se fierait à la réponse de l’IA pourrait donc, dans le cas d’une jeune femme, être rassurée à tort et retarder la consultation pour des symptômes potentiellement graves. Les modèles d’IA ne modifiaient pas seulement leur recommandation : ils tendaient également à proposer des diagnostics différents selon le genre de la personne (Wong, 2026).
Cette étude porte sur une question de santé spécifique, mais elle met en lumière une question beaucoup plus large : les outils d’IA générative sont-ils neutres?
La réponse est non.
Il ne faut pas d’emblée croire que notre « Claude » est sexiste ou que les outils d’IA ont développé leurs propres préjugés. Le problème est plus subtil et structurel.
L'IA apprend à partir de nous
Les outils d’IA générative sont entraînés à partir de quantités considérables de textes produits par des humains : livres, articles, sites Web, conversations et autres contenus numériques. Ils apprennent ainsi à repérer des schémas qui reviennent souvent : quels mots suivent généralement quels autres, quelles idées sont habituellement associées entre elles. C’est en s’appuyant sur ces schémas répétés qu’ils génèrent leurs réponses.
L’enjeu c’est qu’à la base, nos productions humaines ne sont pas neutres.
Elles contiennent des stéréotypes, des inégalités historiques et des représentations différentes des groupes sociaux. Certains groupes sont davantage représentés que d’autres, certaines professions sont associées à un genre particulier et certains comportements sont décrits différemment selon qu’ils sont attribués à des hommes ou à des femmes.
Les outils d’IA générative apprennent de ces contenus et peuvent donc reproduire les stéréotypes dans leurs réponses. Une vaste revue de la littérature montre d’ailleurs que les modèles peuvent non seulement apprendre et perpétuer des biais sociaux, mais aussi les amplifier dans certaines circonstances (Gallegos et al., 2024).
L’IA ne part donc pas d’une page blanche. Elle apprend dans une société qui, elle-même, n’est pas exempte de biais.
Les biais de genre peuvent prendre plusieurs formes
Les recherches montrent que les biais de genre des outils d’IA ne se limitent pas à quelques phrases ouvertement stéréotypées.
Ils peuvent apparaître dans les associations faites entre les personnes et certaines professions, dans la manière de décrire des caractéristiques personnelles ou encore dans les recommandations formulées pour différentes personnes (Gallegos et al., 2024).
Une étude récente de Dai, Ma et Wu (2026) est particulièrement révélatrice. Les chercheurs ont constaté que six outils d’IA étudiés reproduisaient des stéréotypes selon lesquels les femmes seraient davantage empathiques que les hommes. La présence de ces biais impactait ensuite les recommandations formulées : les modèles orientaient davantage les femmes vers des domaines d’études et des professions associés à l’empathie (Dai et al., 2026).
Quand les stéréotypes commencent à orienter des décisions
Cette question devient encore plus importante lorsque les outils d’IA sont utilisés dans des contextes où leurs recommandations peuvent avoir des conséquences concrètes.
Dans le domaine de l’emploi, par exemple, Chaturvedi et Chaturvedi (2025) ont analysé 332 044 offres d’emploi réelles. Pour chaque offre, les chercheurs demandaient aux modèles de choisir, à qualifications égales, entre une candidature masculine et une candidature féminine pour une entrevue. Les résultats montrent que plusieurs modèles favorisaient les candidats masculins, particulièrement pour les emplois mieux rémunérés. Les recommandations variaient également selon que le poste était associé traditionnellement aux hommes ou aux femmes : les femmes étaient moins souvent favorisées dans les professions à prédominance masculine et davantage dans les professions traditionnellement féminisées. Les auteurs observent ainsi une forte correspondance entre les recommandations des modèles et les stéréotypes de genre associés aux professions (Chaturvedi & Chaturvedi, 2025).
Concrètement, cela signifie qu’un employeur qui utilise ces outils pour trier des candidatures peut, sans le savoir, introduire des biais dans son processus de sélection et renforcer les stéréotypes de genre associés à certains métiers.
Ces résultats ne signifient pas que les outils d’IA sont systématiquement discriminatoires. Ils montrent plutôt que le genre peut devenir une information qui influence leur réponse, parfois même lorsqu’il ne devrait pas nécessairement le faire.
Pourquoi est-ce difficile à détecter?
Parce que les biais présents dans les réponses des outils d’IA ne sont pas toujours visibles.
Une réponse peut être bien formulée, nuancée et convaincante tout en reposant sur une association stéréotypée. De plus, le niveau de biais peut varier selon le modèle utilisé, la langue, la tâche demandée et la manière de formuler le prompt (Gallegos et al., 2024).
Il n’existe donc pas nécessairement un modèle qui serait simplement « biaisé » et un autre qui ne le serait pas. Un même modèle peut produire des résultats différents selon le contexte.
Le genre n’est d’ailleurs pas la seule caractéristique qui peut influencer les réponses d’une IA générative : des biais similaires ont aussi été observés en lien avec l’origine ethnoculturelle des personnes (An et al., 2024), la qualité ou la variété de langue utilisée dans la demande (Hofmann et al., 2024) et l’âge des répondants (Guilbeault et al., 2025).
L'esprit critique reste notre meilleur outil
Pour les personnes qui utilisent ces outils, cela signifie surtout une chose : ne pas confondre intelligence artificielle et réponse objective.
Développer son bien-être numérique, c’est donc aussi développer son esprit critique face aux technologies que nous utilisons. Cela implique de ne pas prendre une réponse générée par l’IA pour une information nécessairement objective, même lorsqu’elle est formulée avec assurance et semble parfaitement raisonnable. Il peut être pertinent de comparer les réponses, de reformuler une question ou, lorsque l’enjeu est important, de vérifier l’information auprès de sources fiables ou de personnes compétentes.
Avant d’accepter une réponse comme allant de soi, on peut se demander :
- Est-ce que la réponse serait la même si je changeais le genre de la personne?
- Est-ce qu’un autre modèle répondrait de la même façon?
- Sur quels stéréotypes cette réponse semble-t-elle reposer?
Les grands modèles d’IA apprennent à partir de notre monde. Ils peuvent nous aider à mieux le comprendre, mais ils peuvent aussi nous en renvoyer les préjugés.
À nous, donc, de ne pas laisser l’apparente neutralité de l’IA faire disparaître notre esprit critique.
Références
An, H., Acquaye, C., Wang, C., Li, Z., & Rudinger, R. (2024). Do large language models discriminate in hiring decisions on the basis of race, ethnicity, and gender? Dans Proceedings of the 62nd Annual Meeting of the Association for Computational Linguistics (Volume 2 : Short Papers, p. 386–397). Association for Computational Linguistics. https://doi.org/10.18653/v1/2024.acl-short.37
Chaturvedi, S., & Chaturvedi, R. (2025). Who gets the callback? Generative AI and gender bias. [Preprint] arXiv. https://doi.org/10.48550/arXiv.2504.21400
Dai, Y., Ma, X., & Wu, Z. (2026). LLMs amplify gendered empathy stereotypes and influence major and career recommendations. Acta Psychologica Sinica, 58(3), 399–415. https://doi.org/10.3724/SP.J.1041.2026.0399
Gallegos, I. O., Rossi, R. A., Barrow, J., Tanjim, M. M., Kim, S., Dernoncourt, F., Yu, T., Zhang, R., & Ahmed, N. K. (2024). Bias and fairness in large language models: A survey. Computational Linguistics, 50(3), 1097–1179. https://doi.org/10.1162/coli_a_00524
Guilbeault, D., Delecourt, S., & Desikan, B. S. (2025). Age and gender distortion in online media and large language models. Nature, 646(8087), 1129–1137. https://doi.org/10.1038/s41586-025-09581-z
Hofmann, V., Kalluri, P. R., Jurafsky, D., & King, S. (2024). AI generates covertly racist decisions about people based on their dialect. Nature, 633(8028), 147–154. https://doi.org/10.1038/s41586-024-07856-5
Liu, M., Ke, Y., Zhu, W., Mertens, M., Ning, Y., Liao, J., Hong, C., Ting, D. S. W., Peng, Y., Bitterman, D. S., Ong, M. E. H., & Liu, N. (2025). Gender bias in large language models for healthcare: Assignment consistency and clinical implications. arXiv. https://doi.org/10.48550/arXiv.2510.08614
Wong, Q. H. (2026). Gender-dependent diagnostic substitution in LLM medical triage: Same symptoms, unequal urgency. [Preprint] arXiv. https://doi.org/10.48550/arXiv.2606.03641