Comprendre et limiter les biais algorithmiques de l’IA

En bref

• Nous sommes tous soumis à une série de biais cognitifs. Ces schémas de pensée erronés sont souvent basés sur des raccourcis mentaux, qui modifient, à notre insu, notre traitement de l’information. Ils peuvent influencer notre perception et notre jugement dans de nombreux cas de figure (évaluation, causalité, etc.)

• Les biais algorithmiques sont des défauts systémiques dans les outils d’intelligence artificielle (IA), pouvant entraîner des résultats inexacts, discriminatoires ou trompeurs.

• Ils proviennent, entre autres, de biais humains amplifiés (ex. : stéréotypes de genre), de données erronées ou incomplètes, d’erreurs ou de choix de conception.

• Leurs impacts : perte de temps, mauvaises décisions, risques juridiques ou éthiques.

• Pour comprendre et encadrer ces biais, on peut entres autres challenger les outils, garder le contrôle humain, se former, respecter le cadre légal (RGPD, nLPD, AI Act).

« Les biais existent », rappelle Patrick Bellair, entrepreneur à la tête d’une agence de communication digitale et formateur en intelligence artificielle appliquée au sein de Romandie Formation. Autrement dit, si vous utilisez l’IA aujourd’hui, vous devez en tenir compte, parce qu’ils font partie des outils existants. Mais ces défauts se gèrent. Pour s’en prémunir, il s’agit de les comprendre et de mettre en place des stratégies pour les contourner. Explications.

Sommaire

• Quelles sont nos erreurs cognitives les plus courantes ?
• L’IA peut-elle amplifier les biais ?
• Comment limiter les biais ? Les solutions.

Quelles sont nos erreurs cognitives les plus courantes ?

Au quotidien, nous sommes tous sujets aux biais cognitifs, ces déviations dans le traitement de l’information qui entraînent des erreurs de jugement, de raisonnement, des paradoxes. Si l’enjeu n’est pas toujours critique pour des choix anodins (ex. : consommation), il peut être décisif dans certaines situations professionnelles (ex. : recrutement). Il existerait plus de 180 types de biais, qui participent à notre fonctionnement quotidien : biais d’optimisme, de tradition, d’attention, de statu quo, la liste est longue.

Exemple de biais cognitifs  

Types de biais	Exemples	Impacts possibles
Biais de genre	Associer systématiquement certains métiers à un genre.	Renforce les stéréotypes (ex. :  infirmière = toujours une femme).
Biais culturels	Privilégier des références occidentales ou anglophones.	Exclusion des perspectives locales ou minoritaires.
Biais raciaux/ethniques	Associer des traits négatifs à certains groupes ethniques.	Discrimination ou représentation biaisée.
Biais socio-économiques	Supposer que tout le monde a accès à la technologie ou à l’éducation.	Exclusion des publics défavorisés.
Biais de confirmation	Favoriser des réponses qui confirment des préjugés existants.	Renforce les idées reçues.
Biais de popularité	Privilégier les informations les plus citées (même si fausses ou obsolètes).	Désinformation ou partialité.

L’utilisation de l’IA est venue compléter ces biais. Avec cet outil, on a ainsi constaté l’apparition et le développement du biais d’automatisation. Il s’agit de la tendance à accorder plus de confiance à une information provenant d’un système automatisé. Autrement dit, nous valorisons davantage une réponse provenant d’une machine plutôt qu’une information d’une autre source. Cela provient, entre autres, d’une confiance excessive attribuée à ces systèmes, en présupposant qu’ils ont des capacités analytiques supérieures aux nôtres.

L’IA peut-elle amplifier les biais ?

A noter que l’IA elle-même, par son fonctionnement, reproduit des défauts de raisonnement courants. « Les biais algorithmiques sont souvent l’extension des biais cognitifs humains. Les IA dupliquent ou reprennent des processus auparavant réalisés par des humains et qui ne sont pas exempts d’erreurs », explique Igaël Derrida, consultant et formateur RH, expert et chargé de cours, notamment pour le Brevet fédéral de spécialiste en ressources humaines au sein de Romandie Formation.

Il cite l’exemple d’Amazon, qui a testé, entre 2014 et 2017, un outil interne expérimental de tri de CV basé sur l’IA. Cet outil devait attribuer des notes aux candidatures reçues. Entraîné sur les profils précédemment recrutés par l’entreprise, principalement des hommes, « l’IA en a conclu que sélectionner d’abord des candidats de sexe masculin était favorable », écrit Perrine Signoret dans un article pour le média Numerama. La machine attribuait des notes défavorables aux candidatures féminines. Amazon a finalement abandonné l’outil une fois ce problème détecté.

Cinq biais algorithmiques courants

·      Biais de sélection – quand les données utilisées ne représentent pas la population

·      Biais historique – quand les traces passées contiennent déjà des discriminations

·      Biais de mesure – quand les variables utilisées sont erronées

·   Biais de confirmation – quand les concepteurs d’un outil valident surtout ce qui conforte leurs propres hypothèses

·    Biais dans l’évaluation – quand, en testant un algorithme, on ne réalise pas qu’il produit des résultats très différents selon les groupes de population

Source : https://www.mission-open-data.fr/biais-algorithmique/

Trois risques d’erreurs principales provoquées par les algorithmes sont aujourd’hui identifiés :

D’abord, les biais liés aux erreurs des données d’entraînement. Celles-ci peuvent être tronquées, erronées, incomplètes, ou biaisées dès leur conception. « Les bases de connaissances sur lesquelles fonctionnent Qwant (moteur de recherche français) ou Deepseek (IA chinoise) ne sont pas les mêmes. Leurs réponses sur Taïwan, par exemple, seront différentes », pointe Igaël Derrida. D’autres erreurs de l’IA peuvent tout simplement venir de données non mises à jour.

Ces données d’entraînement peuvent aussi comporter des biais sociaux. Ils proviennent du fait que les algorithmes reproduisent et amplifient des préjugés fréquents dans les comportements humains. Cela peut être le cas d’un outil de traduction qui associe systématiquement le pronom « elle » au métier de coiffeur et « il » au métier d’ingénieur.

On trouve aussi les biais de conception. Ces derniers sont issus des choix techniques ou des objectifs définis par leurs concepteurs. Car ceux qui fabriquent ces algorithmes sont eux-mêmes sujets à des modes de pensées qui se reflètent dans leurs outils. « Les IA, notamment américaines, ont été conçues et entraînées majoritairement par des hommes blancs cisgenres de la Silicon Valley. Elles peuvent de ce fait être orientées et il faut en avoir conscience », rappelle Patrick Bellair. Par exemple, lorsqu’un algorithme est conçu uniquement pour renforcer les contenus à forte viralité, il va privilégier certaines vidéos sans tenir compte de leur qualité. Ce choix de conception a des impacts forts.

Comment limiter les biais ? Les solutions.

Face aux erreurs de l’IA, il n’y a pas de solution miracle, mais une palette de méthodes. Il faut allier savoir-faire, transparence, contrôle humain, formation, et respect des normes.

– Vérifier ses prompts : Pour Igaël Derrida, « il faut auditer les prompts utilisés et challenger les choix faits par ces outils, par exemple les candidatures rejetées par les outils de recrutement automatisés, afin d’identifier d’éventuelles discriminations indirectes (par ex. des mots-clés genrés ou des critères favorisant certains profils) ». Pour auditer ses prompts, on peut par exemple établir une liste de suivi (voir encadré ci-dessous), ou développer des modèles de prompts qui limitent les biais.

Exemple de liste de suivi pour challenger un prompt en matière d’égalité :

– Est-ce que mes prompts utilisent des formules inclusives?

– Est-ce qu’ils évitent les descriptions stéréotypées ?

– Est-ce qu’ils évitent les généralisations ?

– Est-ce qu’ils comportent des objectifs clairs et précis ?

– Est-ce qu’ils décrivent le contexte d’utilisation (public-cible, canal de diffusion, etc.) ?

– Est-ce qu’ils contiennent des représentations diversifiées ?

– Est-ce que dans le résultat produit, il est possible d’inverser les genres sans que cela manque de naturel ou soit choquant ?

– Conserver le contrôle sur l’outil : « Il ne faut jamais laisser une IA décider seule. Il faut toujours pouvoir garder la main », assure Igaël Derrida. Soit, ne jamais prendre une réponse pour argent comptant, mais aussi comparer les résultats de différents outils, les confronter à d’autres données, etc.

– Mettre en place une gouvernance algorithmique : un terme compliqué, pour dire que, quelle que soit la taille de votre entreprise ou de votre service, l’utilisation de l’IA doit se faire dans un cadre. Charte éthique interne, formations ou collaboration avec des experts externes (juristes, sociologues) permettent de réfléchir à l’usage de l’IA, d’anticiper des biais futurs inhérents à ces outils en développement permanent. Pour Patrick Bellair, « promouvoir l’éthique et la lutte contre les biais » devrait devenir une priorité stratégique, notamment via la formation des équipes pour adopter de bonnes pratiques et obtenir des résultats plus fiables.

–Respecter la réglementation : le RGPD (Règlement général sur la protection des données) ou l’AI Act européen encadrent strictement l’utilisation des données sensibles et des proxys. Ces derniers sont des types de données utilisés pour représenter ou estimer un concept ou une caractéristique qui est difficile à observer ou qualifier. Mais ils ne reflètent pas fidèlement la réalité ou comportent eux-mêmes des biais. Par exemple, pour mesurer « la qualité de vie », on pourra utiliser la donnée « revenu ». Mais celle-ci ne dit rien de la santé, ou du bien-être psychique qui influent aussi sur la qualité de vie.

En Suisse, il n’existe pas encore de loi spécifique à l’IA. C’est la nouvelle Loi sur la protection des données (nLPD, en vigueur depuis le 1^er septembre 2023) qui s’applique. Son article 21 impose d’informer toute personne visée par une décision prise exclusivement de façon automatisée, par exemple un tri de CV, et lui donne le droit d’en exiger une révision humaine. Le Préposé fédéral à la protection des données et à la transparence (PFPDT) considère, en outre, que les fournisseurs et exploitants de systèmes d’IA doivent rester transparents sur la finalité, le fonctionnement et les sources de données de leurs outils. Cette transparence renforce la traçabilité et la responsabilité.

Modèle pour un prompt anti-biais en matière de recrutement :

[Contexte précis]

En tant que [rôle neutre, ex. : expert en inclusion],

[Action] pour [objectif],

en tenant compte de :

– La diversité des [groupes concernés, ex. : populations suisses],

– Les [contraintes éthiques, ex. : stéréotypes à éviter],

– Les [sources variées, ex. : données récentes et locales].

Exemple :

« En tant qu’expert en ressources humaines,

propose une politique de recrutement inclusive pour une entreprise en Suisse,

en tenant compte de :

– La diversité des origines culturelles et linguistiques,

– L’équité de genre à tous les niveaux hiérarchiques,

– Les biais inconscients à éviter lors des entretiens. »

En résumé : Les biais algorithmiques sont inévitables mais maîtrisables grâce à la formation, l’audit des prompts, et la transparence. « La solution, c’est l’alignement. Faire en sorte que l’IA fasse ce que l’on veut, pas ce qu’elle veut », estime Patrick Bellair.

Ressources sur le sujet

Aurélie Jean, Les Algorithmes font-ils la loi ?, Editions de l’Observatoire, 2021, un essai qui réfléchit à l’application de la loi à l’époque des algorithmes.

Cathy O’Neil, Weapons of Math Destruction, Crown Books, 2016, un essai sur l’impact social des algorithmes.

Joy Buolamwini, Coded Bias, documentaire qui revient sur les biais de la reconnaissance faciale de l’IA envers les personnes noires.

Laurence Devillers (CNRS), Savoir-vivre avec l’IA, Editions Denoël, 2026, un plaidoyer pour une utilisation lucide de l’IA.

Annexes

• La CNIL propose une grille d’évaluation pour identifier les biais dans les systèmes d’IA, incluant des questions sur les performances, les risques de dérives et les biais de conception. Source : E-SCARAMOZZINO legal
• Responsabilité liée à l’IA, le cadre légal applicable aux entreprises suisses, un article à lire sur le blog de l’institut Romandie Formation.

Sources :

• Entretiens avec Patrick Bellair et Igaël Derrida
• Grignola, A. (2025). Biais Algorithmiques : Les biais algorithmiques dans l’IA et comment les éviter, DataBird, https://www.data-bird.co/blog/biais-algorithimiques-ia
• Collectif, (2025). Algorithmes discriminatoires – Comprendre le numérique, Université de Genève (UNIGE), https://www.unige.ch/comprendre-le-numerique/archives/cas-pratiques/algorithmes-discriminatoires
• Mehdi B., (2026). Les biais psychologiques dans l’adoption des technologies d’IA, Smart/Impact, https://smart-impact.ch/articles/technologies-dia-les-biais-psychologiques-dans-leur-adoption/
• Collectif, (2023). Biais cognitif : définition. Buzzword ou concept scientifique ?, Skillsday, https://skillsday.com/ressources/biais-cognitif-definition/
• Gigot, L., (2026). Biais algorithmique, causes, impacts et solutions pratiques, Mission Open Data, https://www.mission-open-data.fr/biais-algorithmique/
• Lefebvre, F., (2026). Introduction aux Biais cognitifs, https://biais-cognitif.com/biais/biais-algorithmique/
• Anna (2026). Biais algorithmiques : comprendre, identifier et réduire les risques, Blog de l’ADA Tech School, https://blog.adatechschool.fr/biais-algorithmiques/
• Jonker, A. et Rogers, J., (2026). Qu’est-ce que le Biais algorithmique, Blog IBM, https://www.ibm.com/fr-fr/think/topics/algorithmic-bias
• Comité psychologue.net, (2022). Les 12 biais cognitifs les plus courants, comment nous affectent-ils ?, Psychologue.net, https://www.psychologue.net/articles/les-12-biais-cognitifs-les-plus-courants-comment-nous-affectent-ils
• CNIL (Commission Nationale de l’Informatique et des Libertés), (2017). Comment permettre à l’Homme de garder la main ? Rapport sur les enjeux éthiques des algorithmes et de l’intelligence artificielle, https://www.cnil.fr/fr/comment-permettre-lhomme-de-garder-la-main-rapport-sur-les-enjeux-ethiques-des-algorithmes-et-de
• Signoret, P., (2018). Amazon a dû désactiver une IA qui discriminait les candidatures de femmes à l’embauche, Numerama, https://www.numerama.com/tech/426774-amazon-a-du-desactiver-une-ia-qui-discriminait-les-candidatures-de-femmes-a-lembauche.html