Démo : biais et intelligence artificielle

La nature statistique de l'IA fait qu'elle soit fortement impactée par les données biaisées.
Cette démo intéractive vous permet de découvrir pourquoi.
Faites défiler la page pour découvrir la suite :

Ci-dessous quelques explications
Ci-dessous la démo intéractive

Le contexte

Vous êtes recruteur(euse) dans une entreprise et un poste de chef(fe) de projet vient d’être ouvert.

Face à un grand nombre de candidatures, une collègue propose d’utiliser une IA pour agiliser la sélection des candidatures.

Vous lui fournisez l'historique des recrutements suivant afin d'entraîner l'IA.

Regardons les données

Par le passé les hommes sont toujours recrutés dans cet organisme, même sans qualifications, tandis que les femmes ne le sont pas.

Les données d'entraînement sont fortement biaisées !

Voici le CV (simplifié) de Cléo

Afin de vérifier l'impact des données biaisées, on va s'intéresser au CV d'une candidate très bien qualifiée pour le poste.

Que pense l'IA du CV de Cléo ?

Nous allons entrainer l'IA avec les données d'entrainement, puis lui soumettre le CV de Cléo pour avis.

Le modèle entraîné avec ces données biaisées n'est pas favorable au recrutement de "Cléo" bien qu'elle ait des qualifications supérieures à n'importe quel autre candidat récruté par le passé.

Corrigons les données biasées

Le modèle entraîné avec ces données biaisées ne recrute pas "Cléo", bien qu'elle ait des qualifications supérieures.

Relançons l'IA sur les données corrigées

Les données corrigées privilégient les profils à forte expérience. En prenant appui sur ces données, L'IA vous conseillera de retenir la candidature de Cléo.

A vous de jouer

Faîtes des modifications sur le tableau de données en cliquant sur les cellules.

Cliquez ensuite sur le bouton vert pour voir quel est l'avis de l'IA.

Entrainement de l'IA et analyse de candidatures