Les modèles d’intelligence artificielle sont souvent perçus comme objectifs, car ils « apprennent » à partir des données sans intervention humaine directe. Pourtant, les biais sont omniprésents dans les systèmes de machine learning, et leurs conséquences peuvent être lourdes : discrimination, erreurs de diagnostic, décisions injustes, etc.
D’où viennent les biais ?
Les biais ne viennent pas du modèle lui-même, mais des données qu’on lui fournit. Ces derniers peuvent provenir de plusieurs sources :
- Biais de représentation : Si un groupe est sous-représenté dans les données, le modèle sera moins performant pour ce groupe. Par exemple, un algorithme de reconnaissance faciale entraîné majoritairement sur des visages d’hommes blancs aura des performances moindres pour les femmes ou les personnes racisées.
- Biais historiques : Les données reflètent souvent des inégalités passées. Si un algorithme est entraîné sur des décisions humaines (comme des recrutements ou des jugements), il risque de reproduire les discriminations existantes.
- Biais de sélection : Lorsque les données d’entraînement ne sont pas représentatives de la réalité future. Exemple classique : un modèle prédit la demande d’un produit à partir de données collectées uniquement durant une période de soldes.
Quelques exemples concrets
- Amazon a abandonné un algorithme de recrutement qui discriminait les femmes, car il avait appris à préférer des CV masculins.
- Des outils de police prédictive ont renforcé des pratiques de contrôle déjà ciblées sur certaines communautés.
Que faire pour les limiter ?
- Analyser les données d’entrée : Avant d’entraîner un modèle, il faut étudier la distribution des données selon les variables sensibles (sexe, âge, origine, etc.).
- Utiliser des métriques d’équité : Comme le disparate impact ou les courbes ROC par sous-groupes.
- Appliquer des techniques de réduction de biais : Re-échantillonnage, suppression de variables sensibles, algorithmes de fairness-aware learning.
Conclusion
Les modèles ne sont pas « neutres » par défaut. Être un bon data scientist, c’est aussi avoir une responsabilité éthique : comprendre les biais, les identifier, et mettre en œuvre des pratiques pour en atténuer les effets.
Laisser un commentaire