Le biais algorithmique cause des préjudices documentés : taux d'approbation de prêts 45 % plus bas pour les minorités (CFPB 2024), CV rejetés selon le genre…
Le modèle apprend des patterns discriminatoires présents dans les données d'entraînement. Exemple : modèles de crédit entraînés sur des décisions passées reflétant des discriminations systémiques. Détection : analyse de la distribution des outcomes par groupe protégé.
Sous-représentation de groupes dans les données. Exemple : datasets de reconnaissance faciale avec 80%+ de visages masculins caucasiens → 34% d'erreur sur les femmes à peau foncée (étude MIT Media Lab, Buolamwini & Gebru).
Proxy discriminatoire : utiliser le code postal comme variable de risque de crédit capture indirectement l'ethnie. La corrélation statistique n'est pas la causalité légale.
Le modèle influence les données futures. Exemple : système de recommandation policière → plus de patrouilles dans certains quartiers → plus d'arrestations → plus de données "validant" le biais.
Bibliothèque Python open-source pour mesurer et réduire les inéquités dans les classificateurs ML. Métriques : demographic parity, equalized odds, equal opportunity. Algorithmes d'atténuation : reduction, threshold optimizer.
Open-source, production-readySuite de 70+ métriques d'équité et 10+ algorithmes de réduction de biais. Pré-traitement (reweighing, disparate impact remover), in-training (adversarial debiasing), post-traitement (calibrated equalized odds).
70+ métriques équitéExplicabilité locale et globale des décisions. SHAP (SHapley Additive exPlanations) : contribution de chaque feature à chaque prédiction. Requis pour les systèmes haut risque EU AI Act (Art.13 : transparence, Art.14 : supervision humaine).
Requis EU AI Act Art.13Pour les systèmes haut risque EU AI Act : audit par tierce partie recommandé. En Belgique : audit IA via BOSA (Bureau fédéral du Plan), certification EN ISO/IEC 42001. Documenter les résultats dans le registre des systèmes IA.
ISO/IEC 42001Depuis le 2 août 2026, les systèmes IA classés haut risque (crédit scoring, recrutement automatisé, assurance, éducation, justice) doivent satisfaire à des exigences strictes : données d'entraînement représentatives et sans biais, documentation technique complète, logs d'audit, supervision humaine obligatoire, rapport de conformité avant mise sur marché. La Commission européenne a publié des lignes directrices spécifiques pour l'évaluation des biais dans ces systèmes.
Molderez Consult SRL audite et sécurise votre conformité IA (EU AI Act, RGPD).
Audit de conformité