Retour au blog

Biais Algorithmiques en Éducation : Risques et Solutions

Comprends pourquoi un programme qui note ou oriente peut se tromper toujours contre les mêmes élèves, comment on le repère et ce que la loi prévoit, avec un cas réel et trois exercices corrigés.

Cet article a été rédigé à des fins pédagogiques. Les informations présentées peuvent évoluer. Nous t’invitons à vérifier auprès de sources officielles.

Un biais algorithmique, c'est une erreur qui ne tombe pas au hasard : le programme qui note, classe ou oriente se trompe plus souvent, ou toujours dans le même sens, pour un même groupe d'élèves. Exemple réel : en Angleterre, en 2020, un modèle a corrigé les notes de fin de lycée proposées par les professeurs d'après les résultats passés de chaque établissement, et il en a baissé 39,1 %. On repère un biais en mesurant les erreurs groupe par groupe, et on s'en protège en laissant la décision finale à un humain qui peut la changer.

Ce qu'est un biais algorithmique

Un algorithme est une suite d'instructions qui transforme des données en résultat : une note, un classement, un avis d'orientation. Beaucoup sont construits par apprentissage automatique : on montre au programme des milliers d'exemples, et il en tire seul ses règles, déséquilibres compris.

Définition : un biais algorithmique est une erreur systématique : les résultats d'un algorithme s'écartent de la réalité plus souvent, ou toujours dans le même sens, pour un groupe de personnes. Une erreur qui tombe au hasard, une fois trop haut, une fois trop bas, est une imprécision, pas un biais.

D'où viennent les biais

Premier cas, les exemples ne ressemblent pas à tous les élèves. Un correcteur de rédactions entraîné surtout sur des copies de voie générale prend leur style pour la norme, et se trompe davantage sur les autres.

Deuxième cas, les exemples recopient un passé inégal. Un outil d'orientation entraîné sur les décisions des années précédentes reproduit aussi leurs injustices : il prédit le passé, pas ce dont tu es capable.

Troisième cas, une variable en cache une autre. Une variable indirecte est une donnée anodine en apparence, comme le code postal ou le collège d'origine, mais liée à l'origine sociale : le programme peut s'en servir sans que personne l'ait voulu.

Dernier cas, les choix de ceux qui conçoivent le programme : ce qu'il doit prédire, les données qu'il reçoit, le score à partir duquel il dit « non ». Chacun peut avantager un groupe.

Piège classique : croire qu'il suffit de retirer le sexe ou l'origine sociale des données pour rendre un programme équitable. Les variables indirectes font passer la même information par un autre chemin. Seule une mesure des résultats groupe par groupe dit si le biais a disparu.

Un cas réel : les notes anglaises de 2020

Le 18 mars 2020, à cause du Covid-19, l'Angleterre annonce l'annulation de ses examens de l'été, dont les A levels, les examens de fin de lycée. Les professeurs proposent une note par élève et par matière, et classent leurs élèves. L'Ofqual, l'autorité qui encadre ces examens, juge ces notes trop généreuses et les fait ajuster par un modèle statistique.

Pour chaque établissement et chaque matière, le modèle prévoit la répartition des notes d'après les résultats passés, puis suit le classement des professeurs pour choisir quels élèves ajuster. Sous 15 élèves, années passées comprises, les statistiques ne sont pas fiables : il s'appuie surtout sur la note du professeur.

Le 13 août 2020, sur 718 276 notes de A level, 39,1 % sont plus basses que celles des professeurs. Dans les écoles privées indépendantes, la part tombe à 33,8 %. D'après l'Ofqual, l'écart tient en partie aux petits groupes, plus fréquents dans ces écoles : 8,3 % de leurs candidats, contre 4,7 % de l'ensemble. Le 17 août, chaque élève reçoit finalement la meilleure des deux notes.

L'Ofqual n'a trouvé aucune preuve d'un biais systématique contre les élèves de milieux modestes. Mais la note d'un élève dépendait des résultats d'autres élèves, les années précédentes : un excellent élève d'un lycée aux résultats passés faibles pouvait être baissé, quand un petit groupe échappait en grande partie à la correction.

Les risques à l'école

Un professeur qui se trompe touche une copie ; un programme biaisé répète son erreur sur des milliers de dossiers. Et une note d'examen ou un avis d'orientation pèse sur toute la suite de tes études.

S'y ajoute l'effet « boîte noire » : quand personne ne sait dire pourquoi le programme a rendu tel résultat, personne ne repère l'erreur, et tu ne peux pas la contester.

Les solutions

Avant toute utilisation, on teste le programme sur des cas dont on connaît la bonne réponse, et on calcule son taux d'erreur séparément pour chaque groupe d'élèves.

Formule : $$\text{taux d'erreur d'un groupe} = \frac{\text{nombre d'erreurs dans le groupe}}{\text{nombre de cas du groupe}}$$

Piège classique : un bon taux d'erreur global ne prouve rien. Un petit groupe pèse peu dans la moyenne : le programme peut se tromper deux fois plus souvent pour lui sans que le chiffre global bouge beaucoup.

Si un écart apparaît, on ajoute des exemples du groupe mal servi, on retire les variables indirectes repérées, puis on mesure de nouveau, y compris une fois le programme en service.

Le programme doit aussi pouvoir dire quels critères ont compté dans chaque résultat : c'est l'explicabilité. Enfin, la décision revient à un humain qui connaît le dossier et peut changer le résultat, pas à quelqu'un qui valide d'un clic.

Ce que dit la loi

Le RGPD, le règlement européen sur les données personnelles, n'autorise une décision prise entièrement par une machine, et qui te touche de façon importante, que dans quelques cas : un contrat, une loi, ton accord explicite. Des garanties s'appliquent alors : tu peux notamment obtenir l'intervention d'un humain, donner ton point de vue, demander une explication et contester, rappelle la CNIL.

Le règlement européen sur l'intelligence artificielle interdit, depuis le 2 février 2025, les systèmes qui déduisent les émotions d'une personne dans les établissements d'enseignement, sauf raisons médicales ou de sécurité. Il classe « à haut risque » les systèmes qui peuvent décider de l'accès à une formation ou noter des examens : à partir du 2 décembre 2027, ils devront reposer sur des données de qualité, pour limiter les résultats discriminatoires, et rester sous surveillance humaine, précise la Commission européenne.

Conseil : si une note ou un refus te semble venir d'un logiciel, demande par écrit si un traitement automatisé a servi, quels critères ont compté et qui peut réexaminer ton dossier.

Exercices corrigés

Exercice 1 : Dans un lycée (données fictives), 10 % des élèves de mathématiques ont eu la meilleure note aux sessions passées. Un modèle inspiré de celui de 2020 accorde la meilleure note dans la même proportion, en suivant le classement du professeur. Le groupe compte 20 élèves, et le professeur propose la meilleure note pour 6 d'entre eux. Combien la gardent ? Léa, classée troisième, en fait-elle partie ?

Correction :

Le modèle accorde la meilleure note à $10\,\%$ des 20 élèves, soit $20 \times 0{,}1 = 2$ élèves : seuls les deux premiers du classement la gardent.

Léa, troisième, est baissée, comme les quatrième, cinquième et sixième : $6 - 2 = 4$ élèves perdent la note proposée. Le nombre de meilleures notes dépend des résultats des sessions passées, pas du niveau de ce groupe.

Exercice 2 : Un lycée teste un logiciel de correction sur 400 rédactions déjà notées par des professeurs (données fictives). Il y a erreur quand le logiciel s'écarte de plus de 2 points de la note du professeur. Sur les 300 copies de voie générale, on compte 24 erreurs ; sur les 100 copies de voie professionnelle, 21 erreurs. Calcule le taux d'erreur global, puis celui de chaque groupe. Le logiciel est-il biaisé ?

Correction :

Taux global : $\dfrac{24 + 21}{400} = \dfrac{45}{400} = 0{,}1125$, soit $11{,}25\,\%$.

Voie générale : $\dfrac{24}{300} = 0{,}08$, soit $8\,\%$. Voie professionnelle : $\dfrac{21}{100} = 0{,}21$, soit $21\,\%$.

Sur les copies de voie professionnelle, le logiciel se trompe $\dfrac{21}{8} \approx 2{,}6$ fois plus souvent : c'est un biais, à corriger avant toute utilisation. Le taux global le cachait, car ces copies ne forment qu'un quart de l'échantillon.

Exercice 3 : Un outil d'orientation propose moins souvent une filière sélective aux élèves de certains quartiers (situation fictive). Pour corriger, on lui retire la variable « quartier », mais il garde le collège d'origine et les notes. Le problème est-il réglé ? Comment le vérifier ?

Correction :

Pas forcément. Les élèves d'un même quartier vont souvent au même collège : le collège d'origine est une variable indirecte, qui permet de retrouver le quartier.

Pour vérifier, on mesure de nouveau, quartier par quartier, la part d'élèves à qui l'outil propose la filière, à notes comparables. Si l'écart persiste, le biais est toujours là.

À retenir

À retenir :

  • Un biais algorithmique est une erreur systématique qui vise un groupe, pas une erreur au hasard.
  • Il vient des données (exemples peu représentatifs, passé inégal, variables indirectes) et des choix de conception.
  • On mesure les erreurs groupe par groupe : retirer une variable sensible ne suffit pas, et un bon taux global peut tromper.
  • Une décision importante prise par une machine seule se conteste : tu peux demander l'intervention d'un humain et une explication.

Sources

Tu peux partager cette page librement, en citant ORBITECH AI Academy avec son lien.