Les débats éthiques sur l'intelligence artificielle (IA) reviennent à cinq questions : la décision est-elle juste, peut-on la comprendre et la contester, qui répond d'une erreur, que deviennent nos données, que devient le travail. Prends une banque qui refuse un crédit avec un algorithme : le modèle défavorise-t-il un groupe, peut-on t'expliquer le refus, qui paie s'il se trompe, quelles données a-t-il prises sur toi ? Cette grille sert pour tout cas, en exposé comme en dissertation.
Les biais algorithmiques
Une IA d'apprentissage automatique tire ses règles d'exemples passés, ses données d'entraînement. Imagine un logiciel de tri de CV entraîné sur les embauches d'une entreprise qui a surtout recruté des hommes. Personne ne lui écrit « préfère les hommes », mais il favorise les profils qui ressemblent à ceux du passé, sur des milliers de dossiers.
Définition : un biais algorithmique est un écart systématique de traitement ou de fiabilité entre des groupes de personnes, produit par un système automatisé. Il vient le plus souvent des données, pas d'une intention.
Piège classique : retirer la colonne « sexe » ne suffit pas, car un prénom ou un sport pratiqué peut jouer le même rôle. Le biais se mesure sur les résultats, groupe par groupe.
Exemple : en décembre 2019, le NIST, l'institut américain des normes, a testé 189 algorithmes de reconnaissance faciale. La plupart prenaient davantage pour la même personne deux visages asiatiques ou afro-américains différents que deux visages blancs, avec des écarts allant souvent de 10 à 100 fois. Certains algorithmes développés en Asie n'avaient pas cet écart entre visages asiatiques et blancs : selon l'auteur de l'étude, un indice que des données d'entraînement plus variées rendent les résultats plus équitables.
Reste à dire ce qu'est une décision « juste » : même taux d'erreur pour chaque groupe, ou même taux de sélection ? Ces critères sont parfois incompatibles, et trancher relève de la morale et du droit.
La boîte noire
Un modèle d'apprentissage profond (un réseau de neurones artificiels à plusieurs couches) règle seul des millions de paramètres. On voit ce qui entre et ce qui sort, pas le raisonnement : c'est la boîte noire. Or une décision qu'on ne sait pas expliquer se conteste mal. D'où le débat : réserver les décisions graves, un crédit ou une embauche, à des modèles lisibles, ou se contenter d'une explication après coup ?
Règle : le RGPD, le règlement européen sur les données personnelles, te donne le droit de ne pas faire l'objet d'une décision fondée exclusivement sur un traitement automatisé, profilage compris (l'évaluation automatique de ta personne), qui produit des effets juridiques ou t'affecte de manière significative (article 22). Exceptions : décision nécessaire à un contrat, autorisée par le droit européen ou français, ou fondée sur ton consentement explicite. Avec un contrat ou ton consentement, tu peux au minimum obtenir une intervention humaine, donner ton point de vue et contester.
L'article 15 y ajoute le droit d'obtenir « des informations utiles concernant la logique sous-jacente » de cette décision.
La responsabilité
Une IA n'est pas une personne au sens du droit : elle ne peut ni être condamnée ni réparer un dommage. Il faut donc trouver quel humain ou quelle entreprise répond de ses erreurs.
Le règlement européen sur l'IA distingue le fournisseur, qui développe le système, et le déployeur, qui l'utilise sous sa propre autorité (article 3). Un système à haut risque doit permettre « un contrôle effectif par des personnes physiques » pendant son utilisation (article 14) : c'est l'humain dans la boucle.
Prends une voiture autonome qui cause un accident : défaut du logiciel, donc le constructeur, ou consigne ignorée par la personne à bord ? Plus le système agit seul, plus la faute d'un humain précis est dure à prouver. L'idée d'une personnalité juridique pour les IA les plus autonomes, comme celle des sociétés, revient dans le débat ; le règlement européen ne l'a pas retenue.
Vie privée et surveillance
Une IA apprend sur des données, souvent personnelles. Le RGPD impose leur protection dès la conception (article 25) : on pense à la vie privée avant de lancer le système, pas après. Il prévoit aussi un droit à l'effacement dans les cas qu'il énumère (article 17), mais retirer d'un modèle déjà entraîné ce qu'il a appris de toi reste un problème technique difficile.
Côté surveillance, le débat oppose sécurité et libertés. Depuis le 2 février 2025, le règlement européen interdit la notation sociale (noter les gens sur leur comportement pour les pénaliser), les bases de reconnaissance faciale bâties en aspirant sans tri des images d'internet ou de vidéosurveillance, et la détection des émotions au travail et dans l'enseignement, sauf raison médicale ou de sécurité. L'identification biométrique à distance en temps réel dans l'espace public, par les forces de l'ordre, reste limitée à des objectifs listés (article 5).
Depuis le 2 août 2026, un hypertrucage (deepfake : image, son ou vidéo fabriqués mais crédibles) doit être signalé comme généré ou manipulé par une IA (article 50).
L'emploi
Un métier est un ensemble de tâches, et une IA en automatise certaines : un traducteur peut lui confier le premier jet et garder la relecture. Les uns y voient une substitution, des salariés remplacés jusque dans les tâches intellectuelles. Les autres, une complémentarité qui rend chacun plus productif sur le reste. Le débat porte aussi sur le partage des gains.
Piège classique : quand une étude dit qu'un emploi est « exposé » à l'IA, elle veut en général dire qu'une partie de ses tâches pourrait être faite par une IA, pas qu'il va disparaître. Lis la définition avant de citer un chiffre.
Le règlement européen sur l'IA
Le règlement (UE) 2024/1689 du 13 juin 2024 est directement applicable dans toute l'Union. Son principe : plus un usage menace la santé, la sécurité ou les droits fondamentaux, plus les règles sont strictes. Un règlement du 8 juillet 2026 a repoussé les dates du haut risque.
| Niveau | Exemples | Ce qu'il impose | Application |
|---|---|---|---|
| Interdit | Notation sociale, détection des émotions en classe | Interdiction (article 5) | 2 février 2025 |
| Haut risque | Tri de CV, note de solvabilité | Données vérifiées, contrôle humain, documentation | 2 décembre 2027 (2 août 2028 pour certains produits) |
| Transparence | Assistant conversationnel, hypertrucage | Prévenir qu'on parle à une IA, signaler le contenu fabriqué (article 50) | 2 août 2026 |
| Le reste | Filtre anti-spam, jeu vidéo | Aucune obligation liée au risque | sans objet |
Piège classique : le niveau dépend de l'usage, pas de la technique. Un même assistant conversationnel relève de la transparence quand il répond aux clients d'une boutique, et du haut risque quand on s'en sert pour trier des candidatures.
Exercices corrigés
Exercice 1 : D'après le règlement européen sur l'IA, classe ces systèmes. (a) L'assistant conversationnel qui répond aux clients d'une banque. (b) Le logiciel qui calcule la note de solvabilité des emprunteurs. (c) Une caméra qui déduit la colère ou la tristesse des élèves en classe. (d) Le filtre anti-spam d'une messagerie.
Correction :
(a) Transparence : le client doit savoir qu'il parle à une IA.
(b) Haut risque : l'évaluation de la solvabilité figure à l'annexe III.
(c) Interdit : détecter les émotions dans l'enseignement est proscrit, sauf raison médicale ou de sécurité.
(d) Aucune obligation liée au risque.
Exercice 2 : (données fictives) Un logiciel de vérification faciale est testé sur 10 000 photos, 9 000 du groupe A et 1 000 du groupe B. Il se trompe sur 90 photos du groupe A et sur 100 du groupe B. Son fournisseur annonce « 98,1 % de réussite ». Calcule le taux d'erreur global, puis par groupe. Que cache l'annonce ?
Correction :
Au total, $90 + 100 = 190$ erreurs sur $10\,000$ photos : $\dfrac{190}{10\,000} = 1{,}9\,\%$ d'erreur, donc $98{,}1\,\%$ de réussite. L'annonce est exacte.
Groupe A : $\dfrac{90}{9\,000} = 1\,\%$. Groupe B : $\dfrac{100}{1\,000} = 10\,\%$, soit dix fois plus.
Le taux global reste proche de celui de A, qui représente $90\,\%$ des tests : $0{,}9 \times 1\,\% + 0{,}1 \times 10\,\% = 1{,}9\,\%$. Une bonne moyenne peut cacher un biais fort contre un petit groupe.
Exercice 3 : Léa demande un crédit sur le site d'une banque. Quelques secondes plus tard s'affiche « Demande refusée, score insuffisant », sans qu'aucun conseiller ait vu son dossier. Que lui permet le RGPD ?
Correction :
Le refus est entièrement automatisé et l'affecte de manière significative : le préambule du RGPD (considérant 71) cite justement le rejet automatique d'une demande de crédit en ligne. L'article 22 s'applique.
Sans exception, la machine n'avait pas le droit de décider seule. Si la banque invoque une exception, par exemple la conclusion du contrat, Léa peut au minimum obtenir qu'un humain réexamine son dossier, donner son point de vue et contester le refus. Elle peut aussi demander la logique de son score (article 15).
À retenir
À retenir :
- Un biais vient surtout des données et se mesure groupe par groupe.
- RGPD, article 22 : face à une décision entièrement automatisée qui t'affecte, tu peux au minimum obtenir une intervention humaine et contester.
- Une IA n'est pas une personne : les obligations pèsent sur son fournisseur et son déployeur.
- Règlement sur l'IA : le niveau de règles suit le risque de l'usage, pas la technique.
Sources
- Règlement (UE) 2024/1689 sur l'intelligence artificielle : texte sur EUR-Lex ; modifié par le règlement (UE) 2026/1744 : texte sur EUR-Lex.
- RGPD, règlement (UE) 2016/679, applicable depuis le 25 mai 2018 : texte sur cnil.fr.
- NIST, Face Recognition Vendor Test Part 3: Demographic Effects, décembre 2019 : présentation sur nist.gov (en anglais).