Pour juger un usage de l'intelligence artificielle (IA), pose trois questions : quels effets il produit, et sur qui ; quelle règle il pourrait violer, même pour un bon résultat ; que ferait à ta place une personne juste et prudente.
Prends un logiciel qui trie des CV : il fait gagner des heures, mais s'il a appris sur des embauches passées surtout masculines, il peut écarter des candidates sans que personne l'ait voulu. Le temps gagné ne rachète pas cette injustice, et un recruteur prudent vérifie qui le logiciel élimine avant de s'y fier.
Trois grilles pour juger
La première grille juge un acte à ses conséquences : c'est le conséquentialisme. Pour l'utilitarisme de Bentham et Mill, sa forme la plus connue, est bon ce qui produit le plus de bien-être pour le plus grand nombre. Un outil d'aide au diagnostic qui se trompe moins souvent que les médecins seuls sauve des vies : on l'adopte.
Sa limite : une moyenne peut cacher des victimes. Un outil excellent en moyenne peut se tromper bien plus souvent sur les patients peu représentés dans ses données d'entraînement, c'est-à-dire les exemples dont il a appris.
La deuxième grille pose des limites qu'aucun bénéfice ne justifie de franchir : c'est l'éthique du devoir, dite déontologique, dont Kant est la grande figure. Elle exige de traiter chaque personne toujours comme une fin, jamais simplement comme un moyen. Noter les citoyens sur leur comportement pour décider de leurs droits les réduit à un score : cette grille le refuse.
La troisième grille regarde celui qui agit : c'est l'éthique des vertus, héritée d'Aristote. Elle demande ce que ferait une personne juste et prudente, la prudence étant chez lui une sagesse pratique : la capacité de bien juger dans une situation précise. C'est la grille de tes propres usages : rendre un texte écrit par une IA sans le dire relève de l'honnêteté, pas d'un calcul.
En dissertation, fais dialoguer ces grilles plutôt que d'en choisir une.
Les biais, une injustice apprise
Un système d'apprentissage automatique ne suit pas des règles écrites à la main : il repère des régularités dans ses données d'entraînement, puis les applique aux cas nouveaux. Si ces données gardent la trace d'une injustice passée, il l'apprend comme le reste.
Définition : un biais algorithmique est un écart systématique dans les résultats d'un système, au détriment d'un groupe de personnes.
Dans l'exemple du tri de CV, personne n'a écrit « écarter les femmes » dans le code : le logiciel l'a déduit des embauches passées. La CNIL, l'autorité française de protection des données, décrit ces biais dans un rapport de décembre 2017 comme « le plus souvent inconscients et difficilement repérables ».
Piège classique : croire qu'il suffit de retirer la colonne « sexe » des données. Le prénom ou une interruption de carrière trahissent encore le sexe : ce sont des variables indirectes. L'équité se vérifie sur les résultats, groupe par groupe.
Qui répond d'une décision automatisée
Quand un système se trompe, la tentation est de dire : « c'est l'algorithme qui a décidé ». Or un logiciel n'a pas d'intention et ne peut ni réparer ni être puni. La responsabilité reste humaine, mais elle s'éparpille entre ceux qui ont collecté les données, conçu le modèle, vendu le système et validé son résultat. La CNIL parle de « dilution de la responsabilité ».
Son rapport se demande aussi si ces machines, souvent jugées « neutres », n'ouvrent pas la voie à une confiance excessive et à la « tentation pour chacun de ne pas exercer pleinement ses responsabilités ». Le risque concret : celui qui devait contrôler finit par valider sans lire.
Le droit répond en nommant des responsables : le règlement européen sur l'IA distingue le fournisseur, qui développe le système (l'éditeur d'un logiciel de tri de CV), et le déployeur, qui l'utilise (l'entreprise qui s'en sert pour recruter).
Ce que fixe le règlement européen
L'Union européenne a tranché une partie de ces débats dans le règlement (UE) 2024/1689 sur l'intelligence artificielle, entré en vigueur le 1er août 2024. Plus un usage menace la santé, la sécurité ou les droits des personnes, plus il est encadré. La Commission européenne le présente en quatre niveaux de risque.
| Niveau de risque | Exemples | Ce qui s'applique |
|---|---|---|
| Inacceptable | Notation sociale, reconnaissance des émotions au travail et dans les établissements d'enseignement | Interdit depuis le 2 février 2025 |
| Haut risque | Tri de CV, notation des examens, notation de crédit | Obligations strictes à partir du 2 décembre 2027 |
| Transparence | Agents conversationnels (chatbots), hypertrucages (deepfakes) | Informer qu'on parle à une machine, rendre les contenus générés identifiables, depuis août 2026 |
| Minimal ou nul | Filtres antispam, jeux vidéo | Aucune règle propre |
Un système à haut risque devra notamment évaluer et réduire ses risques, reposer sur des données de haute qualité « afin de réduire au minimum les risques de résultats discriminatoires » et prévoir une surveillance humaine, garde-fou contre la confiance excessive. Ces obligations devaient s'appliquer plus tôt : une révision du règlement, entrée en vigueur le 27 juillet 2026, les a repoussées au 2 décembre 2027.
Relis ce tableau avec les trois grilles. Les interdictions sont déontologiques : aucun gain n'autorise la notation sociale. Le haut risque raisonne en conséquences : on autorise, mais on limite les dommages. La transparence protège ton autonomie : savoir qu'on parle à une machine permet de décider en connaissance de cause.
Piège classique : confondre légal et moral. Le règlement dit ce qui est permis, pas ce qui est juste, et une dissertation attend que tu fasses la différence.
Le coût écologique
Les grands modèles d'IA tournent dans des centres de données, des bâtiments remplis de serveurs qui consomment de l'électricité pendant l'entraînement, puis à chaque réponse. Selon l'Agence internationale de l'énergie (avril 2026), la demande d'électricité des centres de données a bondi de 17 % en 2025, et leur consommation devrait doubler d'ici 2030 ; celle des centres consacrés à l'IA devrait tripler.
Toute technique consomme : la question éthique est celle de la proportion. La grille des conséquences compare, usage par usage, le service rendu et l'énergie dépensée ; celle des vertus demande si l'outil est utile avant de lancer une requête.
Exercices corrigés
Cherche chaque cas avant d'ouvrir sa correction.
Exercice 1 : Classe chaque système selon le règlement européen sur l'IA, et dis ce que cela implique : a) un filtre qui écarte les courriels indésirables ; b) un logiciel qui note les copies d'un examen ; c) l'assistant conversationnel du site d'une banque ; d) une caméra qui analyse les émotions des étudiants pendant un cours.
Correction :
a) Risque minimal ou nul : aucune règle propre.
b) Haut risque, au titre de l'enseignement : données de qualité, traçabilité et surveillance humaine, exigées à partir du 2 décembre 2027.
c) Transparence : tu dois être informé que tu échanges avec une machine.
d) Risque inacceptable : la reconnaissance des émotions dans un établissement d'enseignement est interdite depuis le 2 février 2025.
Exercice 2 : Une banque accorde ou refuse ses prêts avec un modèle entraîné sur ses décisions passées. Elle a retiré de ses données le sexe et la nationalité des clients, puis affirme : « Notre modèle ne peut plus discriminer. » Que vaut cet argument, et que demandera le règlement européen à ce système ?
Correction :
L'argument ne tient pas. Si les décisions passées défavorisaient certains groupes, des variables indirectes comme le code postal ou le prénom les désignent encore, et le modèle reproduit l'écart. Retirer une colonne ne retire pas le biais : l'équité se contrôle en comparant les résultats du modèle groupe par groupe.
Côté droit, la notation de crédit est à haut risque : données de haute qualité et surveillance humaine, exigées à partir du 2 décembre 2027.
Exercice 3 : Inès cite dans son mémoire un article qu'un assistant d'IA lui a proposé. Cet article n'existe pas. Elle se défend : « C'est l'IA qui s'est trompée. » Examine cette défense avec les trois grilles, puis conclus.
Correction :
Conséquences : une fausse référence trompe le lecteur et fait douter de tout le mémoire.
Devoirs : citer une source, c'est garantir au lecteur qu'elle existe. Ce devoir pèse sur l'auteur, quel que soit l'outil.
Vertus : une étudiante honnête et prudente vérifie une référence avant de la citer, surtout si elle vient d'un outil capable d'en inventer.
Conclusion : l'IA n'a rien signé, Inès si. L'outil explique l'erreur, il ne l'excuse pas.
À retenir
À retenir :
- Trois grilles à faire dialoguer : les conséquences (Bentham, Mill), les devoirs (Kant), les vertus (Aristote).
- Un biais algorithmique vient des données d'entraînement ; l'équité se vérifie sur les résultats.
- Un logiciel ne répond de rien : la responsabilité reste humaine, même diluée.
- Le règlement (UE) 2024/1689 classe les usages en quatre niveaux de risque.
- Légal ne veut pas dire moral.
- Le coût écologique se juge en proportion du service rendu.
Sources
- Commission européenne, « Législation sur l'IA », page mise à jour le 3 août 2026 : digital-strategy.ec.europa.eu.
- CNIL, « Comment permettre à l'Homme de garder la main ? », rapport du 15 décembre 2017 : cnil.fr.
- Agence internationale de l'énergie, communiqué du 16 avril 2026, en anglais : iea.org.