Mis à jour le 15 novembre 2026 — par Assaf Bensoussan, DPO externe, juriste senior chez DPO 101.
« On veut seulement savoir si nos professeurs sont à l’aise. » La demande arrive ainsi, sans arrière-pensée, et l’outil qui y répond existe : il analyse la voix et le visage pendant un cours et en déduit un niveau de stress. Appliqué à des salariés, c’est une pratique interdite depuis le 2 février 2025. Le plus souvent, ceux qui l’envisagent ne savent pas que c’est interdit.
L’essentiel. Le règlement européen sur l’IA interdit dix pratiques : huit depuis le 2 février 2025, deux à partir du 2 décembre 2026. Trois peuvent apparaître dans une entreprise ordinaire sans qu’on l’ait cherché : déduire les émotions de salariés, exploiter la vulnérabilité d’une personne, noter des personnes puis réutiliser cette note hors de son contexte. Une pratique interdite ne se régularise pas par un dossier. L’objectif que poursuivait l’entreprise, lui, peut presque toujours être atteint autrement, et c’est là que se fait le travail. L’amende peut atteindre 35 millions d’euros ou 7 % du chiffre d’affaires mondial.
Ce que nous voyons chez nos clients
Chez certains clients, la fonction interdite n’a pas été choisie. Elle figure dans un outil de visioconférence, de téléphonie ou de transcription, sous un nom rassurant : analyse du ton, indicateur d’engagement, qualité de l’échange. Ou bien elle est demandée par un service qui veut bien faire : améliorer la qualité, accompagner les équipes. Dans les deux cas, la direction ne sait pas qu’elle se trouve devant un interdit.
Exemple type : un établissement veut évaluer automatiquement ses professeurs à partir de l’enregistrement de leurs cours. L’outil doit dire si le professeur paraît stressé, s’il a salué les élèves, s’il a suivi le déroulé prévu. Cet exemple est illustratif et ne décrit aucun client identifiable.
Cette seule demande contient trois situations juridiques différentes. Les distinguer est la première étape.
Une demande, trois réponses
| Ce que l’outil fait | Qualification | Peut-on en sortir ? |
|---|---|---|
| Déduire le stress ou l’état émotionnel du professeur à partir de sa voix ou de son visage | Pratique interdite (article 5) | Non. La seule exception vise les raisons médicales ou de sécurité, et la surveillance générale du stress n’en fait pas partie |
| Évaluer le professeur à partir de ce que l’outil relève : note, classement, pièce versée à son évaluation | Haut risque (annexe III, évaluation des performances) | Non. Noter une personne est un profilage, et le profilage ferme la dérogation |
| Constater des faits sur le cours : les points prévus ont-ils été traités, les consignes ont-elles été données | Hors haut risque | Oui, à une condition : aucune note, aucun classement, aucun cumul par professeur, et un résultat qui ne sert pas à l’évaluer |
Constater n’est pas noter
Entre la deuxième et la troisième ligne, une seule chose change : la notation. Constater qu’un cours a traité les points prévus est un fait sur le cours. Attribuer une note au professeur, cumuler ses résultats d’un cours à l’autre, le comparer à ses collègues ou verser le résultat à son évaluation, c’est porter une appréciation sur une personne. Le droit appelle cela un profilage, et le profilage change la donne.
C’est pourquoi une même vérification, « le professeur a-t-il salué les élèves », peut relever de l’une ou de l’autre ligne. Relevée comme un fait sur le cours, c’est un constat. Transformée en point dans une note, c’est une évaluation de la personne.
La règle que nous posons dès la conception du projet est donc simple : pas de notation. Elle s’écrit dans la finalité de l’outil, et elle se tient dans la durée, car la tentation de réutiliser des constats déjà disponibles pour apprécier quelqu’un revient toujours.
L’article 6, paragraphe 3 : la dérogation méconnue
Un usage qui figure à l’annexe III n’est pas automatiquement à haut risque. L’article 6, paragraphe 3, le dit en ces termes : un système visé à l’annexe III « n’est pas considéré comme étant à haut risque lorsqu’il ne présente pas de risque important de préjudice pour la santé, la sécurité ou les droits fondamentaux des personnes physiques, y compris en n’ayant pas d’incidence significative sur le résultat de la prise de décision ».
Le texte vise quatre cas : le système accomplit une tâche procédurale étroite, il améliore le résultat d’une activité humaine déjà réalisée, il détecte des écarts sans remplacer ni influencer l’appréciation humaine, ou il exécute une tâche préparatoire à une évaluation. Le projet de lignes directrices publié par la Commission le 19 mai 2026 en retient une lecture stricte.
C’est le travail que nous menons au quotidien avec nos clients : montrer, pièces à l’appui, que l’outil ne pèse pas sur la décision, et l’écrire. Une entreprise capable de le démontrer n’est pas dans le haut risque.
Cette dérogation a trois limites, et les ignorer coûte cher.
- Elle ne rachète jamais une pratique interdite. Elle ne concerne que les usages de l’annexe III. Déduire les émotions de salariés reste interdit, quel que soit le dossier.
- Elle ne joue pas lorsque le système réalise un profilage. Le texte est net : un système de l’annexe III qui profile des personnes physiques est toujours à haut risque. Dès qu’on note, la dérogation se ferme.
- Elle se documente avant, pas après. Le fournisseur qui estime que son système n’est pas à haut risque documente son évaluation avant de le mettre sur le marché. L’entreprise qui l’utilise écrit la finalité qu’elle donne à l’outil, et garde la trace de son raisonnement.
« C’est interdit » n’est pas une réponse
Un dirigeant ne veut pas entendre « c’est interdit », et il a une raison : derrière la demande, il y a un besoin légitime. Notre métier ne consiste pas à dire non. Il consiste à garder l’objectif et à changer le moyen, pour respecter la loi sans renoncer à l’innovation.
| Objectif | Moyen interdit ou risqué | Ce que nous proposons à la place |
|---|---|---|
| Savoir si les professeurs sont à l’aise | Analyse du stress par la voix ou le visage | Questionnaire aux élèves, observation par un pair, auto-évaluation du professeur |
| Améliorer la qualité des appels | Analyse des émotions des conseillers | Contrôle du contenu sur un échantillon : mentions obligatoires, étapes de l’échange |
| Mesurer le climat social | Indicateur individuel d’engagement tiré des échanges | Enquête anonyme, résultats agrégés |
| Adapter une offre à un client | Ciblage de sa fragilité financière ou de son âge | Critères objectifs et documentés, identiques pour tous |
Les notes et les enquêtes internes : le risque de détournement
Chez certains clients, nous rencontrons des notes ou des scores créés pour une raison et tentants pour une autre. Le cas le plus courant est l’enquête de satisfaction interne. Conçue pour mesurer le climat général, elle peut servir à repérer qui a répondu quoi. C’est le mécanisme que vise l’interdiction de la notation sociale : une évaluation produite dans un contexte, utilisée contre la personne dans un autre.
Notre préconisation est constante : anonymiser, pour que la réutilisation soit impossible et pas seulement interdite. Encore faut-il que l’anonymat soit réel. Le piège le plus fréquent est le champ de réponse libre : on reconnaît une personne à sa manière d’écrire ou à un détail qu’elle seule peut donner. Trois précautions s’ensuivent.
- Aucun identifiant, direct ou indirect, dans le questionnaire.
- Des réponses libres limitées, et relues avant toute restitution.
- Une restitution agrégée, jamais pour un groupe assez petit pour qu’on devine qui a répondu.
Les dix pratiques interdites
| Pratique | Ce qui est visé |
|---|---|
| Manipulation | Techniques subliminales ou trompeuses qui altèrent le comportement et causent un préjudice important |
| Exploitation des vulnérabilités | Tirer parti de l’âge, du handicap ou de la situation sociale ou économique d’une personne |
| Images intimes non consenties | Générer ou manipuler des contenus réalistes à caractère intime d’une personne identifiable sans son consentement |
| Contenus pédocriminels | Générer ou manipuler de tels contenus |
| Notation sociale | Classer des personnes selon leur comportement, avec un traitement défavorable sans lien avec le contexte d’origine |
| Prédiction d’infractions | Évaluer le risque qu’une personne commette une infraction sur la seule base de son profil |
| Bases de reconnaissance faciale | Les constituer par collecte massive d’images sur internet ou par vidéosurveillance |
| Émotions au travail et à l’école | Déduire les émotions d’une personne sur le lieu de travail ou dans un établissement d’enseignement |
| Catégorisation biométrique | Déduire l’origine, les opinions, l’appartenance syndicale, les convictions ou l’orientation sexuelle |
| Identification biométrique en temps réel | Dans l’espace public, à des fins répressives, hors exceptions strictes |
Les deux pratiques relatives aux images intimes et aux contenus pédocriminels ont été ajoutées par le règlement du 8 juillet 2026. Elles s’appliquent le 2 décembre 2026 : voyez ce qui entre en application.
Qui répond : le fournisseur et celui qui utilise
L’interdiction ne vise pas seulement celui qui conçoit le système. Elle vise aussi son utilisation. Une entreprise qui active une fonction interdite dans un logiciel du marché en répond, même si elle n’a rien développé. Pour les deux pratiques ajoutées en 2026, le texte précise la part de chacun : le fournisseur répond de la conception du système, le déployeur de l’usage qu’il en fait dans ce but.
Comment vérifier
- Recenser les outils qui analysent la voix, le visage ou le comportement : visioconférence, téléphonie, vidéosurveillance, outils RH.
- Lire la liste de leurs fonctions, y compris celles ajoutées par mise à jour.
- Désactiver l’analyse des émotions partout où des salariés ou des apprenants sont concernés.
- Pour chaque fonction écartée, noter l’objectif poursuivi et le moyen retenu à la place.
- Inscrire ces interdits dans la charte IA.
- Vérifier qu’aucune note ni aucun score n’est réutilisé hors de son contexte d’origine.
Ces vérifications font partie de l’audit de conformité IA.
À lire aussi : IA en entreprise : les trois décisions de la direction · Comptes personnels d’IA au travail · Maîtrise de l’IA : ce que demande l’article 4 · Même outil, autre usage · Les obligations du déployeur d’IA
Questions fréquentes
Peut-on rendre conforme une pratique interdite en la documentant ?
Non. La dérogation de l’article 6, paragraphe 3, ne concerne que les usages à haut risque de l’annexe III. Une pratique interdite s’arrête. L’objectif qu’elle servait peut en revanche être poursuivi par un autre moyen.
Mesurer le stress des salariés pour leur bien-être est-il permis ?
Pas lorsqu’une IA le déduit de leur voix ou de leur visage. L’exception est limitée aux raisons médicales ou de sécurité, et un objectif général de bien-être n’y entre pas. Un questionnaire anonyme reste possible.
Vérifier automatiquement le déroulé d’un cours ou d’une prestation est-il à haut risque ?
Pas si l’outil se borne à constater des faits, sans note, classement ni cumul par personne, et que le résultat ne sert pas à évaluer quelqu’un. Dès qu’il note la personne, c’est un profilage et le haut risque s’applique.
Depuis quand les pratiques d’IA interdites s’appliquent-elles ?
Depuis le 2 février 2025 pour les huit pratiques d’origine. Les deux pratiques ajoutées en 2026, sur les images intimes non consenties et les contenus pédocriminels, s’appliquent à partir du 2 décembre 2026.
Peut-on analyser les émotions des clients ?
L’interdiction vise le lieu de travail et les établissements d’enseignement. Hors de ces contextes, la reconnaissance des émotions n’est pas interdite, mais elle figure parmi les usages à haut risque et reste soumise au RGPD.
Quelle sanction pour une pratique interdite ?
Une amende pouvant atteindre 35 millions d’euros ou 7 % du chiffre d’affaires annuel mondial. Pour les PME, le plus faible des deux montants s’applique.
Sources : règlement (UE) 2024/1689, articles 5, 6, 99 et 113, dans sa version modifiée par le règlement (UE) 2026/1744 ; Commission européenne, lignes directrices sur les pratiques interdites en matière d’IA (février 2025) et projet de lignes directrices sur la classification des systèmes d’IA à haut risque (19 mai 2026, consultation close le 23 juillet 2026).
Article rédigé par Assaf Bensoussan, DPO externe et juriste senior chez DPO 101, cabinet de conseil en protection des données (plus de 500 structures accompagnées).
