Décision automatisée : quand l’intervention humaine devient obligatoire
Un score refuse un compte, un modèle déclasse une offre, une règle bloque un paiement. Tant qu’un humain valide, on croit être à l’abri. Ce n’est vrai que si cet humain peut réellement décider autrement.
Le seuil est celui de l’effet
La personne a le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé produisant des effets juridiques la concernant, ou l’affectant de manière significative de façon similaire.
Deux conditions, donc : exclusivement automatisé, et un effet. La suspension d’un compte qui constitue le revenu de quelqu’un franchit le second sans discussion. Un simple message promotionnel non.
RGPD art. 22Quand la validation humaine n’en est plus une
C’est le point pratique. Une intervention humaine ne compte que si elle est réelle : la personne qui valide doit disposer de l’autorité, de l’information et du temps nécessaires pour s’écarter de la recommandation.
Un opérateur qui traite trois cents dossiers par jour en cliquant « confirmer » ne rend pas la décision humaine : il la signe. Le test que l’on peut s’appliquer est simple — sur les douze derniers mois, combien de fois la validation a-t-elle contredit le système ? Si la réponse est zéro, la décision est automatisée.
RGPD art. 22Les deux textes se superposent
Côté données : droit d’obtenir une intervention humaine, d’exprimer son point de vue et de contester la décision. Côté services numériques : l’exposé des motifs doit indiquer si des moyens automatisés ont été utilisés, et le réexamen ouvert par la réclamation interne ne peut pas reposer sur la seule machine.
Une suspension de compte décidée par un score relève donc des deux à la fois — et appelle une seule procédure, conçue pour satisfaire les deux. Voir l’exposé des motifs.
DSA art. 20 · RGPD art. 22À retenir
- Deux conditions : décision exclusivement automatisée, et effet significatif.
- La validation humaine ne compte que si elle peut réellement contredire le système.
- Le test : combien de fois a-t-elle contredit le système cette année ?
- Intervention humaine, point de vue, contestation : les trois droits vont ensemble.
- Une seule procédure doit satisfaire les deux textes.
Questions fréquentes
Un filtre à règles fixes est-il une décision automatisée ?
S’il produit seul un effet significatif, oui : la sophistication du système n’entre pas dans la définition. Un blocage déclenché par un seuil chiffré est aussi automatisé qu’un score appris.
Puis-je m’appuyer sur le contrat pour justifier l’automatisation ?
La nécessité contractuelle et le consentement explicite font partie des cas où la décision automatisée reste possible — mais les garanties demeurent : intervention humaine, point de vue, contestation. L’exception lève l’interdiction, pas les droits.
Dois-je expliquer le fonctionnement du système ?
Vous devez donner une information utile sur la logique sous-jacente et sur les conséquences prévues, pas livrer le modèle. Le test pratique : la personne doit pouvoir contester sérieusement, sans pouvoir manipuler le système.
Vos décisions automatisées sont-elles réexaminables ?
Seuil d’effet, réalité de l’intervention humaine, articulation des deux textes : le diagnostic examine la chaîne de décision. Livré sous 48 heures.
Vos procédures tiennent-elles ?
Signalement, exposé des motifs, réclamation interne : le diagnostic dit ce qui existe, ce qui manque, et dans quel ordre le reprendre. Livré sous 48 heures.
Cet article présente une information juridique générale. Il ne constitue pas une consultation : l’application de ces règles à une situation particulière suppose l’analyse du dossier. Joseph David Atias, avocat au Barreau de Paris.