Shadow AI en santé : pseudonymiser un prompt ne suffit pas

La scène : un document de santé dans une IA personnelle

Une infirmière veut reformuler une transmission, une secrétaire résumer une demande, un professionnel de santé préparer une lettre. L'outil d'IA grand public est à portée de clic. Mais si des données de patient, de salarié ou des informations couvertes par le secret sont copiées dans un service non approuvé, l'établissement peut perdre la maîtrise de la destination et des conditions de traitement.

Ces usages non encadrés sont souvent regroupés sous l'expression « shadow AI ». Ce n'est ni une infraction en soi ni la preuve qu'une fuite a eu lieu : c'est une difficulté de gouvernance. La HAS rappelle que chaque usage professionnel de l'IA générative en santé doit être conscient, supervisé et raisonné.

La pseudonymisation protège, sans faire disparaître le RGPD

Un éditeur peut proposer de remplacer les noms, identifiants et données détectées avant l'envoi vers un modèle. C'est potentiellement utile : la pseudonymisation est une mesure de réduction des risques.

Mais un masque sur les champs « nom » et « prénom » peut laisser des détails indirectement identifiants dans un compte rendu ou une note libre. La CNIL distingue pseudonymisation et anonymisation : les données pseudonymisées demeurent, en principe, des données personnelles soumises au RGPD. Il faut toujours examiner la finalité, la base juridique, les destinataires, la sécurité et les risques de réidentification.

Une solution qui affirme « RGPD conforme grâce au masquage » doit donc expliquer ses garanties précises. Le mot « pseudonymisation » ne résout pas à lui seul le secret professionnel ni les obligations liées au traitement de données sensibles.

Ce qu'une passerelle d'IA voit réellement

Un système intercalé entre un utilisateur et un modèle peut contrôler les requêtes qu'il reçoit : identifier certaines données, appliquer une politique, bloquer ou solliciter une revue humaine, et tracer ce qui a été décidé. Les capacités exactes dépendent des détecteurs, du paramétrage et des intégrations.

En revanche, un compte personnel utilisé sur un appareil ou un réseau qui contourne cette passerelle ne devient pas automatiquement visible. Avant d'acheter, demandez la liste des applications, navigateurs, appareils et flux réellement couverts. Demandez aussi quels usages sont connus comme hors périmètre. Promettre une protection universelle sans décrire ces limites ne permet pas d'évaluer le risque.

Six questions que le DPO et le RSSI doivent poser

Un fournisseur sérieux doit accepter de répondre à des questions concrètes, avec une démonstration et des limites explicites.

1. 1Quels usages et comptes IA sont recensés, et quels canaux ne sont pas observés par l'outil ?
2. 2Quelles catégories de données sont détectées ? Avec quels résultats mesurés sur un jeu d'essai représentatif, y compris les textes libres ?
3. 3S'agit-il d'un masquage, d'une pseudonymisation ou d'une anonymisation ? Où sont conservées les éventuelles tables de correspondance ?
4. 4Quelles règles déclenchent l'autorisation, la transformation, le blocage ou la validation humaine ? Qui approuve les exceptions ?
5. 5Quels événements, versions de politiques et justificatifs peuvent être exportés et vérifiés sans dépendre uniquement du tableau de bord ?
6. 6Que se passe-t-il si le détecteur se trompe, si une donnée est inconnue ou si la validation attendue manque ?

Transformer les bonnes pratiques en mesures vérifiables

Une charte d'utilisation et une formation peuvent être nécessaires ; elles ne remplacent pas des paramètres techniques adaptés aux outils et aux canaux effectivement utilisés. Les recommandations de la CNIL insistent sur la sensibilisation des utilisateurs, les informations qu'ils sont autorisés à partager et la vérification des résultats.

Une revue proportionnée peut partir de trois données : les usages réels identifiés, les règles et décisions attendues, les preuves disponibles en cas de contrôle. Les DPO de la Santé accompagnent ce cadrage et la sensibilisation des équipes. Pour transformer la réflexion en action : demander un diagnostic des usages IA ou préparer une formation de maîtrise de l'IA.

Il faut mesurer la part des usages effectivement cartographiés, la couverture des canaux, les points sensibles signalés et les décisions documentées. Un chiffre de « sanctions évitées » ne peut être annoncé honnêtement sans démonstration.