Le 23 avril 2026, OpenAI a publié un billet de blog intitulé « Our commitment to community safety ». L'ouverture s'articule autour des fusillades de masse et des menaces contre des élus, un cadrage émotionnel qui rend toute objection délicate. Le texte qui suit est autre chose : la description structurée d'une infrastructure de surveillance appliquée à près d'un milliard d'utilisateurs.
Ce n'est pas une révélation. OpenAI accède aux conversations ChatGPT depuis le départ, et nul professionnel ne devrait en avoir douté. Ce qui change avec ce billet, c'est que l'entreprise ne le concède plus discrètement dans des conditions d'utilisation que personne ne lit. Elle le revendique, le structure, et le présente comme une fonctionnalité.
Ce que le billet décrit techniquement
Le dispositif documenté par OpenAI comporte plusieurs couches :
- Classifieurs automatisés : les conversations sont scannées en continu à la recherche de patterns préoccupants.
- Revue humaine : quand un échange est signalé, du personnel dédié y accède pour en évaluer le contexte.
- Analyse cross-sessions : l'évaluation ne se limite pas au message isolé. OpenAI cite explicitement les « schémas comportementaux observés sur la durée, entre plusieurs sessions distinctes ».
Ce dernier point mérite attention. Une conversation unique peut être relativement isolée. Un profil comportemental construit sur des semaines de sessions ne l'est pas de la même façon.
Un acteur privé en position régalienne
La deuxième dimension du billet est plus structurelle. OpenAI décrit un processus où l'entreprise évalue elle-même la crédibilité et l'imminence d'une menace, recourt à des psychiatres et spécialistes du comportement pour jauger la dangerosité de ses clients, puis décide souverainement de contacter les forces de l'ordre.
Sans mandat judiciaire. Sans juge. Sans obligation légale de transparence mentionnée.
Le texte l'écrit sans détour : « Nos critères de signalement sont souples, pour tenir compte du fait qu'un utilisateur peut ne pas mentionner explicitement la cible, les moyens et le calendrier d'une violence planifiée. »
La fonction de renseignement et d'évaluation de la menace est normalement réservée aux services étatiques, précisément parce qu'elle nécessite un encadrement juridique et des contre-pouvoirs. Ici, c'est une entreprise privée californienne qui décide, sans audit externe, sans volumétrie publiée sur les conversations lues ou les signalements effectués. L'entreprise propose un mécanisme d'appel interne, ce qui revient à faire juger le surveillant par lui-même.
Le cas des mineurs : un révélateur
Le volet concernant les utilisateurs mineurs illustre la logique à l'oeuvre. Des examinateurs humains lisent les conversations d'adolescents et peuvent alerter les parents en cas de « détresse aiguë » détectée.
Un adolescent qui confie un questionnement intime, un conflit familial ou des idées sombres à un agent conversationnel pourrait voir cette confidence transmise à ses parents. La situation dans laquelle cela s'avère utile existe. Celle dans laquelle cela aggrave la situation aussi. OpenAI a choisi de prendre cette décision à la place de l'utilisateur, et de la présenter comme une fonctionnalité bienveillante.
L'entreprise annonce également une option « contact de confiance » pour les adultes : une personne désignée peut être notifiée si l'IA estime que l'abonné a besoin de soutien. Le paternalisme algorithmique comme argument commercial.
L'asymétrie réglementaire
Le billet d'OpenAI ne cite ni le RGPD, ni aucun cadre légal applicable aux abonnés européens. Pour un dispositif qui collecte des données comportementales multi-sessions, réalise des évaluations de dangerosité personnalisées et transmet des informations aux autorités, l'absence de toute référence au droit des données personnelles européen est notable.
C'est ici que le sujet dépasse OpenAI.
Une PME française qui mettrait en place un dispositif équivalent, même à échelle réduite : collecte de données comportementales sans base légale explicite, profilage psychologique, transmission à des tiers sans information préalable, ferait l'objet d'une mise en demeure CNIL dans les semaines suivant la publication d'un tel document. Les obligations de registre des traitements, d'analyse d'impact (DPIA), de désignation d'un DPO, de base légale identifiée pour chaque traitement, sont contraignantes, coûteuses et bloquantes pour une structure de taille moyenne.
OpenAI publie un blog post. Aucune mise en demeure connue à ce jour.
Ce n'est pas une situation propre à OpenAI. C'est un pattern structurel : les grands opérateurs américains établissent des pratiques à l'échelle mondiale, puis négocient (ou absorbent) les conséquences réglementaires a posteriori. Les amendes RGPD prononcées contre Meta ou Google (4,65 milliards d'euros cumulés à fin 2025 selon l'Enforcement Tracker) représentent une fraction de leur chiffre d'affaires annuel. Pour une PME, une amende à 4% du CA mondial peut être existentielle. Pour Meta, c'est une ligne de coût.
Le résultat pratique : les organisations européennes portent une charge de conformité qui ralentit leur développement, pendant que les opérateurs ayant les moyens d'absorber les sanctions opèrent selon des règles effectives différentes.
Ce que ça implique en pratique
Pour les équipes techniques qui utilisent ChatGPT dans un contexte professionnel, ce billet pose une question concrète : qu'est-ce qui passe dans ChatGPT ?
Les cas à risque ne sont pas forcément les plus évidents :
- Analyse d'incidents de sécurité : décrire une compromission, coller des logs, demander de l'aide sur un comportement réseau suspect. Le contenu est techniquement bénin, mais peut correspondre à des patterns que des classifieurs mal calibrés traiteraient autrement.
- Contexte client ou contractuel : noms d'entreprises, données d'infrastructure, noms de projets. ChatGPT n'est pas couvert par un accord de confidentialité, sauf contrat Enterprise spécifique.
- Conversations longues sur des sujets sensibles : c'est précisément le terrain de l'analyse cross-sessions documentée dans le billet.
La version ChatGPT Enterprise modifie en partie l'équation (pas d'entraînement sur les données, DPA disponible), mais le dispositif de safety décrit dans le billet n'y est pas nécessairement désactivé. OpenAI ne le précise pas.
La règle pratique reste la même qu'avant ce billet : ne pas traiter ChatGPT comme un outil confidentiel. Ce que ce document change, c'est qu'on n'a plus besoin de l'inférer.
Sources
Aymeric Geoffre-Rouland
