Ce que vous tapez dans ChatGPT peut finir sur le bureau d’un enquêteur. Le 28 avril, OpenAI a publié un billet de blog intitulé « Our commitment to community safety ». L’entreprise y détaille pour la première fois son système de surveillance des conversations avec son IA.
Le dispositif fonctionne à deux niveaux. Des systèmes automatisés scrutent d’abord en continu les échanges pour repérer des signaux comme des intentions violentes ou des demandes suspectes. Quand certains seuils sont franchis, des équipes humaines prennent le relais pour relire l’ensemble de la conversation, y compris l’historique sur plusieurs semaines.
Selon OpenAI, « Un message isolé peut sembler anodin. Mais une tendance plus générale au sein d’une longue conversation – ou d’une conversation à l’autre – peut indiquer un problème plus préoccupant.» Dans ces cas préoccupants, elle se réserve le droit d’informer les autorités compétentes lorsqu’elle identifie une menace crédible et imminente. «Lorsque des conversations révèlent un risque imminent et crédible de préjudice pour autrui, nous en informons les forces de l’ordre.», affirme OpenAI.
Pour les mineurs, l’entreprise va encore plus loin. Des examinateurs humains peuvent lire certaines conversations d’adolescents et alerter les parents s’ils détectent un cas de détresse aiguë. Le déclencheur immédiat de cette politique de surveillance serait une fusillade à Tumbler Ridge, au Canada. Huit personnes ont perdu la vie lors de ce évènement survenu le 10 février 2026. L’auteur des faits aurait utilisé ChatGPT pour se préparer, poussant les familles des victimes à déposer des plaintes contre OpenAI.
OpenAI n’a communiqué sur aucun chiffre sur le nombre de conversations relues ou de signalements effectués à ce jour. Mais pour les utilisateurs, le message est simple. ChatGPT n’est ni un médecin, ni un avocat, ni un journal intime. Un humain peut relire tout ce que vous y confiez. Et un jour, cela peut se retourner contre vous.
