Aller au contenu
« Si vous n’avez rien à vous reprocher, vous n’avez rien à craindre. »
À chaque fois qu’on parle de Chat Control, cette phrase revient. Et à chaque fois, elle me fait bondir.
Alors je vais te poser une question toute bête.
Tu serais d’accord pour que le facteur lise tous tes courriers avant de les déposer dans ta boîte aux lettres ?
Moi non. Il y a quand même un truc qui s’appelle le droit à la vie privée.
Là, c’est pareil. Sauf qu’à la place du facteur, on met une intelligence artificielle. Et c’est là que je ne peux plus me taire, parce que l’IA, c’est mon métier. Je bosse avec tous les jours. Je crois à son potentiel. Et je crois justement qu’une IA a de la valeur quand elle rend l’humain plus libre, pas quand on la transforme en mouchard.
J’ai cette conviction-là. Pas une peur de vieux réac.
Chat Control 1.0 et 2.0 : ne confonds pas les deux textes
Il y a 2 textes. La presse les mélange, et ce n’est pas un hasard.
Chat Control 1.0, c’est le scan « volontaire » des messages par les plateformes. Il vient d’être réinstauré au Parlement européen le 9 juillet 2026, jusqu’en 2028. Bonne nouvelle : il exclut explicitement les messageries chiffrées comme Signal ou WhatsApp.
Chat Control 2.0, le règlement CSAR, c’est l’autre. Le permanent. L’obligatoire. Celui qui veut s’attaquer au chiffrement de bout en bout en forçant une analyse directement sur ton téléphone, avant même que ton message parte.
Ce texte-là n’est pas voté. Il repart en négociation à l’automne.
Retiens ça : le pire n’est pas passé. C’est maintenant qu’il faut regarder.
Le problème n'est pas l'intention. C'est ce qu'on demande à la machine.
Protéger les enfants, personne de sérieux n’est contre. Moi le premier.
Mais protéger les enfants et construire une machine à surveiller tout le monde, ce sont 2 choses différentes. On les confond parce que la première rend la seconde intouchable. Qui va oser dire non à « on veut protéger les enfants » ?
La vraie question, la seule qui compte : est-on capable d’analyser des milliards de messages par jour sans créer un danger pire que celui qu’on veut soigner ?
Je pense que non. Et je vais t’expliquer pourquoi, simplement.
Une IA éthique, ça commence par ne pas lui demander l'impossible
C’est mon quotidien. Je fais tourner ces modèles tous les jours.
Ils sont bluffants. Ils sont aussi capables de se planter avec un aplomb total.
Faux positifs. Faux négatifs. Contexte mal compris. Une photo de tes gamins dans le bain envoyée à leur grand-mère, et l’algorithme lève un drapeau rouge. On peut aussi les contourner, les manipuler, les tromper, c’est devenu un sport.
Sur un post mal détecté, on s’en remet. Ici, on parle d’une suspicion de pédocriminalité générée par une machine. Les conséquences ne sont pas les mêmes. Pas du tout.
Et ce n’est pas moi qui le dis : une étude commandée par le Parlement européen lui-même conclut qu’aucune technologie actuelle ne détecte ce type de contenu sans un taux d’erreur inacceptable. En Irlande, seuls 20 % des signalements automatiques correspondaient à du vrai contenu.
Une IA éthique, ce n’est pas une IA qu’on brandit. C’est une IA qu’on met là où elle est fiable, et surtout pas là où son erreur détruit une vie. On est en train de faire l’exact inverse.
Le principe qu'on est en train de piétiner
Les experts en cybersécurité ont une règle de base : le moindre privilège.
Le moins de monde possible accède à une donnée. On chiffre au maximum. On réduit le nombre de portes par lesquelles quelqu’un peut entrer.
Chat Control fait totalement l’inverse. On crée une capacité géante, capable de lire des milliards de contenus qui étaient privés. On concentre tout au même endroit. On rajoute des portes au lieu d’en enlever.
Et il faut arrêter de se raconter des histoires. Il n’y aura pas que des gens bienveillants pour vouloir entrer.
Plus un système concentre de données sensibles en un seul endroit, plus il devient une cible. Ce n’est pas une opinion, c’est mécanique. Cybercriminels, États hostiles, tu construis un coffre-fort avec les conversations de 450 millions d’Européens dedans, devine qui va essayer de l’ouvrir.
Et une IA éthique, ça pose aussi la question : qui tient le manche ?
Qui développe le modèle ? Où on l’héberge ? Sous quelle juridiction ?
En France, on parle sans arrêt de souveraineté numérique. Ce serait étrange d’aller héberger le plus grand système d’analyse de nos messages privés… aux États-Unis. Ou ailleurs.
Où sont les garanties d’audit ? De transparence ? D’indépendance ?
Pour l’instant, silence radio. Une IA qu’on ne peut ni auditer ni contrôler, ce n’est pas de l’IA éthique. C’est une boîte noire à qui on donne les clés de nos vies.
Le vrai piège est dans le temps
Voici ce qui m’inquiète le plus. Pas aujourd’hui. Dans 5 ans. Dans 10.
Une technologie naît toujours avec un objectif précis et rassurant. Protéger les enfants. Puis elle s’étend. On appelle ça le function creep, le glissement d’usage.
Une fois que la donnée est collectée, une fois que le tuyau existe, on finit par avoir accès à tout. Et à chaque nouvelle « bonne raison », on élargit un peu. Le terrorisme. La fraude. Les opinions gênantes.
Ce n’est pas de la science-fiction. C’est un mécanisme qu’on observe déjà ailleurs. On construit une porte pour une raison. 5 ans plus tard, tout le monde passe par là.
Donc oui, je suis contre Chat Control. Mais pas contre ce que tu crois.
Je ne suis pas contre l’idée de protéger les enfants. Ça, c’est non négociable.
Je suis contre le système qu’on veut poser derrière. Parce qu’il transforme une technologie que j’aime en outil de surveillance de masse. Et parce qu’il touche à quelque chose qu’on ne récupère pas une fois qu’on l’a donné : notre vie privée.
Protéger les enfants, oui, absolument. Peut-être commencer par les écouter, aussi. Mais pas en fabriquant l’outil dont rêverait n’importe quel régime autoritaire. Et pas au prix de la vie privée de tout le monde.
L’IA peut faire des choses formidables. À condition qu’on décide, nous, ce qu’on refuse de lui faire faire.
Peut-être que je surestime le risque, je te laisse me challenger.
Mais je te repose ma question du début, autrement :
Tu accepterais que le facteur ouvre tous tes courriers « juste au cas où » ?
Alors pourquoi on l’accepterait d’une machine ?
En bref : les questions qu'on me pose
Un ensemble de règles européennes pour détecter les contenus pédocriminels dans les messageries privées. Deux versions coexistent : une « douce » (scan volontaire) et une « dure » (obligatoire, qui vise le chiffrement).
La version 1.0, le scan volontaire, a été réinstaurée le 9 juillet 2026 jusqu’en 2028. La version 2.0, la dangereuse, n’est pas votée. Elle repart en négociation à l’automne.
Non, pas avec le texte actuel : les messageries chiffrées de bout en bout sont exclues. Le vrai risque, c’est la V2, qui veut analyser tes messages sur ton téléphone avant leur chiffrement.
Pas la version votée. La V2, elle, oui, dans certaines de ses moutures, via le « scan côté client ». C’est tout l’enjeu du combat en cours.