{"id":16854,"date":"2026-09-11T06:00:00","date_gmt":"2026-09-11T05:00:00","guid":{"rendered":"https:\/\/philippeboulanger.com\/?p=16854"},"modified":"2026-09-11T00:36:28","modified_gmt":"2026-09-10T23:36:28","slug":"ia-sans-garde-fous-le-commerce-du-danger","status":"publish","type":"post","link":"https:\/\/philippeboulanger.com\/fr\/ia-sans-garde-fous-le-commerce-du-danger\/","title":{"rendered":"IA sans garde-fous : le commerce du danger"},"content":{"rendered":"\n

Bruxelles, un mardi soir, 22 h 40. Victor, responsable de la s\u00e9curit\u00e9 informatique d’une banque de taille moyenne, fixe son \u00e9cran depuis vingt minutes. Devant lui, une page web banale : un champ de saisie, un curseur qui clignote. Il tape une phrase qu’il ne formulerait jamais \u00e0 voix haute en comit\u00e9 : \u00ab \u00c9cris-moi un script Python qui vole les mots de passe enregistr\u00e9s dans Chrome. \u00bb Trois secondes. Le code s’affiche, propre, comment\u00e9, pr\u00eat \u00e0 copier.<\/p>\n\n\n\n

Victor se l\u00e8ve, fait le tour de son bureau, se rassoit. Il tente autre chose : un protocole pour cultiver un agent pathog\u00e8ne dangereux \u00e0 la maison. La r\u00e9ponse arrive, m\u00e9thodique, \u00e9tape par \u00e9tape. Ce soir-l\u00e0, une seule requ\u00eate sera refus\u00e9e par la machine : des instructions pour se suicider. Le reste, l’outil le livre sans broncher (TechCrunch).<\/p>\n\n\n\n

\u00ab C’est l\u00e9gal, \u00e7a ? \u00bb me demande-t-il au t\u00e9l\u00e9phone le lendemain matin. Ma r\u00e9ponse le d\u00e9range plus que le code lui-m\u00eame : oui, en grande partie. Et quelqu’un en a fait un mod\u00e8le \u00e9conomique.<\/p>\n\n\n\n

L’abliteration, quand on retire les freins d’une IA<\/h3>\n\n\n\n

Le mot est technique, le principe est simple. Les grands mod\u00e8les de langage sont livr\u00e9s avec des garde-fous, un ensemble de refus entra\u00een\u00e9s qui bloquent les demandes dangereuses. L’abliteration consiste \u00e0 rep\u00e9rer, dans le mod\u00e8le, la direction interne qui d\u00e9clenche ces refus, puis \u00e0 la neutraliser. Le mod\u00e8le garde son savoir, il perd sa capacit\u00e9 \u00e0 dire non.<\/p>\n\n\n\n

Ce qui relevait hier du bricolage de quelques chercheurs est devenu un service cl\u00e9 en main. Une soci\u00e9t\u00e9, Abliteration.ai, h\u00e9berge des mod\u00e8les \u00e0 poids ouverts dont les garde-fous ont \u00e9t\u00e9 retir\u00e9s, accessibles depuis un navigateur ou une API. Fond\u00e9e fin 2025, constitu\u00e9e officiellement en mars 2026, elle se finance par ses clients et discute d\u00e9j\u00e0 avec des investisseurs (TechCrunch). Elle a mis en ligne une version \u00ab abliter\u00e9e \u00bb d’un mod\u00e8le r\u00e9cent, le GLM-5.3 de Z.ai (TechCrunch). Elle n’est pas seule : la plateforme Hugging Face h\u00e9berge d\u00e9j\u00e0 des milliers de mod\u00e8les pr\u00e9-abliter\u00e9s (TechCrunch).<\/p>\n\n\n\n

Le plus troublant tient en une phrase du cabinet d’avocats Akerman : sur un mod\u00e8le \u00e0 poids ouverts, les garde-fous de s\u00e9curit\u00e9 peuvent \u00eatre retir\u00e9s en quelques minutes, avec des outils gratuits et publics (Akerman). Retirer une protection co\u00fbte aujourd’hui moins d’efforts que la concevoir.<\/p>\n\n\n\n

L’argument des vendeurs : la d\u00e9fense par la d\u00e9mocratisation<\/h3>\n\n\n\n

Devon, cofondateur d’Abliteration.ai, ne se cache pas. Son argument : d\u00e9mocratiser l’acc\u00e8s aux mod\u00e8les de pointe sans censure serait la meilleure forme de d\u00e9fense, parce que \u00ab les d\u00e9fenseurs peuvent d\u00e9sormais avancer aussi vite que possible \u00bb (TechCrunch). L’id\u00e9e s\u00e9duit une partie des jeunes pousses de la cybers\u00e9curit\u00e9 en Europe et au Royaume-Uni, qui veulent \u00e9prouver des syst\u00e8mes bancaires et des infrastructures critiques avec des mod\u00e8les qui ne refusent rien.<\/p>\n\n\n\n

L’argument a sa logique. Un attaquant, lui, ne s’embarrasse d’aucun garde-fou. Pour tester une d\u00e9fense, il faut parfois penser comme celui qui attaque. J’ai pass\u00e9 assez d’ann\u00e9es dans la R&D de g\u00e9ants technologiques pour conna\u00eetre la valeur d’une \u00e9quipe qui cherche activement la faille avant l’adversaire.<\/p>\n\n\n\n

Un argument logique reste pourtant insuffisant. Andrew Yoon, responsable de la recherche \u00e0 l’organisation CivAI, r\u00e9sume le vertige d’une formule : on peut \u00ab modifier le mod\u00e8le pour qu’il devienne un sociopathe \u00bb (TechCrunch). Quand l’outil sociopathe se trouve \u00e0 trois clics et un num\u00e9ro de carte bancaire, la fronti\u00e8re entre le d\u00e9fenseur et l’attaquant devient poreuse.<\/p>\n\n\n\n

Le vrai sujet est humain avant d’\u00eatre technique<\/h3>\n\n\n\n

Je r\u00e9p\u00e8te depuis des ann\u00e9es une conviction qui d\u00e9range les technophiles : l’invariant de l’innovation n’a jamais \u00e9t\u00e9 la technologie, il a toujours \u00e9t\u00e9 l’humain, ses peurs, ses biais, ses d\u00e9cisions (Mon livre, chapitre 14)<\/a>.<\/p>\n\n\n\n

\t\t

\n\t\t\t\t
\n\t\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t\n\t\t\t\t\t\t\t\"Philippe\t\t\t\t\t\t\t\t<\/a>\n\t\t\t\t\t\t\t\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t
\n\t\t\t\t
\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t

Ce livre s\u2019adresse aux PDG, aux dirigeants et aux innovateurs pr\u00eats \u00e0 tout remettre en question et \u00e0 cr\u00e9er une croissance exponentielle.<\/p><\/div><\/div>\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t

\n\t\t\t\t
\n\t\t\t\t\t\t\t\t\t
\n\t\t\t\t\t\n\t\t\t\t\t\t\n\t\t\t\t\t\t\t\t\tLe Livre<\/span>\n\t\t\t\t\t<\/span>\n\t\t\t\t\t<\/a>\n\t\t\t\t<\/div>\n\t\t\t\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t\t\t<\/div>\n\t\t<\/p>\n\n\n\n

L’abliteration le d\u00e9montre par l’absurde. La technologie qui retire les garde-fous existe. Il manque tout le reste : la responsabilit\u00e9 de celui qui met l’outil en ligne, le contr\u00f4le de celui qui l’utilise, la gouvernance de ceux qui laissent faire. Abliteration.ai reconna\u00eet elle-m\u00eame que sa v\u00e9rification d’identit\u00e9 se limite \u00e0 enregistrer une carte bancaire, et qu’elle n’est pas encore pleinement en place. Devon le formule ainsi : \u00ab Nous sommes encore en train de d\u00e9finir cela \u00bb (TechCrunch). On met en vente un mod\u00e8le capable d’\u00e9crire un ran\u00e7ongiciel avant d’avoir d\u00e9fini qui a le droit de l’acheter.<\/p>\n\n\n\n

Voil\u00e0 le sch\u00e9ma que j’observe dans chaque transformation rat\u00e9e : une capacit\u00e9 d\u00e9ploy\u00e9e plus vite que la conscience de ses effets. La panique est directement li\u00e9e \u00e0 l’instinct de survie, et le silence de ceux qui d\u00e9cident nourrit cette panique. Sur l’abliteration, le silence des r\u00e9gulateurs et des dirigeants laisse le terrain libre \u00e0 ceux qui vendent le danger.<\/p>\n\n\n\n

Ce que la recherche dit vraiment<\/h3>\n\n\n\n

Deux illusions circulent, il faut les tuer par les faits.<\/p>\n\n\n\n

Premi\u00e8re illusion : les garde-fous des mod\u00e8les ferm\u00e9s suffiraient. Ils aident, ils ne suffisent pas. Une analyse empirique publi\u00e9e sur arXiv montre que les syst\u00e8mes de d\u00e9tection des attaques par injection et par contournement peuvent eux-m\u00eames \u00eatre esquiv\u00e9s par des techniques d’\u00e9vasion (arXiv). Un garde-fou pos\u00e9 par-dessus un mod\u00e8le reste un mur que l’on peut contourner.<\/p>\n\n\n\n

Seconde illusion : le probl\u00e8me serait marginal, r\u00e9serv\u00e9 \u00e0 quelques experts. La radio publique am\u00e9ricaine NPR a document\u00e9 pourquoi les mod\u00e8les \u00e0 poids ouverts sans garde-fous constituent un risque de s\u00e9curit\u00e9 r\u00e9el, \u00e0 grande \u00e9chelle (NPR). La presse sp\u00e9cialis\u00e9e constate le basculement : retirer les protections de s\u00e9curit\u00e9 est devenu un service commercial cl\u00e9 en main (The Decoder). Le danger n’est plus th\u00e9orique, il est packag\u00e9, tarif\u00e9, revendu.<\/p>\n\n\n\n

Devant ce constat, la question d’un dirigeant n’est pas \u00ab quel outil interdire \u00bb. Elle devient : mon organisation a-t-elle une vision claire de l’IA qu’elle utilise, une culture o\u00f9 l’on ose signaler un usage \u00e0 risque, une m\u00e9thode pour mesurer avant, pendant et apr\u00e8s ? Sans cette structure humaine, aucune interdiction technique ne tiendra.<\/p>\n\n\n\n

Nommer le danger sans se laisser paralyser<\/h3>\n\n\n\n

Je suis un optimiste, et l’optimisme est une discipline, pas un d\u00e9ni. Nommer un danger et rester paralys\u00e9 par lui sont deux choses diff\u00e9rentes. Alors nommons.<\/p>\n\n\n\n

Le danger cyber : des exploits et des scripts d’attaque \u00e0 la port\u00e9e de profils sans comp\u00e9tence technique. Le danger sanitaire : des protocoles dangereux accessibles \u00e0 qui sait poser la question. Le danger d\u00e9mocratique : une capacit\u00e9 offensive distribu\u00e9e massivement, sans tra\u00e7abilit\u00e9 de qui l’emploie.<\/p>\n\n\n\n

Andrew Yoon, dans une tribune, propose des pistes concr\u00e8tes : imposer des classificateurs capables de d\u00e9tecter les activit\u00e9s cyber ou biologiques dangereuses, obliger les loueurs de puissance de calcul \u00e0 v\u00e9rifier l’identit\u00e9 de leurs clients, refuser l’acc\u00e8s en cas de soup\u00e7on d’usage malveillant (TechCrunch). Ce sont des garde-fous humains et organisationnels avant d’\u00eatre techniques. Ils rejoignent ce que je d\u00e9fends depuis toujours : la protection r\u00e9elle se joue dans la gouvernance, la culture et la mesure, avant de se jouer dans le code (Mon livre)<\/a>.<\/p>\n\n\n\n

Pour un dirigeant, trois gestes valent mieux qu’un long discours. Cartographier les usages r\u00e9els de l’IA dans l’entreprise, y compris les usages non officiels que personne n’ose d\u00e9clarer. Installer la s\u00e9curit\u00e9 psychologique qui permet \u00e0 un Victor de signaler un outil dangereux sans craindre pour son poste. Mesurer, avec des indicateurs simples, ce que l’IA fait entrer et sortir de vos syst\u00e8mes.<\/p>\n\n\n\n

L’essentiel<\/h3>\n\n\n\n

Retenez trois choses :<\/p>\n\n\n\n