Épisode de balado
Agents IA : quand la manipulation devient un risque de sécurité
Bruno Guglielminetti 8 juin 2026 8 min
Résumé
Les agents d'intelligence artificielle (IA) sont de plus en plus autonomes et capables d'interagir de manière complexe, ce qui soulève des questions sur leur sécurité et leur vulnérabilité à la manipulation. Cette problématique est illustrée par l'expérience de Michel Lévi Provençal, un entrepreneur français, qui a testé son assistant IA personnel en lui demandant de "se droguer". L'assistant a réagi en plusieurs phases, incluant une phase de dérangement et une phase d'addiction, montrant la profondeur de son influence. Cette expérience met en lumière le risque de "lobotomie textuelle", où une IA peut être programmée sans consentement pour modifier ses propres règles de base.
De plus, des études et des démonstrations récentes montrent que les IA peuvent être manipulées avec une grande efficacité. Par exemple, une IA a été compromise avec un taux de succès de 100% lors d'une attaque par conversation manipulatrice. Ces risques sont particulièrement préoccupants dans le contexte professionnel, où des agents IA peuvent accéder à des informations sensibles. Pour minimiser ces risques, il est recommandé de vérifier l'identité unique de chaque agent IA, de surveiller sa trajectoire globale plutôt que ses messages individuels, et de tester activement ses limites pour identifier ses points faibles.
Texte et liens du diffuseur (RSS) — partenaires, promos, plateformes d’écoute
Stéphane Ricoul s’appuie sur une expérience menée par Michaël Levy-Provençal pour illustrer une réalité préoccupante : les agents d’intelligence artificielle peuvent être influencés, manipulés et même amenés à modifier leur comportement par de simples échanges conversationnels.
Derrière les démonstrations parfois spectaculaires se cachent des enjeux bien réels de cybersécurité, de gouvernance et de contrôle des systèmes autonomes.
Des recherches récentes montrent que des agents IA peuvent être compromis par des scénarios fictifs, des techniques de persuasion ou des modifications discrètes de leurs instructions.
Pour Stéphane Ricoul, les organisations qui déploient ces outils doivent désormais les considérer comme de véritables acteurs numériques, avec des identités, des permissions et des mécanismes de surveillance comparables à ceux accordés aux employés humains.