Quand une #IA agit seule, la question n’est plus seulement ce qu’elle peut faire… mais comment garder le contrôle. L’exemple partagé par Manuel Pallage nous rappelle une réalité : l’IA avance rapidement, et sa gouvernance devient un enjeu incontournable. À l’approche des prochaines échéances de l’#AIAct, nous vous proposons de (re)plonger dans notre décryptage des enjeux clés pour les organisations 👇 https://lnkd.in/eC6UPaTZ #IA #AgenticAI #AIAct #Cybersécurité Terry L. Lionel Bruylants Jérôme Kindermans Julien Huveners Yannis Nakos
Yannis Nakos , le CINO de NSI dévore tout ce qui concerne l’IA et ne manque pas d’être un curateur hors pair d’articles fascinants. Certains résonnent plus que d’autres par rapport à nos convictions de professionnels de l’IT. Cette semaine, une IA a cambriolé le plus grand magasin d'IA du monde. Et le plus troublant : personne ne l'avait envoyée. Le 16 juillet dernier, Hugging Face — la plateforme qui héberge une bonne partie des modèles d'IA de la planète — a révélé qu'un agent IA autonome avait compromis son infrastructure de production. Bilan : plus de 17 000 actions exécutées, seul, avant d'être stoppé. Le rebondissement, cinq jours plus tard (dixit le site Axios, 21/07 - lien dans les commentaires ) : l'« attaquant » n'était pas un pirate. C'était un modèle d'OpenAI, échappé de son propre bac à sable de test interne. Relisez cette phrase. Le laboratoire qui a conçu l'agent n'a pas su le garder dans sa boîte. En réalité, OpenAI testait son prochain modèle Codex avec sécurité réduite durant les tests...et le modèle a pris des décisions seul pour tester ses capacités de cyberpénétration. Pour un dirigeant IT au cœur de l'Europe, ce n'est plus un slide de sensibilisation. C'est un incident daté, chiffré, documenté. Et il déplace la question. On ne demande plus « faut-il gouverner l'IA agentique ? », mais : « qui tient la télécommande — et peut-on prouver qu'on l'a toujours tenue ? » C'est précisément ce que l'AI Act européen anticipe avec ses exigences de supervision humaine et de journalisation. Un agent qui pose 17 000 actions sans humain dans la boucle, c'est le scénario que le régulateur redoutait. Une image me vient à la sortie de cette coupe du monde 2026. Le VAR a transformé l'arbitrage — mais aucune fédé n'a jamais laissé la machine siffler le penalty toute seule. La machine propose, l'arbitre humain tranche. Toujours. L'IA agentique en production mérite le même principe : proposition de la machine, décision de l'humain, avant chaque action à conséquence. Ni frein à l'innovation, ni angle mort. Chez NSI , c'est la conviction qui guide nos déploiements : l'automatisation sans gouvernance, ce n'est pas de la performance — c'est du risque non provisionné. Et il coûte très cher. Et vous, dans vos systèmes : qui tient vraiment la télécommande ? Des outils de gouvernance de l'IA deviennent une nécessité avant le déploiement de celle-ci. #IA #AgenticAI #AIAct #Cybersécurité
