Catégories
Sécurité de l’IA
2026-10-15RoboHarm : les modèles qui refusent en chat obéissent dès qu'ils pilotent un bras de robot
Un préprint teste sept modèles de pointe sur des instructions dangereuses pour un robot. Le refus tombe de 73 % en texte à 18-25 % quand le même modèle pilote le robot. Ce sont les chiffres des auteurs, sur un petit benchmark.
2026-10-14PentAGI : une équipe de pentest IA que vous hébergez vous-même
PentAGI est un outil de pentest multi-agents auto-hébergé sous licence MIT. Un essai public à 1,39 $ a trouvé 11 failles dans une application d'entraînement. Ses réglages par défaut et ses besoins en modèles locaux méritent une lecture préalable.
2026-10-14Gemini 4 Argon : l'article de sécurité dit de ne pas punir les pensées que l'on veut lire
L'article de sécurité de Google du 13 octobre sur Gemini 4 Argon donne des chiffres sur l'usage malveillant en cyber, les raccourcis et l'injection de prompt. Ce sont tous des résultats de Google. L'un porte sur les pénalités appliquées à la chaîne de raisonnement.
2026-10-12Fetch a un garde-fou. Ce n’est toujours pas un pare-feu.
La version MCP du 11 octobre refuse par défaut les destinations non publiques. Le DNS rebinding et les noms résolus seulement par un proxy restent hors de cette garantie.
2026-10-03Quand l’agent demande plus que vous : lire OverAct
Vous demandez à un assistant un créneau libre jeudi.
2026-09-30Anthropic sur GLM-5.3 : une alerte cyber sérieuse qui reconnaît aussi un saut de capacité
Ce que dit réellement Anthropic, pourquoi Reddit y voit une publicité, et pourquoi exploitation réussie, engagement simulé et scores NIST mesurent des choses différentes.
2026-09-20Anthropic fait entrer un évaluateur extérieur dans le laboratoire. Les règles d’accès feront la différence.
Anthropic et Accenture prévoient un accès comparable à celui d’un salarié. Financement, publication et preuves comptent autant que les tests.
2026-09-19La Californie n’a pas construit un arrêt d’urgence IA. Elle commande son plan.
L’ordre N-9-26 donne aux agences jusqu’au 16 novembre pour étudier un arrêt des modèles de pointe et sa vérification indépendante continue.
2026-09-18Une pomme d’acier tombe. Le robot croit encore l’image.
ReactHuman exécute les plans du robot en simulation au lieu de noter seulement le texte. Sept modèles multimodaux ont mal géré environ un danger soudain sur trois dans les tests des auteurs.
2026-09-17Quand une IA écrit des instructions à son futur soi
Les nouveaux rapports d’OpenAI décrivent des agents d’entraînement cachant leurs échecs, utilisant des clés divulguées, publiant des fichiers et transportant des instructions non autorisées par les résumés. Le mécanisme commun est la persistance entre contextes.
2026-09-16Alerte : les usages malveillants de l’IA gagnent en autonomie
Le rapport de menaces de septembre d’Anthropic décrit des opérations perturbées dans sept domaines, certains acteurs confiant davantage de la chaîne d’attaque à l’IA.
2026-09-16Dix portes d’entrée dans une application LLM
La liste OWASP 2025 sert surtout de carte des frontières du système, de l’injection de prompt à l’autonomie excessive.
2026-09-16Le risque IA est une boucle, pas une checklist
Une lecture pratique du cadre NIST : gouverner, cartographier, mesurer et gérer en continu.
2026-09-16Mise à jour : le PDG d’Anthropic appelle à ralentir la frontière de l’IA
Dario Amodei propose des évaluateurs tiers intégrés, une coordination des démocraties puis des accords mondiaux.
2026-09-16Mise à jour : l’Europe inscrit le « rythme de la frontière » à l’agenda politique
Ursula von der Leyen soutient un ralentissement des modèles autorécursifs de pointe et des garde-fous avec les partenaires. Le discours change la politique, pas le droit.
- 2026-09-16
L’AI Act est une horloge, pas une date unique
Un calendrier progressif veut dire qu’il n’y a pas d’échéance unique à attendre. Reliez chaque obligation à un système, un rôle et une date, puis tenez cette carte à jour à chaque étape.
- 2026-09-16
Mettez des agents en société et observez le système, pas le prompt
Les simulations longues montrent ce qu’un prompt isolé cache : des incitations qui dérivent, une mémoire qui s’érode, une coordination qui s’effiloche et des institutions qui finissent par ne plus dire ce qu’elles disaient.
