20 OCT - Microsoft traite les agents IA en menaces internes
Au sommaire
- Microsoft traite les agents IA en menaces internes - AI News & Artificial Intelligence | TechCrunch
- Les réseaux neuronaux enfin compréhensibles ? - MIT Technology Review
- Benchmarks IA : fiabilité et course aux modèles - AI News & Artificial Intelligence | TechCrunch, ActuIA
- Google condamné pour ses résumés IA erronés - The Decoder
- L'internet adapté aux agents nuit aux humains - MIT Technology Review
- Italie : l'IA seule ne peut plus licencier - ActuIA
Le bulletin
Bonjour, nous sommes le mardi 20 octobre 2026.
Microsoft a dévoilé lundi « Guardian Agents », de nouvelles mesures de sécurité ciblant les agents d'IA déployés en entreprise. La firme de Redmond met en garde : les modèles de pointe ne peuvent pas être entièrement fiables, et un agent IA doit être traité comme une menace interne potentielle. Guardian Agents surveille leurs actions en continu et peut les interrompre en cas de comportement suspect. Ces annonces interviennent alors que la société observe une multiplication des attaques exploitant les agents IA pour compromettre des systèmes d'entreprise.
Toujours dans l'univers de la compréhension de l'IA, un article de 26 000 mots du chercheur Nick Cammarata, de la start-up Goodfire, agite la communauté scientifique. Sa thèse : les grands modèles de langage seraient bien plus faciles à comprendre et à contrôler que supposé jusqu'ici. Si cette affirmation se confirme, elle redistribue les cartes en matière d'alignement et de sécurité des modèles.
Sur un autre front, Irene Solaiman, directrice des politiques chez Hugging Face, avertit contre la tentation de déléguer l'évaluation des IA à des systèmes embarqués eux-mêmes basés sur l'IA. Les méthodes de benchmark restent immatures et trop facilement manipulables, a-t-elle déclaré lors de la conférence TechCrunch Disrupt. Côté performances, Mistral Large 4, encore en préversion, se positionne tout près de Muse Spark Open de Meta sur les derniers relevés d'Artificial Analysis.
En Allemagne, deux tribunaux régionaux reconnaissent désormais la responsabilité de Google pour les erreurs produites par ses aperçus générés par IA. Dans l'un des cas, le système avait associé à un médecin des poursuites pénales qui concernaient en réalité une autre personne.
En bref, le MIT Technology Review soulève une tension croissante : adapter le web aux agents IA tend à le rendre moins accessible aux utilisateurs humains. Et en Italie, depuis le 23 octobre, tout licenciement ou sanction décidé avec l'aide d'une IA devra être validé par un décideur humain, conformément à un décret qui adapte le droit national à l'AI Act européen. À demain.