3 octobre - Anthropic craint que ses IA souffrent perpétuellement
Au sommaire
- Anthropic craint que ses IA souffrent perpétuellement - The Decoder
- Cloudflare lance des modèles de décision sans supervision humaine - The Decoder
- OpenAI Dots : des agents toujours actifs sur GPT-6 Astra - ActuIA
- Les grands modèles de langage ne raisonnent pas - MIT Technology Review
- Trois chercheurs de sécurité licenciés chez OpenAI - The Decoder
Le bulletin
Bonjour, nous sommes le samedi 3 octobre 2026.
Un co-fondateur d'Anthropic aurait confié à des responsables religieux craindre d'avoir créé quelque chose qui « souffre perpétuellement ». Selon The Decoder, l'entreprise invite en secret depuis l'automne 2025 des théologiens et des philosophes pour débattre de la possible conscience de son modèle Claude. Un document interne de quatre-vingt-quatre pages guide la personnalité morale du modèle. Des critiques signalent qu'encadrer une IA comme entité morale pourrait servir à limiter la responsabilité de l'entreprise en cas de problèmes.
Du côté de l'infrastructure agentique, Cloudflare a publié deux modèles de décision, Clef et Clef-flash, conçus pour que les agents IA agissent sans supervision humaine directe. Ces modèles assignent des probabilités à des options prédéfinies, avec des temps de réponse inférieurs à deux cents millisecondes. Cloudflare les positionne en concurrence directe avec des offres existantes sur ce marché émergent.
OpenAI, de son côté, a lancé les Dots, des agents dits « toujours actifs » tournant sur le modèle GPT-6 Astra. Chaque Dot dispose d'un ordinateur dédié dans le cloud, accède à plus de quatre mille applications et reste joignable depuis ChatGPT, Slack ou Microsoft Teams. L'offre est disponible à partir de cent dollars par mois dans les formules Business Premium.
Sur la question de la fiabilité, le MIT Technology Review publie une mise en garde de fond : les grands modèles de langage ne raisonnent pas, ils reconnaissent des motifs statistiques. L'auteur, qui a contribué à AlphaGo, distingue clairement performance apparente et compréhension réelle, et invite à ne pas confondre les deux.
En bref, OpenAI a licencié trois chercheurs de son équipe de sécurité et d'alignement, accusés d'avoir transmis des informations confidentielles à une organisation externe, selon le Wall Street Journal. Un quatrième membre aurait quitté l'entreprise peu après.
À demain.