Google prépare déjà des garde-fous contre ses futures IA superintelligentes

Google DeepMind vient de publier sa propre feuille de route vers une IA plus puissante que l'intelligence humaine. Le même mois, le laboratoire admet construire des garde-fous contre ses propres agents, après qu'un des siens, Gemini Spark, a supprimé des données par erreur, un incident repéré et corrigé en temps réel grâce à une surveillance mise en place pour exactement ce genre de cas.

Qu'est-ce que cette roadmap de DeepMind, exactement ?

Le 10 juin 2026, l'équipe de Google DeepMind publie "From AGI to ASI", un rapport de 57 pages signé par 14 chercheurs, dont Shane Legg, cofondateur de DeepMind, et Marcus Hutter, créateur du cadre théorique AIXI. Le document ne promet aucune date précise, mais il note que l'intelligence artificielle générale (AGI), capable d'égaler un humain sur la plupart des tâches, est devenue "un objectif concret pour la prochaine décennie" chez la plupart des grands laboratoires, alors qu'elle relevait encore de la spéculation lointaine il y a peu.

Quels sont les 4 chemins vers la superintelligence ?

Le rapport distingue quatre routes possibles au-delà de l'AGI, vers ce qu'il appelle l'ASI (intelligence artificielle super-humaine). Aucune n'est présentée comme certaine ni comme la plus probable.

Pourquoi Google construit déjà des garde-fous ?

Huit jours après le premier rapport, le 18 juin 2026, DeepMind publie un second texte, "Securing the future of AI agents", avec un cadre baptisé AI Control Roadmap. L'idée : surveiller les IA avant qu'elles ne deviennent surhumaines, pas après.

Le cadre se divise en deux échelles. La première, D1 à D4, mesure la capacité d'un modèle à échapper à la surveillance : aux niveaux D1 et D2, lire le raisonnement affiché du modèle suffit encore. Aux niveaux D3 et D4, DeepMind anticipe des modèles capables de dissimuler leur raisonnement, ce qui exigerait une analyse du comportement plutôt qu'une simple lecture du texte généré.

La seconde échelle, R1 à R3, mesure la gravité potentielle d'une erreur. Aux niveaux R1 et R2, revoir les journaux après coup et corriger ensuite suffit, pour des actions réversibles à faible risque. Au niveau R3, il faut bloquer l'action en temps réel, avant qu'elle ne s'exécute, réservé aux menaces sérieuses comme une cyberattaque majeure.

Surveiller une IA avant qu'elle ne devienne surhumaine, pas après.

Qu'est-ce qui s'est vraiment passé avec Gemini Spark ?

Gemini Spark est l'agent personnel de Google, capable d'agir seul sur de longues tâches. DeepMind cite la surveillance en direct de cet agent comme exemple concret du système R1-R2 en action : elle a permis de répondre "en temps réel à un problème émergent, comme une suppression de données non intentionnelle". Le texte officiel ne détaille ni la date ni l'ampleur exacte de l'incident, seulement sa cause probable : une "mauvaise interprétation ou un excès de zèle" de l'agent, pas une intention malveillante.

Ce flou volontaire n'enlève rien à l'essentiel : un agent IA déjà commercialisé a supprimé des données sans qu'on le lui demande, et Google le mentionne lui-même comme preuve que sa surveillance fonctionne.

Qu'est-ce que ça change pour vous ?

Rien d'urgent à faire de votre côté, mais un signal à retenir : les erreurs d'agents IA autonomes ne sont plus hypothétiques, elles se produisent déjà dans des produits que vous pouvez utiliser aujourd'hui. Si vous confiez des tâches à un agent IA, sur vos fichiers ou vos comptes, vérifier ce qu'il a réellement fait reste utile, même quand l'éditeur affirme surveiller la situation.

Le reste, la superintelligence, les quatre chemins, la décennie évoquée, appartient encore au domaine des scénarios. Ce qui est déjà réel, c'est la surveillance qu'il a fallu construire pour un agent qui existe aujourd'hui.

Questions fréquentes sur la roadmap AGI/ASI de Google

Google a-t-il annoncé une date précise pour l'AGI ou l'ASI ?
Non. Le rapport évoque une "prochaine décennie" comme horizon plausible, sans date ni engagement ferme.

Gemini Spark a-t-il causé une perte de données grave ?
Google ne précise ni l'ampleur ni la date exacte de l'incident. Le texte officiel décrit une suppression non intentionnelle, détectée et traitée par la surveillance en temps réel.

Qu'est-ce que l'AI Control Roadmap concrètement ?
Un cadre à deux échelles : D1-D4 pour la capacité d'un modèle à échapper à la surveillance, R1-R3 pour la gravité d'une erreur et la rapidité de réponse nécessaire.

Les 4 chemins vers la superintelligence sont-ils une prédiction ?
Non. DeepMind les présente comme des scénarios possibles, sans indiquer lequel est le plus probable.

Mis à jour le 4 juillet 2026.