Un chercheur d’Anthropic vient de démissionner en dénonçant la vitesse à laquelle les géants de l’intelligence artificielle développent des systèmes toujours plus puissants, alors que leurs propres spécialistes reconnaissent que certaines garanties de sécurité restent encore insuffisantes.
Jacob Coxon, ancien chercheur d’OpenAI puis d’Anthropic, a quitté l’entreprise en mettant en garde contre une course vers des intelligences artificielles capables, à terme, de contribuer elles-mêmes à l’amélioration de futurs modèles.
L’alerte prend une dimension particulière après les déclarations d’Evan Hubinger, Alignment Science Lead chez Anthropic.
Selon lui, le risque qu’une intelligence artificielle extrêmement avancée provoque une catastrophe existentielle pour l’humanité au cours de la prochaine décennie dépasse 10 %.
Ce chiffre n’est toutefois ni une prévision scientifique ni une estimation officielle d’Anthropic. Il s’agit de son évaluation personnelle du risque.
Plus préoccupant encore : Hubinger reconnaît qu’Anthropic ne dispose pas aujourd’hui d’une solution démontrée permettant de garantir l’alignement d’une future superintelligence.
À retenir
- 10 % — estimation personnelle d’Evan Hubinger du risque existentiel lié à une IA extrêmement avancée dans les dix prochaines années.
- Environ 3 ans — période durant laquelle Jacob Coxon dit avoir travaillé sur l’entraînement de modèles chez OpenAI puis Anthropic.
- 2023 — lancement de la première Responsible Scaling Policy d’Anthropic.
- ≈ 220 milliards de dollars — émissions obligataires des principaux hyperscalers américains sur un an, dans un contexte d’investissements massifs liés notamment aux infrastructures d’IA.
Pourquoi la course continue
Le paradoxe est désormais économique autant que technologique.
Un laboratoire qui ralentit seul risque de perdre ses ingénieurs, ses investisseurs et son avance stratégique face à ses concurrents.
Résultat : chaque acteur peut avoir intérêt à accélérer, même lorsque certains de ses propres chercheurs considèrent que les risques collectifs augmentent.
Le vrai débat n’est donc plus seulement de savoir jusqu’où l’IA peut aller, mais quelles garanties devraient être exigées avant d’aller plus loin.
