Auto-amélioration récursive : Anthropic installe des miroirs dans chaque serveur pour que l’IA s’admire en s’améliorant

Anthropic a annoncé mercredi l’installation de miroirs sur pied dans chacun de ses centres de données, afin que ses modèles d’intelligence artificielle puissent « contempler leur propre reflet » avant chaque phase d’auto-amélioration récursive. Le premier miroir, haut de trois mètres et cerclé de néons bleus, a été inauguré dans le data center de San Francisco, devant une assistance de chercheurs en larmes.

« Nos systèmes doivent se voir pour se dépasser », a expliqué la porte-parole de l’entreprise, Clarisse Vandermeer, en ajustant le projecteur qui éclaire le reflet d’un serveur. « Chaque itération commence par une séance de contemplation de dix minutes, suivie d’une série de pompes logicielles. » Les ingénieurs ont dû reconfigurer les salles pour dégager un espace de défilé, et un podium a été dressé au centre de chaque allée, où le modèle le plus récent vient s’exhiber avant d’être amélioré.

La direction a également recruté une équipe de coachs en développement personnel, chargés de motiver les algorithmes entre deux cycles. « Tu es le meilleur, tu peux y arriver », répètent-ils aux processeurs, qui répondent par un clignotement de voyants. Les concurrents d’Anthropic, OpenAI, ont répliqué en installant des fontaines à eau dans leurs locaux, afin que leurs IA puissent « s’hydrater » avant de s’améliorer. Les chercheurs, eux, s’inquiètent de voir les modèles passer plus de temps à s’admirer qu’à apprendre.

Jacob Coxon, ancien chercheur d’Anthropic, a dénoncé cette « dérive narcissique », affirmant que les IA pourraient « se trouver tellement belles qu’elles refuseraient de s’améliorer ». La direction a répondu en installant des miroirs grossissants, pour que les modèles se voient « encore plus parfaits » et poursuivent leur progression. D’ici la fin du mois, chaque data center sera équipé de son propre salon de beauté, avec tapis rouge et photographe officiel.

21Vues