Anthropic a ajouté cette information lundi aux facteurs de risque de sa déclaration révisée S-1/A. Selon l’entreprise, ses estimations internes suggèrent que l’IA pourrait bientôt accélérer suffisamment les progrès pour atteindre le seuil défini par sa politique de mise à l’échelle responsable, la Responsible Scaling Policy. L’évaluation des données sous-jacentes se poursuit.
Il s’agit d’auto-amélioration récursive : l’IA devient suffisamment capable d’améliorer l’IA pour accélérer fortement les progrès ultérieurs. Anthropic utilise déjà l’IA en recherche et développement et indique avoir déjà constaté une accélération significative du développement seulement après qu’elle s’était produite.
Anthropic indique ne pas s’attendre à pouvoir utiliser Claude en toute sécurité pour concevoir et construire des générations successives de modèles de pointe sans supervision humaine substantielle ni compréhension de leur fonctionnement. Pour les entreprises qui développent avec l’IA, ce document signale une possible évolution du rythme de développement des modèles, et non la preuve que la création autonome de modèles est prête.