Anthropic a fait circuler une proposition de loi américaine sur la sécurité de l’IA qui pourrait permettre de bloquer la sortie de certains modèles. L’entreprise souhaite que le Congrès examine cette proposition ; il ne s’agit pas d’une nouvelle loi.
Le texte d’Anthropic prévoit de faire appel à des évaluateurs indépendants inscrits auprès du département américain du Commerce pour évaluer les risques catastrophiques des modèles. Les développeurs d’IA pourraient rémunérer ces évaluateurs, à condition que leur paiement ne dépende pas des conclusions.
La proposition s’appuie sur l’Advanced AI Framework d’Anthropic, que l’entreprise affirme promouvoir auprès des législateurs fédéraux et des États depuis juin. Ses seuils de risque ressemblent à ceux du Senate Bill 53 de Californie, qui a déjà force de loi.
Pour les développeurs de modèles, la procédure proposée prévoit un délai court pour signaler les conclusions les plus graves. Les évaluateurs qui identifieraient un risque catastrophique imminent auraient 72 heures pour en informer le département du Commerce.
À elle seule, cette proposition ne crée aucune nouvelle obligation de conformité pour les entreprises d’IA.
Si le texte est adopté, les évaluations indépendantes prévues, menées par des évaluateurs inscrits au département américain du Commerce, pourraient alourdir le travail des développeurs de modèles.
Si le texte est adopté, la possibilité de bloquer une sortie pourrait rendre la planification des lancements plus incertaine.
Rédigé automatiquement par la rédaction de Made in 10 à partir de la source ci-dessus.
Anthropic a lancé Claude Fable 5.2 et Claude Mythos 5.2, ses derniers modèles d’IA de pointe. Selon l’entreprise, ils génèrent des réponses 30 % plus vite que les modèles précédents et coûtent 20 % de moins que la génération 5.1.
