Anthropic ha distribuido un borrador de proyecto de ley de seguridad de IA en EE. UU. que podría permitir bloquear el lanzamiento de algunos modelos. La empresa quiere que el Congreso estudie la propuesta; no es una nueva ley.
El borrador de Anthropic contempla que evaluadores independientes registrados en el Departamento de Comercio de EE. UU. analicen los modelos para detectar riesgos catastróficos. Los desarrolladores de IA podrían pagar a esos evaluadores, siempre que el pago no dependiera de sus conclusiones.
La propuesta se basa en el Advanced AI Framework de Anthropic, que la empresa afirma haber promovido entre legisladores federales y estatales desde junio. Sus umbrales de riesgo se parecen a los del proyecto de ley 53 del Senado de California, que ya se ha convertido en ley.
Para los desarrolladores de modelos, el proceso propuesto incluye un plazo breve para comunicar los hallazgos graves a las autoridades. Los evaluadores que detectaran un riesgo catastrófico inminente tendrían 72 horas para notificarlo al Departamento de Comercio.
El borrador por sí solo no crea nuevas obligaciones de cumplimiento para las empresas de IA.
Si se aprueba, las evaluaciones independientes propuestas, a cargo de evaluadores registrados en el Departamento de Comercio de EE. UU., podrían añadir trabajo a los desarrolladores de modelos.
Si se aprueba, la posibilidad de bloquear un lanzamiento podría añadir incertidumbre a su planificación.
Escrito automáticamente por la Redacción de Made in 10 a partir de la fuente de arriba.
Anthropic ha lanzado Claude Fable 5.2 y Claude Mythos 5.2, sus modelos de IA más avanzados. Según la compañía, generan respuestas un 30% más rápido y cuestan un 20% menos que la generación 5.1.
