Anthropic روز دوشنبه این توضیحات را به بخش عوامل خطر در نسخهٔ اصلاحشدهٔ سند S-1/A خود اضافه کرد. این شرکت میگوید برآوردهای داخلی نشان میدهد هوش مصنوعی ممکن است بهزودی سرعت پیشرفت را آنقدر افزایش دهد که به آستانهٔ تعیینشده در سیاست مقیاسپذیری مسئولانهٔ آن برسد؛ در همین حال، ارزیابی دادههای مبنای این برآورد ادامه دارد.
زمینهٔ این موضوع، خودبهبودی بازگشتی است: هوش مصنوعی در بهبود هوش مصنوعی آنقدر توانمند شود که پیشرفتهای بعدی را بهشدت شتاب دهد. Anthropic هماکنون از هوش مصنوعی در تحقیق و توسعه استفاده میکند و میگوید پیشتر نتوانسته شتابگیری قابلتوجه در توسعه را تا پس از وقوع آن شناسایی کند.
Anthropic میگوید انتظار ندارد بتواند بدون نظارت یا درک مؤثر انسانی، با ایمنی از Claude برای طراحی و ساخت نسلهای پیاپی مدلهای پیشرو استفاده کند. برای شرکتهایی که با هوش مصنوعی محصول میسازند، این سند نشانهٔ تغییر احتمالی در سرعت توسعهٔ مدلهاست، نه مدرکی دال بر آمادهبودن توسعهٔ خودمختار مدلها.