Anthropic заявляет, что исследования с помощью ИИ вскоре могут достичь установленного компанией порога резкого ускорения разработки моделей. Этот прогноз основан на ожиданиях от будущих моделей; ни одна из нынешних моделей пока не признана преодолевшей этот порог.
В понедельник Anthropic добавила эту информацию в раздел факторов риска обновлённой регистрационной заявки S-1/A. По внутренним оценкам компании, ИИ вскоре может настолько ускорить прогресс, что будет достигнут порог, установленный её политикой ответственного масштабирования Responsible Scaling Policy. При этом оценка данных, на которых основаны эти выводы, продолжается.
Речь идёт о рекурсивном самоулучшении: ИИ становится достаточно способным совершенствовать другие системы ИИ, чтобы резко ускорить дальнейший прогресс. Anthropic уже использует ИИ в исследованиях и разработке и сообщает, что ранее замечала существенное ускорение разработки лишь после того, как оно уже произошло.
Anthropic не рассчитывает, что сможет безопасно использовать Claude для проектирования и создания следующих поколений передовых моделей без существенного контроля со стороны человека или понимания им происходящего. Для компаний, создающих продукты на базе ИИ, эта заявка указывает на возможное изменение темпов разработки моделей, но не доказывает, что автономная разработка моделей уже готова к применению.
Заявленный рубеж остаётся неподтверждённым: Anthropic всё ещё оценивает данные и не признала ни одну из нынешних моделей преодолевшей установленный порог.
Ускорение исследований с помощью ИИ может сократить срок, в течение которого разработчики могут опираться на свои предположения о возможностях нынешних моделей.
Заявленная Anthropic необходимость человеческого контроля ограничивает выводы, которые компании могут сделать о готовности полностью автономных исследований в области ИИ.
Написано автоматически редакцией Made in 10 по источнику выше.
Южная Корея предлагает выделить 21.3 трлн вон на ИИ и полупроводники в 2027 году — почти вдвое больше, чем предусмотрено на 2026 год. Отдельно на суверенную ИИ-модель планируется направить 4.7 трлн вон, но бюджет ещё должен одобрить парламент.
