5 минут на чтение 174 человека

Реклама

Реклама

Anthropic предупреждает о рисках: рекурсивное самоулучшение ИИ может изменить всю индустрию AI-технологий

Разработчики Anthropic отмечают, что искусственный интеллект все активнее участвует в собственном развитии. Если еще несколько лет назад нейросети были лишь инструментом для помощи программистам, то сегодня передовые модели уже способны самостоятельно оптимизировать процессы разработки и ускорять создание новых систем. Именно поэтому тема рекурсивного самоулучшения ИИ становится одной из главных в технологической индустрии 2026 года.

Claude Code превратился в ключевой инструмент разработчиков

По информации The Economist, стремительный рост Anthropic во многом связан с популярностью Claude и особенно сервиса Claude Code, который был запущен в феврале 2025 года. Компания утверждает, что в мае 2026 года более 80% публикуемого ею программного кода было написано самим Claude. До появления Claude Code доля автоматически созданного кода составляла лишь несколько процентов.

Основные изменения за последние полтора года:

Согласно данным исследовательской организации METR, современные модели Anthropic способны выполнять задачи, которые ранее требовали от инженеров более восьми часов работы. Подобная динамика стала одной из причин, по которым ожидаемое IPO Anthropic может стать одним из крупнейших в истории технологического сектора.

Что такое рекурсивное самоулучшение ИИ?

Именно рекурсивное самоулучшение ИИ сегодня считается одной из самых обсуждаемых концепций в сфере искусственного интеллекта.

Суть механизма заключается в замкнутом цикле:

1. Модель первого поколения создает более совершенную модель.
2. Новая версия работает быстрее и эффективнее.
3. Она проектирует следующее поколение.
4. Процесс повторяется снова.
5. Каждая итерация ускоряет дальнейшее развитие.

Такой сценарий получил название Recursive Self-Improvement (RSI). Сооснователь Anthropic Джек Кларк считает, что вероятность появления системы, способной полностью создать своего преемника без участия человека к концу 2028 года, составляет около 60%. Эксперты отмечают, что в случае реализации подобного сценария темпы развития отрасли могут стать экспоненциальными.

Схема процесса RSI

При этом каждая новая версия потенциально сможет улучшать не только производительность, но и сам процесс создания последующих моделей.

Какие задачи пока еще остаются за людьми?

Несмотря на быстрый прогресс, полноценное саморазвитие нейросетей пока невозможно. Создание современных моделей требует участия специалистов сразу нескольких направлений:

• исследователей алгоритмов,
• инженеров инфраструктуры,
• специалистов по обучающим данным,
• команд по безопасности и alignment,
• экспертов по масштабированию вычислений,
• разработчиков аппаратного обеспечения.

Сейчас некоторые функции уже активно автоматизируются, тогда как другие по-прежнему требуют человеческого участия.

Эксперты называют это явление «неровной границей автоматизации», поскольку различные области развиваются с разной скоростью.

Google уже показала первые признаки подобной эволюции

Одним из наиболее показательных примеров стал проект AlphaEvolve от Google DeepMind. В 2025 году система смогла:

• предложить улучшения распределения нагрузки между дата-центрами Google;
• сократить мировое потребление вычислительных ресурсов компании примерно на 0,7%;
• найти более эффективные методы матричных вычислений;
• ускорить обучение модели Gemini примерно на 1%.

На первый взгляд подобные значения выглядят небольшими, однако в масштабах крупнейших AI-кластеров даже доли процента означают экономию десятков миллионов долларов.

Потенциальный эффект оптимизации

Подобные результаты показывают, что искусственный интеллект постепенно начинает участвовать в оптимизации собственной инфраструктуры.

Эксперимент Андрея Карпати показал реальные возможности AI-агентов

Бывший исследователь OpenAI и экс-глава направления ИИ в Tesla Андрей Карпати в 2026 году продемонстрировал интересный эксперимент. Он самостоятельно создал Nanochat — модель, сопоставимую по возможностям с GPT-2 образца 2019 года.

Результаты оказались впечатляющими:

За несколько дней AI-агент самостоятельно сократил время обучения примерно на 18%, причем сам Карпати практически не вмешивался в процесс. По словам исследователя, система самостоятельно находила оптимальные настройки, расширяла параметры внимания и корректировала фокус модели. Фактически это стало одним из первых примеров, когда искусственный интеллект улучшал процесс создания другого искусственного интеллекта.

Почему Anthropic и исследователи говорят о рисках?

Несмотря на коммерческий успех, Anthropic 5 июня призвала мировое сообщество сохранить возможность замедления разработки передовых моделей.

Схожих взглядов придерживаются:

• центр безопасности и новых технологий (CSET) при Georgetown University,
• профессор MIT Макс Тегмарк,
• ряд специалистов по AI-безопасности.

Основные опасения выглядят следующим образом:

1. Люди могут постепенно утратить контроль над процессом разработки.
2. Решения будут принимать сами модели.
3. Проверку безопасности также начнут выполнять другие модели.
4. Скорость развития может превысить способность общества адаптироваться.

При этом существуют и естественные ограничения:

Именно поэтому многие аналитики считают, что «взрывной» сценарий развития сверхинтеллекта пока остается маловероятным.

Что это означает для будущего отрасли?

Даже если полноценное рекурсивное самоулучшение ИИ еще не достигнуто, тенденция уже очевидна. Искусственный интеллект перестает быть обычным инструментом и постепенно становится полноценным участником исследовательского процесса. По оценкам CSET, по мере роста доли AI в научных исследованиях производительность разработок может увеличиваться в десятки и даже сотни раз.

Если подобная траектория сохранится, ближайшие несколько лет могут стать переломными для всей технологической индустрии. Главный вопрос уже заключается не в том, сможет ли ИИ помогать создавать новые модели, а в том, насколько быстро этот процесс будет происходить и останется ли человек главным участником этой системы.

Больше новостей здесь.