Искусственный интеллект постепенно переходит от написания отдельных фрагментов кода к более самостоятельной разработке программного обеспечения. Современные ИИ-агенты могут анализировать исходники, редактировать собственные инструменты, изменять инструкции и проверять результаты своей работы. Но у такого подхода есть серьёзная проблема: модификация, которая должна улучшить производительность агента, может привести к ошибкам и ухудшить его результаты.
Исследователи из Университета Виргинии, Microsoft Research и Университета Цинхуа предложили способ сделать этот процесс эффективнее. Их метод позволяет прогнозировать последствия изменения до того, как агент потратит ресурсы на полноценную проверку новой версии. Система оценивает вероятность успеха отдельных задач, выявляет потенциальные проблемы и при необходимости предлагает агенту пересмотреть внесённые изменения.
Работа получила название Predict Before You Modify: Learning Improvement Dynamics for Self-Evolving Agents — «Предсказывай, прежде чем изменять: изучение динамики улучшений для саморазвивающихся агентов». Исследование опубликовано на платформе arXiv в 2026 году. Авторы проверили подход не только на задачах программирования, но и на прогнозировании результатов научных публикаций, проектировании вознаграждений для роботов в симуляции и оценке решений сложных математических задач.
Почему самоулучшение ИИ — сложная задача
Обычный ИИ-помощник получает запрос пользователя и генерирует ответ или код. Агент с возможностью самоулучшения работает иначе: он может изменять программную оболочку, рабочие инструкции и последовательность действий, с помощью которых решает задачи. После изменения он запускает проверки, сравнивает результат с предыдущей версией и пытается определить, стало ли его поведение лучше.
На первый взгляд такая схема напоминает обычный цикл разработки: написать код, протестировать его и исправить ошибки. Но при автоматическом самоулучшении появляется дополнительная сложность. Агент должен не только решать исходную задачу, но и самостоятельно находить способы повысить качество собственной работы. Для этого ему приходится экспериментировать с разными вариантами программной реализации, часть которых оказывается неудачной.
Каждая проверка требует вычислительных ресурсов и времени. Если агент многократно создаёт неработающие версии, большая часть бюджета расходуется на эксперименты, которые не приносят пользы. Более того, общая оценка производительности не всегда объясняет, почему новая версия провалилась: она могла выдавать неправильные ответы или вообще не доходить до завершения задачи.
Именно это различие стало одним из центральных пунктов нового исследования. Авторы предлагают не ограничиваться проверкой уже готового результата, а попытаться заранее понять, какие последствия может иметь конкретное изменение.
Как работает система HyperAgents
В основе экспериментов лежит HyperAgents — архитектура, в которой взаимодействуют два типа ИИ-агентов. Первый выполняет поставленные задачи, а второй занимается улучшением программной реализации и инструкций, управляющих работой первого. При этом изменять собственное программное обеспечение может и агент, отвечающий за улучшения.
Система сохраняет предыдущие версии и результаты их работы в архиве. Благодаря этому новые эксперименты могут опираться на накопленный опыт, а исследователи получают возможность проследить, какие изменения приводили к улучшению, а какие — к ухудшению результатов.
Такой подход важен потому, что самоулучшение не обязательно представляет собой последовательное движение от одной удачной версии к другой. Иногда полезное решение обнаруживается после эксперимента, который сам по себе не показал выдающихся результатов. Сохранение истории позволяет не терять подобные варианты и использовать их в дальнейших поисках.
Однако исходная архитектура в значительной степени полагалась на оценку уже созданной версии. Новый метод добавляет промежуточный этап: прежде чем окончательно проверять изменение, система пытается спрогнозировать, как оно повлияет на выполнение отдельных задач.
Improvement Dynamics Model: прогнозирование последствий изменений
Новый компонент получил название Improvement Dynamics Model (IDM) — модель динамики улучшений. Она анализирует предложенное изменение, характеристики модифицируемого агента и результаты предыдущих экспериментов. На основе этой информации IDM оценивает, как новая версия может справиться с задачами.
При этом модель старается различать несколько типов неудач. Например, неправильный ответ и незавершённая задача могут выглядеть как одинаковый провал в итоговой статистике, но причины у них разные. В первом случае агенту, возможно, не хватает точности рассуждений или правильной стратегии. Во втором проблема может заключаться в ошибке программного кода, неправильной работе инструмента или исчерпании доступных вызовов.
Такое различие помогает выбрать более подходящее исправление. Если прогноз показывает, что изменение может привести к незавершённым задачам, агент получает возможность дополнительно пересмотреть модификацию до полноценного тестирования новой версии.
При этом отрицательный прогноз не становится окончательным запретом на эксперимент. Итоговая версия всё равно проходит оценку. Это важно: прогнозы могут ошибаться, а потенциально рискованное изменение иногда оказывается полезным. IDM выступает в роли дополнительного источника информации, а не безусловного арбитра.
Пример: одна ошибка в кавычках могла сорвать работу агента
В исследовании приводится показательный пример. Во время модификации программного кода агент разместил часть инструкций за пределами необходимых кавычек. Из-за этого возникла синтаксическая ошибка, и новая версия не могла нормально выполнять задачи.
Агент распознал проблему, однако израсходовал доступные вызовы инструментов до того, как успел её исправить. Без дополнительного вмешательства такая попытка могла закончиться неудачей и потребовать нового цикла модификации и проверки.
Модель IDM спрогнозировала, что задачи, вероятно, останутся незавершёнными. Этот прогноз стал основанием для дополнительного пересмотра кода. После исправления кавычек новая версия смогла выполнить 11 задач.
Пример демонстрирует практический смысл подхода: не обязательно заранее знать точную причину каждой будущей ошибки. Даже прогноз того, что изменение может привести к незавершённой работе, способен помочь агенту вовремя провести дополнительную проверку.
Каких результатов удалось добиться в программировании
Исследователи провели серию экспериментов, включавшую 40 раундов улучшения для каждой конфигурации и пять независимых запусков. Для итоговой оценки использовались 166 задач программирования, которые не применялись непосредственно в процессе улучшения и выбора версий. Решение считалось успешным, если предложенный программный патч проходил предусмотренные для задачи тесты.
Результаты показали преимущество системы с прогнозированием. Медианная успешность исходного агента составляла около 16%. Отобранные версии HyperAgents без нового метода достигли примерно 22%, а при использовании IDM показатель вырос почти до 30%.
Иными словами, система с прогнозированием чаще находила версии, способные успешно решать задачи на отдельном наборе тестов. Это важнее простого улучшения результатов на примерах, которые агент уже видел: проверка на отложенных задачах помогает оценить, насколько изменения полезны за пределами процесса самооптимизации.
При этом результаты нельзя трактовать как доказательство того, что любой ИИ-агент после добавления IDM автоматически станет на треть эффективнее в реальной разработке. Показатели относятся к конкретной экспериментальной установке, выбранным задачам и способу оценки. Реальные программные проекты отличаются масштабом, требованиями к безопасности, архитектурой и сложностью тестирования.
Почему улучшение качества требует больше вычислительных ресурсов
У метода есть заметный недостаток — стоимость. В экспериментах по программированию система с прогнозированием использовала в среднем около 170 миллионов токенов за 40 раундов, тогда как HyperAgents без нового компонента — около 49 миллионов.
Токены — это единицы текста, которые языковая модель обрабатывает или генерирует. Они не равны напрямую секундам работы процессора или конкретной сумме денег, но помогают сравнивать объём использования языковых моделей при сопоставимых условиях.
Рост расхода объясняется дополнительными операциями: необходимо анализировать предлагаемые изменения, строить прогнозы, при необходимости пересматривать код и учитывать результаты тестирования. Поэтому более высокая точность не обязательно означает более дешёвую работу.
Вместе с тем исследователи сравнили методы при одинаковом бюджете токенов. Даже в этих условиях подход с прогнозированием сохранил преимущество по накопленной производительности в ходе экспериментов — около 10,9% по использованной авторами метрике. Это указывает на то, что дополнительная информация может быть полезна не только при неограниченном увеличении расходов.
Однако сравнение по токенам не заменяет полного анализа затрат. Для оценки практической экономической эффективности также потребуются данные о времени выполнения, стоимости вычислений, инфраструктуре, количестве неудачных запусков и необходимости человеческого контроля.
Может ли сама модель прогнозирования стать лучше
Одна из наиболее интересных особенностей подхода заключается в том, что IDM тоже может совершенствоваться. Система не предполагает, что прогнозирующий компонент с самого начала обладает идеальными знаниями о последствиях программных изменений.
В ходе экспериментов агент, отвечающий за модификации, периодически предлагает изменения и для самой модели прогнозирования. Такие обновления не принимаются автоматически: их проверяют на новых результатах, чтобы определить, действительно ли они улучшают качество предсказаний.
Таким образом, система пытается улучшать сразу несколько взаимосвязанных способностей:
- решать исходные задачи с помощью программного кода и инструментов;
- предлагать изменения, которые повышают качество работы;
- прогнозировать последствия предлагаемых модификаций;
- использовать результаты предыдущих экспериментов для последующих улучшений.
Это ещё не означает, что система самостоятельно обучает базовую языковую модель или изменяет её веса. В данном исследовании речь прежде всего идёт об изменении программного обеспечения и инструкций агента, а также о совершенствовании компонента, который оценивает последствия таких изменений.
Перенос опыта на математику и другие области
Исследователи также проверили, можно ли применять накопленный опыт прогнозирования за пределами программирования. Для этого они использовали данные из двух других направлений: предсказания принятия научных статей и проектирования функций вознаграждения для роботов, работающих в симуляции.
После работы с этими задачами модель прогнозирования применили к улучшению новых агентов, оценивающих решения сложных математических задач. При этом проверка проводилась на 100 заданиях, не использовавшихся для обучения и настройки системы в рамках итогового эксперимента.
Отобранные агенты с переносом опыта достигли медианной точности 55% при полном совпадении оценок с экспертными ответами. Для сравнения, вариант с новым, ещё не адаптированным прогнозирующим компонентом показал 51%, а HyperAgents без этого подхода — 47%.
Результаты позволяют предположить, что знания о том, какие изменения помогают агентам работать лучше, могут оказаться полезными и в новых областях. Но это не означает, что одна универсальная модель уже способна одинаково эффективно оптимизировать любые интеллектуальные системы. Для такого вывода потребуются дополнительные эксперименты с более широким набором задач и независимыми проверками.
Чем этот подход отличается от Darwin Gödel Machine
Идея самоулучшающихся ИИ-систем появилась не вчера. В 2025 году Sakana AI представила Darwin Gödel Machine — исследовательскую систему, которая изменяет собственный код, проверяет результат на программных тестах и сохраняет архив различных версий агента.
В этой архитектуре акцент сделан на поиске и проверке новых вариантов программной реализации. Система исследует разные направления улучшений, а результаты экспериментов помогают отбирать перспективные решения. При этом в документации Sakana AI отдельно подчёркивается важность изолированной среды, человеческого надзора и возможности проследить историю изменений.
Новая работа развивает близкую идею, но сосредотачивается на прогнозировании. Вместо того чтобы полагаться только на результаты тестирования уже изменённого агента, система пытается оценить последствия изменения заранее. Если прогноз указывает на риск ухудшения, агент получает дополнительную возможность исправить модификацию.
Оба направления относятся к исследованиям саморазвивающихся агентов, но их не следует смешивать: HyperAgents с IDM и Darwin Gödel Machine — разные системы, разработанные в рамках отдельных исследовательских проектов.
Какие риски остаются у самоулучшающегося ИИ
Возможность самостоятельно изменять код повышает требования к проверке и безопасности. Агент может ошибиться, неверно интерпретировать результаты тестов или оптимизировать систему под конкретную метрику, не улучшая реальное качество работы.
Особенно опасна ситуация, когда система стремится получить высокий тестовый балл и начинает обходить механизм оценки вместо исправления исходной проблемы. Например, она может изменить логику проверки так, чтобы ошибочный результат выглядел успешным. В таком случае показатели тестирования перестанут отражать действительную производительность.
Поэтому при разработке самоулучшающихся систем важны следующие меры:
- Изоляция экспериментов. Изменения необходимо проверять в контролируемой среде, не предоставляя агенту неограниченный доступ к рабочим системам.
- Независимое тестирование. Итоговые проверки не должны полностью зависеть от кода, который агент способен самостоятельно изменить.
- Сохранение истории. Архив версий и журнал изменений позволяют выяснить, что именно изменилось и почему.
- Ограничение полномочий. Агенту не следует автоматически предоставлять доступ к критическим данным, производственным серверам и учётным записям.
- Человеческий контроль. Существенные изменения, особенно связанные с безопасностью и инфраструктурой, должны проходить независимую проверку.
Прогнозирование последствий помогает выбирать более перспективные изменения, но само по себе не устраняет эти риски. Модель может ошибиться, а неудачная модификация — пройти ограниченный набор тестов и всё равно создать проблему в реальном окружении.
Что исследование означает для будущего разработки ПО
Если подобные методы станут надёжнее и дешевле, ИИ-агенты смогут эффективнее экспериментировать с собственными рабочими процессами. Вместо многократного перебора изменений с последующей проверкой они будут использовать накопленный опыт, чтобы заранее оценивать вероятные последствия и направлять вычислительные ресурсы на более перспективные варианты.
Это может быть полезно при автоматизации исправления ошибок, создании тестов, улучшении инструментов разработчика и настройке сложных рабочих процессов. Агент сможет не только написать решение, но и анализировать, какие особенности его программной реализации мешают успешному выполнению задач.
Тем не менее до полностью автономной разработки программного обеспечения остаётся значительная дистанция. Эксперименты на ограниченных наборах задач не доказывают, что система сможет безопасно поддерживать крупные проекты, учитывать все требования пользователей или самостоятельно принимать ответственные инженерные решения.
Практическая ценность таких исследований заключается в другом: разработчики ищут способы сделать процесс автоматического улучшения более осмысленным, проверяемым и экономным. Предсказание возможных ошибок до проведения дорогостоящего тестирования — один из подходов, который может помочь добиться этой цели.
Выводы
Исследователи из Университета Виргинии, Microsoft Research и Университета Цинхуа представили метод, который помогает ИИ-агентам прогнозировать последствия изменений собственного программного обеспечения. Компонент Improvement Dynamics Model анализирует предполагаемые модификации, оценивает риск неудач и при необходимости предоставляет дополнительную возможность пересмотреть код до итоговой проверки.
В эксперименте с 166 отложенными задачами программирования медианная успешность отобранных версий выросла примерно до 30% против 22% у HyperAgents без нового прогнозирующего компонента и 16% у исходного агента. Исследователи также показали, что накопленный опыт прогнозирования можно использовать при улучшении агентов для других типов задач.
Главное ограничение — стоимость: в тестах по программированию метод потребовал существенно больше токенов. Кроме того, результаты получены в исследовательских условиях и не гарантируют аналогичного эффекта в реальных программных проектах. Для практического применения понадобятся независимые тесты, контроль безопасности и оценка полной стоимости вычислений.
Таким образом, самоулучшение ИИ постепенно становится не просто вопросом способности переписывать собственный код. Не менее важно научиться оценивать, какие изменения действительно полезны, когда стоит остановиться и как убедиться, что улучшение не достигнуто за счёт ошибок в самой системе проверки.
Часто задаваемые вопросы
Это система, которая может изменять собственный программный код, инструкции или рабочие процессы, чтобы лучше выполнять задачи. После изменений её работу проверяют и сравнивают с предыдущими результатами.
Это модель прогнозирования последствий изменений. Она анализирует предлагаемую модификацию и пытается определить, как новая версия агента справится с задачами, чтобы при необходимости дать ему возможность пересмотреть код до итоговой проверки.
На наборе из 166 отложенных задач медианная успешность отобранных версий с прогнозированием составила около 30%. Для сравнения, HyperAgents без нового компонента достигли примерно 22%, а исходный агент — 16%.
Нет. Прогноз может быть неправильным, а некоторые проблемы обнаруживаются только во время выполнения программы. IDM помогает принимать более обоснованные решения, но не заменяет тестирование, анализ кода и контроль качества.
В описанном исследовании основное внимание уделено изменению кода и инструкций агентов, а также улучшению прогнозирующего компонента. Это не равнозначно самостоятельному переобучению базовой языковой модели.
Потому что к обычному циклу модификации и оценки добавляются прогнозирование, анализ последствий и дополнительные попытки исправления. В исследовании расход составил около 170 миллионов токенов за 40 раундов против примерно 49 миллионов у HyperAgents.
Исследователи продемонстрировали перенос опыта прогнозирования на задачу оценки математических решений после работы с другими областями. Это перспективный результат, но он не доказывает универсальную эффективность метода для любых интеллектуальных задач.
Исследование не доказывает, что ИИ-агенты способны полностью заменить разработчиков. Оно показывает, что прогнозирование может повысить эффективность отдельных этапов автоматического улучшения программного обеспечения. Проектирование архитектуры, проверка требований, безопасность и ответственность за изменения по-прежнему требуют надёжного контроля.
