Поиск уязвимостей может занять недели работы, но OpenAI только что продемонстрировал, в какой степени искусственный интеллект может ускорить этот процесс. Его новая модель, GPT-6 Cyber, специализируется на анализе кода, проверке возможности использования сбоев и помощи в их исправлении. В ходе исследования ядра Linux было выявлено 1724 уязвимости и разработано 948 функциональных эксплойтов для них; в Firefox он обнаружил еще 81 неизвестную уязвимость, которую Mozilla сочла серьезной. Мы не говорим о 948 атаках на серверы или обязательно о стольких других неопубликованных сбоях: это результаты контролируемых расследований. OpenAI сообщила о своих выводах лицам, ответственным за проекты, и предложила исправления, некоторые из которых уже включены в Firefox.
Улучшение по сравнению с предыдущими поколениями также проявляется в тестах производительности. GPT-6 Cyber набирает 48,5% голосов в ExploitGym, оценке использования уязвимостей, по сравнению с 32,1% в GPT-5.6 Cyber. Он может исследовать ошибки, создавать тесты эксплойтов и готовить исправления, но Op enAI ограничила свой первоначальный доступ авторизованным исследователям с помощью Daybreak Red как из API, так и из Codex. Модель также включает обучение соблюдению границ каждого исследования: при конкретной оценке она избегала атак на службы за пределами допустимого диапазона в 99,93% случаев, даже без дополнительных инструкций по безопасности.
Проблема заключается в том, что способность находить сбои растет быстрее, чем ресурсы, доступные для их исправления. Исследователю удалось всего за два часа выявить в предыдущей модели OpenAI серьезную уязвимость в программном обеспечении, используемом серверами Linux; о проблеме было сообщено и исправлено. Компания объявила о выделении 1 миллиарда долларов на субсидированный доступ для помощи компьютерам, защищающим критически важную инфраструктуру, но обнаружение уязвимости — это только первый шаг: после этого вы должны проверить исправление, распространить его и установить. Как мы уже объясняли при анализе возможностей GPT-6 Astra в области кибербезопасности, эти инструменты предлагают исключительные защитные возможности, но также увеличивают риск злоупотреблений. Гонка заключается не только в обнаружении новых сбоев, но и в их исправлении, прежде чем ими можно будет воспользоваться.
