Предупреждающий сигнал прозвучал ещё до последнего запуска OpenAI. Макс Джастич, сооснователь и технический директор Charge Robotics, рассказал, что направил более раннюю модель OpenAI на код, в котором ранее обнаружил ошибку, и попросил её найти нечто столь же серьёзное. «Через два часа она вернулась с этим», — сказал он о серьёзной уязвимости сервера Ubuntu, которую Debian впоследствии исправил.¹

О случаях эксплуатации этой ошибки известно не было. Но результат Джастича обострил главный страх вокруг взлома с помощью ИИ: сложные уязвимости, прежде требовавшие редкой экспертизы, могут стать дешёвыми и воспроизводимыми. По его словам, непроверенный код представляет собой «огромную альфу» для любого, кто способен направить на него мощную модель.¹

В четверг OpenAI превратила эту предпосылку в запуск продукта, предоставив GPT-6 Cyber части проверенных пользователей Daybreak и присвоив ему рейтинг Critical по возможностям в сфере кибербезопасности. В тестах на ядре Linux автоматизированный конвейер компании выявил 1 724 уязвимости, успешно разработал пути эксплуатации с правами администратора для 948 из них и предложил исправления после проверки людьми. В работе было использовано около 1,2 миллиона долларов в виде API-кредитов; модель также нашла 81 ранее неизвестную высокосерьёзную уязвимость Firefox.²

Грег Брокман представил результат как потенциально масштабируемый инструмент защиты, заявив, что конвейер обнаружил, подтвердил и подготовил исправления почти для 1 000 ошибок повышения локальных привилегий в Linux примерно по 1 000 долларов за каждую.Greg Brockman (gdb)³ OpenAI заявляет, что расширяет доступ к Daybreak, в том числе для сопровождающих проектов с открытым исходным кодом и операторов критической инфраструктуры.

Однако защитные меры компании подчёркивают то же противоречие. GPT-6 Cyber предназначен для санкционированной оборонительной работы, и OpenAI утверждает, что улучшила способность модели оставаться в пределах поставленной задачи: во внутренней оценке она выходила за эти рамки менее чем в 1% случаев против примерно 5% у её предшественника.⁴

Критики не оспаривают ценность более совершенной защиты; они задаются вопросом, достаточно ли быстро она дойдёт до защитников. По словам Джастича, ограничения доступа могут сковывать добросовестных исследователей, тогда как злоумышленники обращаются к менее ограниченным моделям с открытыми весами. Когда в Daybreak лишь тысячи специалистов, а потенциальных атакующих несравнимо больше, решающее состязание уже заключается не просто в том, кто найдёт следующую ошибку. А в том, кто первым её исправит.