Google DeepMind заявляет, что преодолела давнее препятствие в кибербезопасности: использовала формальную верификацию с поддержкой ИИ для проверки фактического скомпилированного кода, лежащего в основе шифрования Signal, а не только проектирования протокола.

Эта работа важна, поскольку криптографические системы могут быть надёжны на бумаге, но при создании и компиляции программного обеспечения в них могут проникать ошибки. DeepMind сообщила, что её платформа AlphaProof Code объединила экспертов-людей, определявших и проверявших спецификации безопасности, с агентами на базе Gemini Carbon, которые сгенерировали более шести миллионов строк кода доказательств на Lean. Затем система отметила около 1% кодовой базы для дополнительной проверки людьми.¹

Компания заявляет, что за четыре недели были установлены ключевые свойства, включая защиту сообщений до и после временной компрометации устройства. Чтобы проверить, может ли платформа отличать безопасное ПО от ПО с изъянами, исследователи восстановили две ранее исправленные ошибки в изолированной версии Signal; в обоих случаях она выдала проверенные машиной доказательства того, что изменённый код небезопасен.¹

Результат публично представили как первый в своём роде. В перепубликованном объявлении генеральный директор DeepMind Демис Хассабис подчеркнул заявление своей команды о том, что она доказала ключевые свойства безопасности машинного кода, лежащего в основе Signal, назвав это первой формальной верификацией фактического рабочего кода для широко используемого протокола.Demis Hassabis (demishassabis)²

Технический директор Signal Эрен Крет представил это достижение не столько как замену человеческому суждению, сколько как значительное расширение того, что способна охватить верификация. «Использование ИИ-агентов для перевода работающего кода в корректные теоремы Lean — это крупный прорыв», — сказал он, утверждая, что этот процесс даёт Signal большую уверенность в выполнении её обещаний о конфиденциальности по мере роста угроз, связанных с ИИ.¹

Axios сообщил, что научный сотрудник DeepMind Сварат Чаудхури описал более широкую цель как достижение «мира невзламываемого программного обеспечения», хотя нынешняя система всё ещё является исследовательским проектом, а не коммерческим инструментом кибербезопасности.³ DeepMind планирует открыть исходный код своих артефактов верификации и изучить связи с такими инструментами, как CodeMender и Project Zero, — это ранний шаг к внедрению математических гарантий в повседневную разработку программного обеспечения.¹