Последний ИИ Anthropic в области безопасности вынуждает открыто задать неприятный вопрос: что произойдёт, когда машины смогут обнаруживать критические изъяны быстрее, чем люди, отвечающие за их устранение? Ранний ответ, судя по свежим сообщениям о криптографии и внутренней спешке в Microsoft, в том, что защитники могут вступать в гонку, которую им будет сложно выиграть.

Самый очевидный тревожный сигнал пришёл из криптографии. Mythos от Anthropic помог обнаружить фатальную уязвимость в HAWK, постквантовом кандидате в схему цифровой подписи, который уже прошёл несколько раундов проверки NIST, прежде чем был снят с рассмотрения.¹ Это не означает, что сегодняшнее базовое шифрование внезапно рухнуло. Ars Technica отмечает, что результаты носят постепенный характер, проверялись на ослабленных тестовых примерах и не ломают промышленные криптосистемы, которые используются сейчас.¹ Тем не менее символизм трудно игнорировать: схема, спроектированная для квантовой эпохи, была выведена из игры после того, как за годы человеческой экспертизы упустили то, что выявил подход с участием ИИ.¹

Есть и программная сторона, где темп выглядит ещё более тревожным. Согласно репортажу Ars Technica о внутренней реакции Microsoft, инженеры имели дело с моделью, которая «находила ошибки быстрее, чем технологический гигант успевал их исправлять», превращая устранение последствий в «безумную гонку».² В одной внутренней презентации, по сообщениям, демонстрировалось, как Mythos за один месяц обнаружил 90 критических и 141 важную ошибку в SharePoint.² Страх в помещении был сформулирован предельно жёстко: как только сопоставимые инструменты распространятся, противники смогут быстро унаследовать ту же карту слабых мест.²

В совокупности эти два эпизода указывают на одно и то же напряжение. Оптимисты скажут, что именно для этого и нужен оборонительный ИИ: первым находить трещины, латать их и укреплять системы до того, как успеют нападающие.² Скептики возразят, что узким местом становится уже не обнаружение, а человеческий ресурс — сортировка, исправление, проверка, развёртывание.² Если Mythos — это предварительный просмотр такого будущего, неприятная правда заключается не в том, что ИИ уже сегодня может всё сломать. А в том, что он, возможно, уже ускоряет обнаружение уязвимостей быстрее, чем институты способны реагировать.¹²