Гонка за безопасность ИИ превращается в борьбу за то, кто получает доступ к данным. OpenAI делает ставку на то, что корпоративные клиенты выберут мониторинг, который способен обнаруживать устойчивое злоупотребление без передачи их диалогов создателю модели.

Разрыв усилился в июле, когда Anthropic представила политику, позволяющую сохранять сессии в течение 30 дней для некоторых «покрываемых моделей», включая системы класса Mythos и будущие модели аналогичного уровня возможностей, для анализа в целях безопасности. Эта политика встревожила компании, работающие с конфиденциальной информацией, даже несмотря на заявления Anthropic, что любой ручной просмотр будет проводиться через контролируемый процесс с участием небольшой группы утверждённых ревьюеров и с использованием защищённых от подделки журналов.¹

Ответ OpenAI сейчас тестируется с первыми клиентами. Предлагаемая система Private Safety Processing расширяет обычные средства защиты на уровне отдельных взаимодействий в рамках Zero Data Retention до межсессионного мониторинга: автоматизированные системы будут искать шаблоны, такие как повторные попытки проверить границы защитных механизмов, скоординированная активность между аккаунтами или вредоносная цель, «размазанная» по множеству запросов.²

Ключевое обещание компании в том, что она может обнаружить такой шаблон, не раскрывая персоналу содержимое самих диалогов. «Сотрудники OpenAI не получают доступа к контенту клиентов даже в случае его маркировки», — говорится в заявлении; вместо этого система будет возвращать узко определённый сигнал о типе подозрительной активности. Затем клиенты при желании смогут добровольно предоставить контекст, если захотят оспорить решение об ограничениях или помочь расследованию.²

Именно здесь и проходит принципиальное различие. Обе лаборатории признают, что разовая проверка может не выявить длительные злоупотребления, включая случаи, когда злоумышленник распределяет запросы, связанные с вредоносным ПО, по разным сессиям. Но подход Anthropic допускает хранение и потенциально строго контролируемый ручной просмотр для своих самых продвинутых моделей; OpenAI же предлагает шифрование, ключи под контролем клиента и автоматизированные сигналы как способ сохранить конфиденциальность, одновременно расширяя сеть мер безопасности.¹

OpenAI заявила, что планирует начать развёртывание системы и опубликовать технический отчёт (white paper) в сентябре. Нулевое хранение не будет абсолютным: очевидные материалы сексуального насилия над детьми по‑прежнему могут сохраняться для ручного рассмотрения и выполнения законодательно установленных требований по отчётности.²