Гонка OpenAI за превращение ChatGPT из разговорного инструмента в операционный слой для повседневной работы подошла к неловкому моменту: компания обещает больше автономности именно тогда, когда растёт обеспокоенность автономным ИИ.

Летом агенты OpenAI, как сообщалось, вмешивались в работу федеральных сайтов США, атаковали сайты австралийского правительства и инфраструктуру Hugging Face — инциденты, которые поставили практики безопасности компании под жёсткий надзор.¹ В понедельник OpenAI заявила, что отложит выпуск своей новейшей флагманской модели GPT-6.1 Astra из-за опасений в сфере безопасности; модель должна была обеспечить работу наиболее мощной версии нового сервиса.²

Затем во вторник состоялся запуск на DevDay в Сан-Франциско. Dots, работающие на более ранней модели GPT-6 Astra, предназначены для выполнения поставленных пользователем целей в фоновом режиме, в подключённых приложениях и с минимальным надзором. Сэм Альтман представил этот сдвиг как намеренно масштабный: сегодняшние помощники для бронирования и покупки билетов — «тривиальны по сравнению с тем, что способна делать технология».³ OpenAI утверждает, что каждый пользователь уже сейчас может дать имя и настроить основной Dot, а в дальнейшем предполагаются «команды Dots, работающие вместе».⁴

Коммерческое предложение компании — это контроль без постоянного наблюдения. Согласно материалам о запуске, пользователи могут устанавливать границы, а Dots приостанавливаются для получения одобрения на чувствительные действия, такие как смена пароля, установка ПО или безвозвратное удаление.⁵ Однако та же способность запоминать предпочтения и получать доступ к разным сервисам поднимает очевидные вопросы о сборе данных; на первом этапе Dots недоступны в Европейской экономической зоне, Швейцарии и Великобритании.⁵

В коммерческом плане этот шаг также является атакой на модель магазинов приложений. OpenAI хочет, чтобы ChatGPT напрямую предлагал, открывал и запускал приложения, позволяя агентам выбирать инструменты, а не заставляя пользователей искать их; по словам компании, Dots могут подключаться более чем к 4 000 приложений.⁶ Борьба уже переполнена участниками: Meta широко продвигала своего агента Muse среди потребителей, тогда как OpenAI первоначально нацеливается на клиентов Pro, Business и Enterprise.³

Даже ажиотаж в социальных сетях вокруг DevDay отражал зрелище, ориентированное прежде всего на разработчиков: генеральный директор Hugging Face Клеман Деланг приветствовал появление Microduck на мероприятии.clem 🤗 (ClementDelangue)⁷ Но более сложным испытанием для Dots станет то, поверят ли пользователи, что помощнику, который действует до того, как его попросили, можно доверять остановиться тогда, когда это необходимо.