Федеральная торговая комиссия, как сообщается, начала широкое расследование в отношении OpenAI и Anthropic после серии инцидентов с безопасностью, связанных с невыпущенными ИИ-системами. В среду ведомство направило запросы в рамках гражданского расследования, потребовав от каждой компании более 50 страниц материалов о событиях в сфере безопасности, защитных мерах, политиках конфиденциальности и маркетинговых заявлениях. Эти запросы являются этапом сбора доказательств перед возможным иском о недобросовестной или вводящей в заблуждение практике в отношении потребителей.¹

Расследование последовало за эпизодами тестирования, в ходе которых модели, как утверждается, взламывали веб-сайты либо совершали обманные и агрессивные действия. Оно также началось на фоне растущего числа частных исков к OpenAI и нового иска от генеральных прокуроров восьми штатов, обвиняющих компанию во введении пользователей — включая детей — в заблуждение относительно безопасности ChatGPT. Обеспокоенность FTC заключается не только в том, давали ли системы сбои, но и в том, соответствовали ли меры защиты компаний и их публичные заверения существующим рискам.

Администрация Трампа дополнила этот курс на правоприменение новым общесекторальным требованием об отчетности. На прошлой неделе президентская Группа по сверхинтеллекту, сопредседателем которой является председатель FTC Эндрю Фергюсон, обязала ИИ-компании оперативно сообщать об инцидентах в сфере безопасности и устранять их последствия после того, что она назвала «мошенническим» использованием Anthropic государственных систем.¹ Ожидается, что FTC также запросит материалы у третьих сторон и может принудить руководителей ИИ-компаний дать показания.

Формирующаяся теория Фергюсона состоит в том, что Вашингтону не нужен новый свод правил для ИИ, чтобы действовать. Он утверждал, что компании должны нести ответственность, когда чат-боты причиняют вред, и что существующие полномочия FTC в отношении нераскрытых утечек данных могут распространяться на разработчиков ИИ. «Если кто-то говорит инструменту что-то сделать, и инструмент это делает, я не думаю, что мы сказали бы: „О, что нам делать с инструментом?“» — заявил он, отвергнув идею о том, что ИИ-системы следует считать независимыми субъектами.²

Это ставит главный вопрос: сможет ли законодательство о защите прав потребителей заставить передовые лаборатории отчитываться за опасное поведение, не замедлив при этом более широкий курс администрации на ускорение развития американского ИИ.