Сан‑Франциско проверяет, насколько далеко могут простираться существующие законы в эпоху ИИ, обвиняя Apple и Google в извлечении прибыли из приложений, которые превращают обычные фотографии в несанкционированные сексуальные дипфейки, и требуя от платформ закрыть их.

Ранние предупреждения и растущая тревога

За последний год наблюдатели неоднократно сигнализировали о приложениях для «обнажения» в крупных магазинах приложений, предупреждая, что их используют для массового создания несанкционированных интимных изображений (NCII) и что Apple и Google являются «ключевыми участниками распространения ИИ‑инструментов, которые могут превращать реальных людей в сексуализированные изображения».¹ К началу 2025 года Калифорния ужесточила законы, позволяющие жертвам подавать в суд на третьих лиц, которые «сознательно способствуют» или «по неосторожности содействуют или подстрекают» созданию такого дипфейк‑порно, тем самым более однозначно предупреждая платформы.¹

Предписания о прекращении нарушений в июле 2026 года

На этой неделе юрисконсульт города Сан‑Франциско Дэвид Чью направил обеим компаниям официальные предписания о прекращении нарушений (cease‑and‑desist), потребовав удалить 13 ИИ‑приложений для «обнажения» из их магазинов и прекратить «содействие и подстрекательство» к продаже сексуализированных ИИ‑дипфейков, что, по его словам, запрещено законодательством Калифорнии.² Офис Чью заявил, что Apple и Google были «заблаговременно уведомлены» почти год назад, но тем не менее продолжали обрабатывать платежи и взимать комиссии, оценив, что компании, вероятно, заработали «миллионы долларов комиссионных» на этих приложениях.¹

Чью описал свою команду как «абсолютно потрясённую» тем, насколько повсеместной стала эта технология, отметив, что инструменты используются, чтобы «травить, унижать и запугивать женщин и девочек» и что некоторых жертв это довело до суицидальных мыслей.³

Реакция техногигантов и что будет дальше

После получения писем Google заявила, что уже приостановила действие пяти Android‑приложений, указанных в обращении, подчеркнув, что Google Play «не допускает приложения, содержащие сексуальный контент», и что компания «постоянно предпринима[ет] проактивные шаги по выявлению и удалению приложений с вредоносным содержанием».²³ Apple указала, что проверяет названные приложения; власти Сан‑Франциско предупреждают, что бездействие в течение 28 дней может повлечь для обеих компаний гражданско‑правовые санкции.¹

Это противостояние становится ранней проверкой того, способны ли действующие нормы ответственности заставить магазины приложений более жёстко пресекать использование ИИ‑инструментов для сексуализированного насилия.