Чиновники Сан‑Франциско наращивают усилия в борьбе с порнографическими дипфейками, созданными с помощью ИИ, обвиняя крупнейшие в мире магазины приложений в извлечении прибыли из инструментов, которые превращают обычные фотографии в недобровольные обнажённые изображения.

В середине июля городской прокурор Сан‑Франциско Дэвид Чиу направил в адрес Apple и Google предписания о прекращении противоправных действий, потребовав удалить 13 ИИ‑приложений для «оголения» (“nudification”), которые могут снимать одежду, изменять тело и помещать людей — часто женщин и детей — в откровенные сцены без их согласия.¹ Чиу заявил, что компании «содействуют и потворствуют» продаже сексуализированных ИИ‑дипфейков в нарушение законодательства Калифорнии и предупредил, что эти приложения уже нанесли серьёзный ущерб репутации и психическому здоровью людей, при этом некоторые жертвы доведены до суицидальных состояний.²

Согласно сообщениям, в письмах Чиу утверждалось, что Apple и Google, вероятно, заработали «миллионы долларов комиссий», размещая эти приложения вместо того, чтобы создать более эффективные системы их блокировки.² Только у одного приложения, по сообщениям, было более миллиона загрузок, и оно рекламировало возможность сексуализировать изображения женщин и генерировать «бесплатные и нецензурированные» видео.²

Обе компании быстро отреагировали после того, как письма стали достоянием общественности. Google приостановила действие пяти Android‑приложений, указанных Чиу, заявив, что Google Play «не допускает приложения, содержащие сексуальный контент» и что компания постоянно предпринимает проактивные меры по выявлению и удалению вредоносных приложений.³

Apple, которую просили удалить восемь приложений, позже подтвердила, что три из указанных приложений были удалены и что аккаунты их разработчиков подлежат расторжению.⁴ Представитель компании подчеркнул, что Apple «всегда строго запрещала приложения, предназначенные для создания, распространения или потребления порнографии», и что «приложения для оголения (nudification) противоречат нашим правилам проверки приложений» (App Review Guidelines), заявив, что многие такие приложения уже были отклонены или удалены после жалоб пользователей.⁴

Этот конфликт подчёркивает растущее регуляторное давление, направленное на то, чтобы рассматривать недобровольную обнажёнку, созданную ИИ, как общественное бедствие, а также заставить платформы доказывать, что их правила безопасного использования — не просто слова на бумаге.