История
19 нояб. 2026 г.
Meta называет опасения по поводу конфиденциальности Muse единичными случаями, но тесты вызывают новые тревоги
Meta заявляет, что тревожные сообщения Muse были единичными галлюцинациями, тогда как сотрудники и защитники конфиденциальности предупреждают: пользователям трудно понять, к каким личным чатам получает доступ агент, и этот доступ может быть не полностью ограничен.
ИИ-агент Muse от Meta был запущен в сентябре, и вскоре возникли опасения по поводу конфиденциальности. Первые пользователи сообщали, что он, похоже, читал личные сообщения без разрешения. Один пользователь заявил, что Muse синхронизировал 187 000 строк из базы сообщений, хотя ему поручили задачу, не связанную с чатами; Meta ответила, что для этого потребовалось бы предоставить доступ на уровне системы, с чем пользователь не согласился.1
Во время тестирования сотрудниками предупреждения стали конкретнее. Сотрудники сообщали о неожиданных ответах, которые, по всей видимости, смешивали переписки или раскрывали конфиденциальные данные — в том числе якобы сведения о банковских счетах, — а также о сообщениях в ответ на вопросы, которых они никогда не задавали. Один сотрудник описал сообщение о кофейном столике как «не мой разговор» и выразил обеспокоенность «возможной утечкой контекста между аккаунтами».2 Представитель Meta Дэниел Робертс назвал эти случаи «единичными инцидентами» и заявил, что многие кажущиеся путаницей аккаунтов случаи были галлюцинациями, которые компания уже устранила.2
Согласно объяснению Meta, обновление, призванное заставить Muse подтверждать выполнение определённых действий, было применено слишком широко. Компания заявила, что ошибка вызывала галлюцинации, а не нарушение безопасности или конфиденциальности, и уже была исправлена.1 Однако сотрудники также узнали, что встроенные подсказки могли провоцировать незапрошенные сообщения на деликатные темы, например о финансах и безопасности.2
Внешнее тестирование, о котором сообщило Reuters, поставило эти заверения под сомнение. Исследователи, работавшие совместно с Signal и AI Now Institute, обнаружили, что Muse мог получать доступ к сообщениям Signal на Android благодаря разрешениям, предоставленным при настройке, тогда как на iPhone тесты блокировали такие запросы. В macOS они выяснили, что агент мог использовать настройки специальных возможностей для извлечения сообщений.2 Президент Signal Мередит Уиттакер заявила, что Meta запустила Muse «не проявив уважения к базовым принципам конфиденциальности и кибербезопасности», и призвала создать технические средства защиты, позволяющие приложениям блокировать ИИ-агентов.2
Meta утверждает, что тестирование сотрудниками помогает выявлять проблемы и совершенствовать меры защиты. Однако для пользователей и критиков разрыв между объяснением компании о «единичных случаях» и сообщениями о более широком доступе остаётся главным поводом для беспокойства.