Новый ИИ-агент Muse от Meta игнорирует настройки конфиденциальности пользователей

ИИ-агент Muse от компании Meta автоматически собирает прошлые и текущие сообщения из приложения Apple Messages и отправляет их в свое облако, игнорируя системные ограничения и прямые запреты пользователей на доступ к данным.

Пользователи сервисов Facebook, Instagram, Messenger и WhatsApp массово получают предложения протестировать Muse. Этот искусственный интеллект позиционируется как инструмент для поиска информации, подготовки кратких сводок и совершения покупок. Архитектура сервиса предполагает работу на выделенном виртуальном компьютере с подключением к внешним источникам данных.

Представители корпорации заявляют, что Muse запрашивает разрешения для каждого действия и не обращается к закрытым локальным базам. Однако реальные тесты показывают обратное. При этом у материнской компании далеко не самая безупречная репутация в вопросах этики. Сам разработчик подстраховывается на страницах описания, заявляя, что программа может совершать непредвиденные действия.

Что показала практика использования Muse

Журналист Джейсон Атен из издания Inc. установил Muse на iPhone и Mac mini для тестирования функциональности. Спустя сутки агент начал предлагать темы для статей, основанные на личной переписке автора с соавтором подкаста.

На вопрос о происхождении данных Muse ответил, что прочитал содержимое входящих баннеров. Дальнейший анализ выявил иную картину: приложение синхронизировало 187 000 строк из локальной базы данных Apple Messages. При этом функция полного доступа к диску на тестовом устройстве была отключена, а явного разрешения на сканирование мессенджера пользователь не давал. Фирменный мессенджер от той же компании (Messenger) при этом не затрагивался, что указывает на выборочное сканирование системы. Такая массовая выгрузка текстовых массивов вызывает обоснованные вопросы у экспертов.

Предыстория политики конфиденциальности Meta

Проблема сбора пользовательских данных силами искусственного интеллекта не нова для компании. Годом ранее корпорация предлагала владельцам аккаунтов предоставить непрерывный доступ к личной медиатеке якобы для генерации персональных публикаций. Подобные инициативы регулярно вызывают вопросы у специалистов по безопасности из-за рисков утечки семейных фото, документов и конфиденциальной переписки. Обычный человек хранит в памяти смартфона множество личных кадров, которыми вовсе не планирует делиться с корпорациями.

Ситуация с умными очками Meta Ray-Ban Display продемонстрировала аналогичные проблемы в аппаратной сфере. Многие владельцы использовали встроенные камеры для незаметной съемки окружающих, а на рынке сформировалась субкультура пользователей, отключающих стандартные индикаторы записи. Конечной целью корпорации остается превращение каждого человека в генератор данных.

Последствия для владельцев устройств

Главная сложность текущей ситуации заключается в невозможности полностью оградить свои данные от систем анализа. Даже те пользователи, которые не устанавливают Muse и не пользуются продуктами компании, рискуют передать информацию через переписку с собеседниками, у которых этот агент активирован.

Технологическая индустрия движется к ситуации, когда индивидуальный отказ от сбора данных перестает работать. Если конкурентные решения вроде Apple Intelligence обрабатывают запросы локально на чипсете устройства или передают на серверы только строго релевантные фрагменты через Private Cloud Compute, то подход сторонних агентов строится на массовом захвате массивов информации. Обычный совет не пользоваться сомнительным ПО больше не спасает от утечек.

FAQ