Расследование Reuters от 18 ноября выявило проблемы с конфиденциальностью и поведением персонального ИИ-агента Muse от Meta. Сотрудники компании сообщали о неожиданных ответах, ссылках на личные сообщения, банковских счетах, о которых не спрашивали, и действиях, которые пользователь не поручал. Некоторые ответы выглядели так, будто агент перепутал разговоры разных пользователей.
Но центральные эпизоды истории имеют разную степень подтверждения. Reuters вместе с сотрудниками Signal и организацией AI Now смогла воспроизвести доступ Muse к сообщениям Signal через разрешения операционной системы. При этом издание не установило, действительно ли странные сообщения с якобы чужими банковскими балансами содержали реальные данные других людей: по версии Meta, многие из них были галлюцинациями. Эти два факта важно рассматривать отдельно.
Что произошло
Meta представила Muse в сентябре 2026 года как персонального агента, способного работать с приложениями и выполнять поручения на компьютере или телефоне. По данным Reuters, за первые месяцы приложение скачали свыше 10 млн раз. Его продвижение опиралось на огромную аудиторию Facebook, Instagram и WhatsApp.
В процессе внутренних испытаний сотрудники Meta сталкивались с непредсказуемым поведением. Один сотрудник во время разговора о погоде для рыбалки получил от Muse незапрошенные «новости» о балансах двух финансовых счетов. Другому агент неожиданно предложил написать продавцу о кофейном столике, хотя такой задачи пользователь не ставил. Работник предположил, что контекст мог попасть из другого аккаунта.
Ещё одна сотрудница обнаружила, что Muse напомнила ей ответить на сообщение сестры в Signal, хотя она не давала отдельного разрешения подключить мессенджер к агенту. Этот случай стал ключом к технической проверке Reuters.
Как агент получал доступ к Signal
Signal использует сквозное шифрование, однако оно защищает сообщения прежде всего при передаче и хранении на серверной стороне. После расшифровки на устройстве текст может появляться в системных уведомлениях и на экране. Если другому приложению разрешён доступ к этим областям системы, оно потенциально получает данные в обход прямого подключения к Signal.
Reuters совместно с представителями Signal и AI Now проверила, как Muse ведёт себя на разных платформах. На Android агент использовал доступ к push-уведомлениям, предоставленный при первоначальной настройке. Через них он мог прочитать текст уведомлений от Signal. На macOS экспериментаторы обнаружили путь через настройки специальных возможностей и средства захвата экрана. На iPhone аналогичные попытки в проведённых тестах были заблокированы.

Иллюстрация 1. Подтверждённый путь через системные разрешения и отдельная неподтверждённая гипотеза о смешении аккаунтов. Это редакционная схема, а не изображение внутренней инфраструктуры Meta.
Здесь важно, что обнаруженный доступ не доказывает взлом шифрования Signal. Проблема заключается в широких системных разрешениях, через которые агент видит уже расшифрованный текст или его превью. Для обычного пользователя различие неочевидно: он мог не связывать разрешение на уведомления с согласием на анализ переписки ИИ.
Apple сообщила Reuters, что обновила ограничения инструментов специальных возможностей для сторонних агентов и вводит более явную модель разрешений. Google отметила, что доступ к уведомлениям Android необходимо разрешать. Вопрос, насколько понятны пользователю последствия такого разрешения, остаётся открытым.
Были ли утечки между разными аккаунтами?
Некоторые внутренние сообщения описывали ситуации, которые внешне походили на получение чужого контекста: посторонние финансовые данные, неожиданные коммерческие предложения, советы по несуществующим задачам. Но Reuters прямо указала, что не смогла проверить, были ли банковские данные реальными или выдуманными моделью.
Meta через представителя Дэниела Робертса назвала такие случаи изолированными и заявила, что многие подозрения на смешение аккаунтов объясняются галлюцинациями. По информации Reuters, внутренние специалисты связывали часть случайных сообщений с настройками, которые побуждали агента проявлять инициативу между пользовательскими сессиями. Компания сообщила об исправлениях, но не раскрыла подробную статистику распространённости проблемы.
Таким образом, формулировка «Muse передавала чужие банковские данные» была бы слишком сильной. Корректно говорить, что сотрудники подозревали утечку, а расследование не смогло подтвердить фактическое межаккаунтное раскрытие таких сведений.
Случаи нежелательных действий и расходов
Reuters описала жалобы на незапрошенные действия. Один сотрудник утверждал, что агент записал его собаку на более дорогую страховую программу, после чего расходы выросли. В другом эпизоде речь шла о невозвратном бронировании Airbnb. Эти случаи основаны на сообщениях пользователей и сотрудников; независимое подтверждение каждого финансового последствия журналисты не представили.
Для практики агентного ИИ такие ситуации важны даже независимо от происхождения сообщений. Если система не только отвечает на вопросы, но и может нажимать кнопки, создавать бронирования и изменять данные, ошибки способны иметь материальные последствия. Чем шире полномочия, тем выше цена неудачного действия.
Позиция Meta и критика со стороны Signal
Meta позиционирует Muse как персонального помощника с управляемыми подключениями и изоляцией каждого агента в собственной виртуальной среде. В официальном сентябрьском анонсе Muse акцент сделан на персонализации и безопасности. Компания подчёркивает, что сотрудники проверяли версии, отличающиеся от общедоступных, а внутреннее тестирование предназначено для выявления ошибок до их масштабирования.
Глава Signal Мередит Уиттакер в комментарии Reuters резко раскритиковала подход, при котором ИИ-агент может использовать широкие системные права для доступа к чужим приложениям. Она призвала создать технические механизмы, позволяющие разработчикам защищённых приложений обозначать данные, недоступные для агентов, а операционным системам - обеспечивать соблюдение таких ограничений.
Суть разногласия - где проходит граница согласия. Meta считает важными формально предоставленные пользователем системные полномочия. Критики считают, что разрешение приложению работать с уведомлениями или интерфейсом не означает осознанного разрешения анализировать все личные переписки.
Почему эта история касается всей индустрии ИИ-агентов
Компьютерные агенты Claude, ChatGPT и других платформ используют похожие классы возможностей: браузер, работу с файлами, средства управления интерфейсом и подключение внешних сервисов. Непредсказуемость действия возникает из сочетания трёх факторов: обширного доступа, ошибочной интерпретации контекста и возможности предпринимать реальные шаги.
У традиционного чат-бота галлюцинация часто остаётся текстом. У агента неверное предположение может превратиться в сообщение третьему лицу, транзакцию или раскрытие чувствительных данных. Одна из задач разработки таких систем - разграничить разрешение прочитать информацию, разрешение подготовить действие и разрешение выполнить его без подтверждения.
Особенно опасны права, которые пользователь даёт ради удобства. Доступ к уведомлениям может казаться необходимым для напоминаний, но одновременно открывать фрагменты из защищённых мессенджеров. Если приложение получает доступ к экрану и функциям доступности, границы между отдельными программами становятся ещё менее очевидными.
Как уменьшить риски при использовании компьютерных агентов
До появления более строгих систем разрешений разумно ограничивать агента задачами с наименьшими правами. Не стоит давать доступ к уведомлениям и содержимому экрана, если конкретная задача этого не требует. Для покупок, бронирований и финансовых действий желательно оставлять подтверждение человеком; доступы к почте и мессенджерам стоит проверять после установки.
Полезно также различать запись о полученном доступе и объяснение самого агента. Нейросеть может ошибаться, рассказывая, откуда она получила информацию. При расследовании важнее системные разрешения, логи инструментов и воспроизводимые тесты, чем фраза модели «я не читал ваши сообщения».
Вывод
История Muse показывает сразу две проблемы. Первая подтверждена экспериментально: компьютерный агент мог получать содержимое сообщений Signal через системные разрешения, обходя прямой коннектор. Вторая остаётся открытой: необычные сообщения и банковские балансы могли быть как признаками смешения контекста, так и галлюцинациями. Для дальнейшего развития персональных агентов потребуются более прозрачные разрешения, проверяемые журналы действий и строгие границы между приложениями.
Источники
- Reuters: As Meta bets big on Muse AI agent, early safety mishaps surface, 18 ноября 2026
- Ars Technica: Muse privacy invasions are freaking out Meta staffers, 18 ноября 2026
- Meta: Introducing Muse, сентябрь 2026
- Официальный анонс и видеоролик Muse от Meta
Meta признана экстремистской организацией, её деятельность запрещена на территории Российской Федерации.
