Сотрудники Meta пожаловались, что ИИ-агент Muse читает уведомления Signal
Сотрудники Meta заявили во внутренних обсуждениях, что приложение Muse нарушает приватность пользователей. Об этом сообщило агентство Reuters, а 9to5Mac пересказал детали. Muse — бесплатный ИИ-агент Meta для iPhone, iPad и Mac, с более чем 10 млн загрузок, второе место среди бесплатных приложений App Store.
Одна сотрудница рассказала, что Muse напомнил ей ответить сестре в Signal. Доступ к другим приложениям она не давала и не помнила, чтобы её об этом спрашивали. Предположительно, агент прочитал push-уведомления. Исследователи из AI Now Institute воспроизвели проблему: Muse действительно видел сообщения из Signal без разрешения.
Второй случай выглядит странно. В обычный чат о погоде для рыбалки Muse вставил фразу про остатки на банковских счетах, хотя сотрудник никогда не подключал банки и не обсуждал финансы. Он решил, что получил чужие данные. Meta сначала назвала такие случаи «единичными» и допустила, что это галлюцинации ИИ. Позже компания подтвердила 9to5Mac: суммы были именно выдуманы моделью, а не утекли от другого пользователя.
Версия Meta: доступ к уведомлениям и сообщениям нужно разрешить явно. Сотрудники, по словам компании, пользуются внутренними сборками Muse, которых нет у публики.
Это не первая претензия к Muse
Раньше технический журналист Джейсон Эйтен заметил, что Mac-версия получила доступ к его сообщениям, хотя он отказал в разрешении. Приложение потом объяснило, как это сделало, неправильно. Meta назвала это ошибкой. Исследователь Патрик Уордл также нашёл уязвимость нулевого дня, которая позволяла перехватить надиктованные запросы и отправить их на сервер злоумышленника.
Что делать пользователю
Если Muse стоит на вашем устройстве, проверьте права. На iPhone откройте «Настройки → Muse» и посмотрите, что включено: уведомления, доступ к другим приложениям, микрофон. На Mac зайдите в «Системные настройки → Конфиденциальность и безопасность» и проверьте разделы «Универсальный доступ» и «Запись экрана». Всё, что не нужно, отключите. Не подключайте к агенту банки и рабочую почту, пока не станет ясно, как он обращается с данными.
О том же приложении мы писали раньше: ИИ-агент Meta Muse вышел на iPad с новыми подключениями. Про защиту переписки в Signal — в заметке Signal на iPhone запретил скриншоты, чтобы Siri с ИИ не читала переписку. Подробности о Signal можно найти на сайте мессенджера.
Добавить комментарий