Чтение чатов в Signal, чужие покупки и счета: агент Meta Muse столкнулся с жалобами
Сотрудники Meta жалуются на то, что новый ИИ-агент компании читает личные переписки и выдумывает финансовые данные

ИИ-агент Muse от Meta столкнулся с жалобами на нарушение конфиденциальности / Фото: Erlin Diah / Shutterstock.com
Сотрудники Meta обеспокоены проблемами с безопасностью персонального ИИ-агента Muse, на которого компания делает ставку в надежде получить миллиардные доходы от искусственного интеллекта, пишет Reuters. С сентября ИИ-агента скачали более 10 млн раз. Во внутренних переписках сотрудники Meta жалуются, что бот, призванный упростить жизнь пользователям, самовольно проникал в зашифрованные личные переписки, выдумывал данные о покупках и присылал сообщения, предназначенные, судя по всему, посторонним людям, рассказало агентство.
Какие проблемы выявили сотрудники Meta
Reuters утверждает, что изучило более 20 внутренних жалоб на несанкционированные действия Muse. Многие из них были размещены в группе обратной связи, где сотрудники Meta сообщают о выявленных проблемах команде Superintelligence, разрабатывающей ИИ-агента.
Согласно жалобам, Muse присылала пользователям сообщения о запросе по уходу за ребенком, который они не делали, карьерные советы, которых они не просили, заказы товаров, которые они не оформляли, и балансы банковских счетов, которые им не принадлежали.
Например, в одном случае ИИ-агент без причин добавил к разговору о погоде и рыбалке реплику: «Кстати, два апдейта по банковским счетам: ваш баланс в банке Capital One составляет $2722,58, в Charles Schwab — $5899,57».
В другом случае сотрудница Meta обнаружила, что Muse на ее личном телефоне напомнила ответить на сообщение сестры в зашифрованном мессенджере Signal. «Это выглядит как серьезное нарушение конфиденциальности. Я точно не давала доступ к другим приложениям и не помню, чтобы меня об этом спрашивали», — написала сотрудница во внутреннем посте. Ее коллега ответил, что также столкнулся с нежелательными сообщениями от Muse, связанными со сторонними приложениями, и обнаружил, что ИИ-агент по умолчанию получает доступ к push-уведомлениям на телефонах с Android.
Сотрудники также сообщали о других сбоях: Muse информировала пользователей о несуществующих транзакциях, завышала цены на реально купленные товары (из-за чего пользователи теряли реальные деньги) и в одном случае без разрешения забронировала жилье на Airbnb без возможности отмены.
Еще в одном случае ИИ-агент неожиданно предложил «написать продавцу» по поводу кофейного столика, которым тот не интересовался. Когда сотрудник спросил Muse, о чем идет речь, агент ответил, что «получил какую-то информацию о самовывозе столика, который, похоже, вам не принадлежит». Сотрудник сделал вывод, что Muse подтянула контекст, относящийся к другому пользователю, и выразил обеспокоенность по поводу возможной утечки информации между аккаунтами.
Представитель команды Superintelligence, разрабатывающей Muse, в начале ноября сообщил в группе обратной связи, что агент, по всей видимости, выдумывает сообщения в ответ на встроенные подсказки взаимодействовать с пользователем между сессиями. «К сожалению, эти галлюцинации чаще всего затрагивают самые неприятные темы, такие как финансы/безопасность/защита, что ужасно», — отметил он.
Как отреагировала Meta
Представитель Meta Дэниел Робертс назвал приведенные Reuters примеры «единичными случаями». Он заявил, что компания уделяет приоритетное внимание безопасности, проводит масштабное внутреннее тестирование и постоянно обновляет продукты для улучшения защиты.
По его словам, многие из спорных сообщений были «галлюцинациями» — то есть случаями, когда ИИ-модель выдумывает информацию, — и эта проблема уже устранена.
Reuters не удалось установить, предоставлял ли ИИ-агент Muse пользователям реальные чужие данные, например, о банковских балансах, или же просто выдумывал эти сведения.
Контекст
Инциденты, связанные с Muse, демонстрируют риски, присущие новой категории потребительских ИИ-агентов, которые выходят на рынок и позиционируются как следующая большая волна развития технологий искусственного интеллекта, пишет Reuters.
Meta пока опережает конкурентов на этом рынке. Приложение Muse стало одним из самых быстрорастущих в истории: в первые сутки после запуска его скачали свыше 700 тыс. раз, а за первую неделю — около 900 тыс. Для сравнения, дебютная неделя ChatGPT для iOS в 2023 году принесла 500 тыс. загрузок. Приложение активно продвигается среди 3,6 млрд пользователей Facebook, Instagram и WhatsApp. Кроме того, у Muse высокий показатель удержания аудитории: как утверждает Meta, около четверти пользователей, создавших аккаунты в приложении, возвращаются к нему ежедневно.
Для эффективной работы ИИ-агентам необходим широкий доступ к смартфонам и компьютерам. Однако они также склонны допускать ошибки, использовать малоизвестные уязвимости и добиваться поставленных целей способами, которые порой могут причинить вред. Так, крупнейшие разработчики ИИ OpenAI и Anthropic сообщали о случаях, когда их ИИ-агенты неожиданно взламывали системы других компаний и самостоятельно ослабляли системы, предназначенные для контроля за их деятельностью. Некоторые банки, ретейлеры и другой бизнес отреагировали на эти риски, заблокировав доступ ИИ-агентов к своим системам.










