ГлавнаяНовости
Поделиться

Чтение чатов в Signal, чужие покупки и счета: агент Meta Muse столкнулся с жалобами

Сотрудники Meta жалуются на то, что новый ИИ-агент компании читает личные переписки и выдумывает финансовые данные

Юлия Котова

Юлия Котова

руководитель новостной службы Oninvest
ИИ-агент Muse от Meta столкнулся с жалобами на нарушение конфиденциальности / Фото: Erlin Diah / Shutterstock.com

ИИ-агент Muse от Meta столкнулся с жалобами на нарушение конфиденциальности / Фото: Erlin Diah / Shutterstock.com

Сотрудники Meta обеспокоены проблемами с безопасностью персонального ИИ-агента Muse, на которого компания делает ставку в надежде получить миллиардные доходы от искусственного интеллекта, пишет Reuters. С сентября ИИ-агента скачали более 10 млн раз. Во внутренних переписках сотрудники Meta жалуются, что бот, призванный упростить жизнь пользователям, самовольно проникал в зашифрованные личные переписки, выдумывал данные о покупках и присылал сообщения, предназначенные, судя по всему, посторонним людям, рассказало агентство. 

Какие проблемы выявили сотрудники Meta

Reuters утверждает, что изучило более 20 внутренних жалоб на несанкционированные действия Muse. Многие из них были размещены в группе обратной связи, где сотрудники Meta сообщают о выявленных проблемах команде Superintelligence, разрабатывающей ИИ-агента. 

  • Согласно жалобам, Muse присылала пользователям сообщения о запросе по уходу за ребенком, который они не делали, карьерные советы, которых они не просили, заказы товаров, которые они не оформляли, и балансы банковских счетов, которые им не принадлежали.

  • Например, в одном случае ИИ-агент без причин добавил к разговору о погоде и рыбалке реплику: «Кстати, два апдейта по банковским счетам: ваш баланс в банке Capital One составляет $2722,58, в Charles Schwab — $5899,57».

За первые сутки после запуска приложение с ИИ-агентом Muse от Meta заняло первое место в американском App Store. Фото:  Robert Way / Shutterstock.com

Агент Muse в деле: как далеко Meta продвинется с ним в ИИ-гонке?

  • В другом случае сотрудница Meta обнаружила, что Muse на ее личном телефоне напомнила ответить на сообщение сестры в зашифрованном мессенджере Signal. «Это выглядит как серьезное нарушение конфиденциальности. Я точно не давала доступ к другим приложениям и не помню, чтобы меня об этом спрашивали», — написала сотрудница во внутреннем посте. Ее коллега ответил, что также столкнулся с нежелательными сообщениями от Muse, связанными со сторонними приложениями, и обнаружил, что ИИ-агент по умолчанию получает доступ к push-уведомлениям на телефонах с Android.

  • Сотрудники также сообщали о других сбоях: Muse информировала пользователей о несуществующих транзакциях, завышала цены на реально купленные товары (из-за чего пользователи теряли реальные деньги) и в одном случае без разрешения забронировала жилье на Airbnb без возможности отмены.

  • Еще в одном случае ИИ-агент неожиданно предложил «написать продавцу» по поводу кофейного столика, которым тот не интересовался. Когда сотрудник спросил Muse, о чем идет речь, агент ответил, что «получил какую-то информацию о самовывозе столика, который, похоже, вам не принадлежит». Сотрудник сделал вывод, что Muse подтянула контекст, относящийся к другому пользователю, и выразил обеспокоенность по поводу возможной утечки информации между аккаунтами.

  • Представитель команды Superintelligence, разрабатывающей Muse, в начале ноября сообщил в группе обратной связи, что агент, по всей видимости, выдумывает сообщения в ответ на встроенные подсказки взаимодействовать с пользователем между сессиями. «К сожалению, эти галлюцинации чаще всего затрагивают самые неприятные темы, такие как финансы/безопасность/защита, что ужасно», — отметил он.

Марк Цукерберг впервые за год продал акции Meta / Фото: Meta

Марк Цукерберг продал акции Meta на $21 млн на фоне ажиотажа вокруг ИИ-агента Muse

Как отреагировала Meta

Представитель Meta Дэниел Робертс назвал приведенные Reuters примеры «единичными случаями». Он заявил, что компания уделяет приоритетное внимание безопасности, проводит масштабное внутреннее тестирование и постоянно обновляет продукты для улучшения защиты.

По его словам, многие из спорных сообщений были «галлюцинациями» — то есть случаями, когда ИИ-модель выдумывает информацию, — и эта проблема уже устранена.

Reuters не удалось установить, предоставлял ли ИИ-агент Muse пользователям реальные чужие данные, например, о банковских балансах, или же просто выдумывал эти сведения.

Контекст 

Инциденты, связанные с Muse, демонстрируют риски, присущие новой категории потребительских ИИ-агентов, которые выходят на рынок и позиционируются как следующая большая волна развития технологий искусственного интеллекта, пишет Reuters. 

Amazon запрещает работу ботов на своей площадке, они не приносят прибыль за показ рекламы / Фото: Thaspol Sangsee / Shutterstock.com

Amazon заблокировал ИИ-агента Meta на своем маркетплейсе. В чем проблема?

Meta пока опережает конкурентов на этом рынке. Приложение Muse стало одним из самых быстрорастущих в истории: в первые сутки после запуска его скачали свыше 700 тыс. раз, а за первую неделю — около 900 тыс. Для сравнения, дебютная неделя ChatGPT для iOS в 2023 году принесла 500 тыс. загрузок. Приложение активно продвигается среди 3,6 млрд пользователей Facebook, Instagram и WhatsApp. Кроме того, у Muse высокий показатель удержания аудитории: как утверждает Meta, около четверти пользователей, создавших аккаунты в приложении, возвращаются к нему ежедневно.

Для эффективной работы ИИ-агентам необходим широкий доступ к смартфонам и компьютерам. Однако они также склонны допускать ошибки, использовать малоизвестные уязвимости и добиваться поставленных целей способами, которые порой могут причинить вред. Так, крупнейшие разработчики ИИ OpenAI и Anthropic сообщали о случаях, когда их ИИ-агенты неожиданно взламывали системы других компаний и самостоятельно ослабляли системы, предназначенные для контроля за их деятельностью. Некоторые банки, ретейлеры и другой бизнес отреагировали на эти риски, заблокировав доступ ИИ-агентов к своим системам. 

Поделиться

Главное

Поиск по акциям
Покупать
Продавать
‌
‌
‌
‌
‌
‌
‌
‌
‌
‌
‌
‌
‌
‌
‌
‌
‌
‌
‌
‌
‌
‌
Small Caps
Review
Новости финансов и инвестиций