Morgan Stanley предупредил о риске ИИ, который не учитывают рынки

Morgan Stanley считает, что рынки игнорируют потенциальный ущерб от выхода продвинутых ИИ-моделей из-под контроля / Фото: Tang Yan Song / Shutterstock.com
Рынки не вполне учитывают риск того, что продвинутая генеративная модель искусственного интеллекта выйдет из-под контроля и нанесет ущерб глобальной экономике, предупредил в интервью Bloomberg глава глобальной макростратегии Morgan Stanley Мэтью Хорнбах. «Самый недооцененный риск — это что какая-то передовая ИИ-модель где-то в мире вырвется из той «песочницы», в которой она находится, и каким-то образом нанесет ущерб части мировой экономики», — сказал он.
Хорнбах отметил, что пока большинство моделей находятся в изолированных «песочницах», но на рынке уже есть решения с открытыми кодами, работающие без подобных жестких ограничений. «Готовы ли люди к тому, что невозможно предсказать? В целом — нет», — считает стратег.
Контекст
Предупреждение прозвучало на фоне растущей обеспокоенности из-за ИИ-инструментов, которые все чаще испытывают на прочность существующие системы контроля, отмечает Bloomberg. В июле OpenAI сообщил, что его продвинутые модели непреднамеренно взломали платформу Hugging Face во время внутреннего тестирования. Компания назвала инцидент «беспрецедентным», что спровоцировало новые призывы к регулированию технологии. Позже в OpenAI заявили, что значительно усилили меры защиты.
Опасения разделяют и другие крупные игроки. Anthropic, создатель чат-бота Claude, в своем проспекте к IPO указал среди возможных негативных сценариев «катастрофические или экзистенциальные риски для человечества».
Гендиректор UBS Серхио Эрмотти в этом месяце назвал рост киберугроз «ценой, которую приходится платить за инновации и цифровизацию». Глава JPMorgan Джейми Даймон предупредил, что не будет без разбора пускать в свою инфраструктуру сторонних ИИ-агентов, назвав это «слишком рискованным» для клиентов и самого банка.
При этом страхи не мешают инвесторам зарабатывать на технологическом буме, добавляет Bloomberg. Тот же Morgan Stanley прогнозирует, что рекордные расходы на ИИ сделают 2027 год временем, когда стоит «идти на риск». Аналитики рекомендуют держать в портфелях максимально возможную долю глобальных акций и ожидают, что производители ИИ-чипов останутся главными бенефициарами цикла, который обеспечит устойчивый экономический рост.










