«Сдвиг, который никто не способен увидеть»: исследователь ИИ нашел угрозу для рынков

Искусственный интеллект вступает в новую эру с активным развитием ИИ-агентов, из-за чего инвесторы уже начали переосмысливать традиционные модели бизнеса — с участием людей. 

Гендиректор Microsoft Сатья Наделла утверждает, что развитие искусственного интеллекта и вовсе «переворачивает привычные представления» об устройстве процессов внутри компаний: как они дальше будут развиваться, накапливать интеллектуальный капитал и добиваться успеха, если ИИ-модели будут непрерывно «впитывать» экспертизу людей и бизнеса, превращая ее в общедоступный товар. A один из крупнейших ИИ-разработчиков — Anthropic — предупредил, что в будущем модели будут способны совершенствоваться без участия человека, и призвал замедлить развитие искусственного интеллекта и получить больше времени на то, чтобы разобраться с последствиями развития технологии. 

Что, если люди станут больше полагаться на ИИ и разучатся принимать самостоятельные решения? А если это коснется инвесторов? Тогда рынки станут более хрупкими, рассуждает Джон Носта, который занимается исследованиями ИИ и цифрового здоровья. Он — основатель и президент технологической исследовательской лаборатории NostaLab и член консультативного совета Google Health. По мнению Носты, использование ИИ может нести фундаментальные угрозы для инвесторов.

Главное из интервью с ним — в материале Oninvest.

Когнитивные искажения — это ошибки, возникающие внутри процесса мышления. Когда инвестор опирается на эвристику (упрощенную стратегию принятия решения в условиях неопределенности — прим. ред.), он может столкнуться с искажениями, но оставаться автором решения. Когнитивная капитуляция — это отказ от самого процесса мышления или принятия решения. Агентность человека переносится вовне. 

Способность рассуждать в условиях неопределенности, переносить незнание, ошибаться и пересобирать свои выводы — это нечто близкое к самой сути того, что значит быть человеком. Когда мы систематически передаем это вовне, мы не просто начинаем принимать более слабые решения. Мы отказываемся от фундаментального свойства, связанного с человеческим достоинством.

Когнитивная капитуляция предшествует выученной беспомощности: ты понемногу, иногда даже с удовольствием, передаешь мышление «на аутсорс», а уже потом обнаруживаешь, что твоя собственная способность продумать ослабла или атрофировалась. Возникающая потом выученная беспомощность не переживается как поражение — она воспринимается как эффективность. Именно поэтому ее так трудно распознать.

Думаю, я не преувеличиваю, когда говорю, что это связано с темой прав человека. Дискурс о них всегда опирался на то, что делает человека человеком — на автономию, самоопределение. Системы ИИ, которые берут на себя эти функции, меняют не только то, как мы инвестируем. Они меняют то, кем мы являемся в процессе этого.

Финансовые рынки и без того сложная среда для человеческого мышления, полная неопределенности и эмоций. ИИ пришел с предложением его снять. Но в этом заключается его ловушка. 

Облегчение от того, что решение принято (искусственным интеллектом — прим. ред.), — это не инсайт и не озарение. Но оно ощущается именно так, особенно когда ИИ-модель показывает хорошие результаты.

Рынки — особенно показательная среда, неопределенность здесь — это не сбой, а базовое условие. И, возможно, это самый интересный и одновременно тревожный аспект.

На индивидуальном уровне когнитивная капитуляция может выглядеть как разумный обмен: вы получаете мощную «эмоциональную триаду» бонусов — меньшую нагрузку, более высокую эффективность, более низкий уровень тревожности. Но если агрегировать достаточное количество таких индивидуальных «рациональностей», на уровне системы происходит сдвиг, который ни один участник не предполагал создать и не способен увидеть.

Когда все делегируют решения схожим ИИ-моделям, консенсус формируется не через сопоставление конкурирующих человеческих суждений, а в технологии. Разнообразие, благодаря которому рынки обладают способностью к самокоррекции, может быть просто устранено инженерным путем. 

В этом, возможно, и заключается фундаментальная и трагическая фаустовская сделка. На рынках возникает хрупкость, и она накапливается. Это предупреждение, к которому стоит прислушаться.

Каждый инвестор говорит о том, как он обжигался на рынке, и этот опыт со временем превращается в интуицию. Ключевой момент — ее невозможно передать математической модели, потому что она не несет в себе память о том, какой ценой все уроки были выучены. И «цена» здесь — очень показательная и полезная оптика.

Если инвесторы систематически перестают тренировать когнитивные «мышцы», рынок не становится более рациональным или эффективным. Выбросы и аномалии на рынке, которые опытный трейдер мог бы уловить интуитивно, становятся невидимыми. 

Когда оценка риска у всех строится на похожих моделях, обрабатывающих похожие сигналы, вы не получаете масштабируемую мудрость человека. Вы получаете нечто потенциально очень опасное — синхронизированную «слепоту».