Миф замены: почему ИИ только усложняет работу мировых правительств

Повсеместное внедрение ИИ заставляет вспомнить о так называемом законе перегруженных систем, и автоматизация труда не всегда означает освобождение от него - в некоторых случаях работы у человека прибавляется. Сами Махрум основатель и гендиректор компании Spark X, в материале для Project Syndicate объяснил, почему государственные структуры не столько тормозят прогресс, сколько банально отстают от него.

Тексты, сгенерированные искусственным интеллектом (ИИ), заполонили все, с тех пор, как в 2022 году появился ChatGPT. Однако государственные и общественные  с трудом поспевают за этими новациями. И нигде эта проблема не ощущается так же остро, как в судах. В США доля федеральных исков, поданных без участия адвоката, выросла со среднего уровня 11% в 2005–2022 годах до 16,8% в 2025 году. Исследователи связывают этот скачок с появлением ИИ и отмечают, что доля федеральных гражданских исков с машинными текстами увеличилась с 1% в 2023 году до 18% сегодня.

В июле Счетная палата США предупредила, что Налоговое управление
страны (IRS) может утонуть в сгенерированных ИИ общественных комментариях к налоговым документам. Как отмечает Палата, большие языковые модели способны генерировать практически неограниченное число вариаций одного и того же текста, поэтому идентичные комментарии становится труднее обнаружить.

Спонсоры научных исследований тоже завалены потоком текстов. Число заявок на гранты у 12 финансирующих организаций в Великобритании и Европе
выросло на 57% с 2022 года, благодаря резкому росту прошений, подготовленных с помощью ИИ.

В ответ на вал сгенерированных ИИ текстов правительства начали автоматизировать собственные рабочие процессы. Проведенный ОЭСР опрос 58 национальных налоговых ведомств показал, что в 2023 году 69% из них использовали ИИ – огромный рост по сравнению с 9% в 2016 году. Вместе
с возможностями ИИ расширяются и сферы его применения: налоговые органы теперь используют эту технологию для аналитической работы, сортировки процессов, улучшения обслуживания налогоплательщиков, ведения переписки и автоматизации объемных и нудных задач.

Однако всякое увеличение мощности ведет к росту спроса. Государственное ведомство, способное отныне обработать в два раза больше публичных комментариев, может вскоре столкнуться с тем, что и число этих комментариев удвоится. Специалист по безопасности Дэвид Вудс называет это «законом перегруженных систем»: когда система достигла пределов мощности, каждое улучшение быстро используется для расширения масштабов ее работы. Вудс сравнивает эту концепцию с явлением, которое он назвал «мифом замены»: автоматизация якобы просто заменяет труд человека, но на практике она меняет саму природу труда, объемы которого нередко возрастают.

Но невозможно с такой же легкостью масштабно увеличивать человеческий
контроль. Закон Евросоюза «Об искусственном
интеллекте» требует, чтобы системы с высоким уровнем риска разрабатывались
так, чтобы «физические лица» могли их эффективно контролировать. Закон ЕС о
защите данных также дает физлицам право не подчиняться решениям, основанным исключительно на автоматизированной обработке данных.

Компании и организации не могут выполнить эти требования, просто затолкав человека в конец цепочки. В 2023 году в решении по делу SCHUFA, касавшегося автоматизированных кредитных рейтингов, Европейский суд постановил, что важно, зависело ли финальное решение от автоматизированной оценки, даже если формально у людей сохранялись полномочия принимать решения. Подпись, которая всего лишь ратифицирует автоматизированное решение, не равнозначна реальному контролю.

А теперь представьте, что две эти силы встретились на узкой улочке. Все предварительные этапы работы – поиск, сортировка, подготовка черновика, проверка, перенаправления – ускоряются, а скорость работы контролирующего субъекта – нет. Бесконечный поток сгенерированного ИИ контента повышает спрос на человеческое суждение, однако скорость, с которой человек способен принимать решения, остается прежней.

Новое исследование в инженерной сфере хорошо иллюстрирует проблему. Моделируя процесс лицензирования ядерных реакторов, его авторы
сравнили нынешний ручной процесс с двумя автоматизированными альтернативами. Выяснилось, что прогнозируемые сроки лицензирования даже с наиболее продвинутыми автоматизированными системами (примерно 15 месяцев) не изменились, хотя оценках предполагаемых возможностей ИИ улучшилась – с консервативной до оптимистичной. Узким местом оказалась
очередь у старших контролеров, ответственных за финальное одобрение наиболее сложных процессов – они в состоянии завершить лишь около трех процессов в день. Иными словами, даже если увеличить потенциал машин вдвое, это почти не ускоряет сам процесс экспертизы.

Сегодня правительства используют ИИ для поиска документов, составления резюме дел, сортировки комментариев, подготовки черновиков писем. Это естественные задачи для ИИ, поскольку их автоматизация обходится без того, чтоб делегировать принятия важных решений. Но когда сами мощности
принятия данных решения растут иными темпами, автоматизация просто сдвигает узкое место, а не устраняет его, причем потенциально она может даже ухудшить положение.

Альтернативой должно быть не делегирование машинам решений
(в некоторых случаях это прямо запрещено законом, да и в целом выглядит
неразумно), а их использование для снижения когнитивной нагрузки при принятии таковых решений, в то время как само суждение должно оставаться за человеком.

Здесь может пригодиться разработанная британским психологом Аланом Баддели модель рабочей памяти. Некоторые части нашей рабочей памяти
хранят и обрабатывают вербальную и визуальную информацию, а другая часть,
которую Баддели называет «центральным менеджером», направляет и распределяет наше ограниченное внимание. ИИ уже умеет читать, организовывать, сравнивать и представлять информацию, однако решать, что именно заслуживает внимания, и выносить суждение - это пока еще право исключительно людское. 

Поэтому целью внедрения ИИ должно стать облегчение принятия решений чиновниками - нужно создать инструменты, которые выявляют варианты выбора и неопределенности, объективно представляют контраргументы и вдобавок признают собственную ограниченность. Увы, создать такую систему сложнее, чем инструмент для составления кратких резюме больших текстов. Кроме того, сама идея подобной системы не столь впечатляет, ведь выхлоп от нее будет больше похож на квалифицированные справки, а никак не на оправдание ликвидации целых департаментов.

Это не новая проблема. В 1983 году когнитивный психолог Лизанна Бейнбридж предупреждала об «иронии автоматизации»: машины забирают себя самые простые задачи, а людям остаются самые сложные. Хотя Бейнбридж писала о системах управления промышленными процессами, та же логика применима и к ИИ. Государственные ведомства измеряют количество обработанных заявок и выполненных дел, время реагирования, а теперь еще и число автоматизированных задач. Однако они не измеряют, насколько больше работы приходится выполнять лицам, принимающим решения.

Чем больше работы смогут выполнять ИИ-модели, тем больше решений придется принимать людям. Если правительства не учтут этот дисбаланс, то вскоре обнаружат, что автоматизировали вроде бы абсолютно все, а толку чуть.

Copyright: Project Syndicate, 2026.
www.project-syndicate.org