«Если ты номер два, ты не останавливаешься». Почему Китай против замедления гонки ИИ

Между китайскими чиновниками и американскими ИИ-гигантами разразился заочный спор: Пекин раскритиковал призывы ведущих технологических компаний притормозить развитие искусственного интеллекта. Примечательно, что это происходит всего за несколько дней до саммита Дональда Трампа и Си Цзиньпина, который запланирован на 24 сентября, пишет Bloomberg. Управление искусственным интеллектом должно стать одной из тем повестки. 

«Нагнетание страха, конфронтация и злонамеренная конкуренция лишь нарушат процесс глобального управления ИИ и не послужат ничьим интересам», — сказал официальный представитель МИД Китая Го Цзякунь на регулярном брифинге 14 сентября. «Развитие искусственного интеллекта касается общего благополучия всего человечества», — добавил он, отвечая на вопрос о призывах замедлить развитие передовых моделей, поскольку системы безопасности за ними не успевают. Эту дискуссию начал на минувших выходных сооснователь Anthropic Дарио Амодеи и подхватил его коллега из OpenAI Сэм Альтман.

Одновременно Амодеи предупредил: если американские разработчики сбавят темпы, а китайские — вырвутся вперед, это создаст угрозу безопасности США и всего мира. Таким образом, любые попытки компаний из США замедлить развитие ИИ будут ограничены тем отрывом, который они сохраняют от КНР, считает глава Anthropic. Он также выступил за дальнейшее ужесточение доступа Китая к передовым чипам и жесткую борьбу с дистилляцией — использованием результатов работы ведущих моделей для обучения конкурирующих систем. 

Президент США Дональд Трамп при этом выступил против замедления. По его словам, США лидируют в сфере ИИ и должны сохранить преимущество над Китаем, поскольку «кто победит в ИИ, тот победит».

Примечательно, что критика Пекина прозвучала на фоне того, как сами китайские чиновники усиливают предупреждения об искусственном интеллекте, обращает внимание Bloomberg. Министр государственной безопасности КНР Чэнь Исинь заявил 13 сентября, что неправомерное использование ИИ противниками может угрожать политической и идеологической безопасности страны, а также критически важной инфраструктуре. А регулятор киберпространства в понедельник опубликовал обновленную концепцию управления безопасностью ИИ, призванную учитывать новые риски по мере развития технологии.

«Пекин рассматривает ИИ как уникальную возможность изменить технологический баланс сил в отношениях с Вашингтоном и вряд ли добровольно сбавит темп, — заявил партнер консалтинговой компании The Asia Group Джордж Чен. — Если ты номер два, ты не останавливаешься на втором месте».

Градус полемики говорит о том, что даже общие опасения по поводу кибератак, дезинформации и возможной потери контроля над передовыми ИИ-системами могут оказаться недостаточными для достижения согласия на переговорах Трампа и Си, полагает Bloomberg. Руководители технологических компаний США и чиновники КНР согласны, что все более мощные модели требуют надзора, однако они резко расходятся в том, как следует определять риски и кто должен устанавливать правила.

«Граница между „безопасностью ИИ“ и „конкуренцией в сфере ИИ“ становится все более размытой. Если каждый вопрос будет рассматриваться через призму стратегической конкуренции, содержательный диалог будет затруднен», — сказал агентству научный сотрудник Центра международной безопасности и стратегии Университета Цинхуа Сунь Чэнхао. Пекин опасается, что Вашингтон может использовать соображения безопасности как обоснование для введения более широких ограничений, заявил аналитик.