Реальная угроза ИИ: утратят ли люди способность к учебе и экспериментам

Одна из основных угроз искусственного интеллекта заключается в том, что он может подорвать способность людей самостоятельно учиться и делиться знаниями. Что нужно сделать, чтобы этого избежать, рассуждает в колонке для Project Syndicate лауреат Нобелевской премии по экономике 2024 года и профессор экономики Массачусетского технологического института Дарон Аджемоглу. 

Мне посчастливилось принять участие в недавнем международном саммите по искусственному интеллекту в Париже, на котором многие подчеркивали необходимость направить развитие ИИ в более социально полезное русло. В эпоху, когда требования к ускорению развития ИИ из Кремниевой долины, а теперь и со стороны правительства США, становятся все громче, возможность сосредоточиться на том, чего мы действительно хотим от этой технологии, была как глоток свежего воздуха.

Как я отметил в одной из своих речей, мы должны начать с вопроса, что является ценным и достойным развития в человеческих обществах. Что делает нас такими особенными или, по крайней мере, успешными с эволюционной точки зрения – это наша способность разрабатывать решения для проблем различного масштаба, пробовать новое и находить смысл в этих усилиях. Мы обладаем способностью не только создавать знания, но и делиться ими. Хотя путь человечества не всегда был гладким, а наши возможности, технологии и знания порой приводят к серьезным негативным последствиям, постоянный поиск и щедрый обмен информацией являются основой того, кто мы есть.

На протяжении более 200 000 лет технологии играют центральную роль в нашей истории. От эпохи каменных орудий до наших дней мы создавали решения для наших проблем. От устной передачи историй и изобретения письменности до печатного станка и интернета мы разрабатывали новые и лучшие способы передачи знаний. За последние 200 лет мы научились более эффективно и свободно проводить эксперименты, а также передавать полученные знания. Научный прогресс дал нам установленные факты, позволяющие каждому новому поколению отталкиваться от достижений своих предшественников.

Он также стал основой впечатляющего экономического роста большинства стран за последние два столетия. Хотя экономическое развитие породило огромное неравенство между странами и внутри них, сегодня люди почти везде здоровее и благополучнее, чем они были бы в 18 веке. ИИ может усилить эту тенденцию, дополняя человеческие навыки, таланты и знания, совершенствуя наше принятие решений, проведение экспериментов и применение полезных знаний.

Некоторые могут задаться вопросом, нужен ли нам для этой цели ИИ. В конце концов, мы уже живем в эпоху информационного изобилия. Все, что мы захотим (а также многое, чего не хотим), технически доступно через интернет. Но полезная информация встречается редко. Удачи вам в поиске того, что нужно для решения конкретной задачи в определенном контексте, да еще и вовремя.

Именно практические знания, а не простая информация, делают заводских рабочих более продуктивными, позволяют электрикам осваивать новое оборудование и выполнять более сложные задачи, помогают медсестрам принимать все более важные решения в области здравоохранения и, в целом, дают возможность работникам с любыми навыками и опытом занимать новые и более полезные должности. 

Если ИИ будет правильно разработан и использован, он на самом деле может сделать нас лучше, не просто играя роль «велосипеда для ума» (так сооснователь Apple Стив Джобс говорил о компьютерах – прим. ред.), а действительно расширяя нашу способность мыслить и действовать с большей осознанностью, делать нас более независимыми от принуждения или манипуляций. 

Однако благодаря своему огромному потенциалу ИИ также представляет одну из самых серьезных угроз, с которыми когда-либо сталкивалось человечество. Риск заключается не только (а, возможно, даже не в первую очередь) в том, что когда-нибудь сверхразумные машины будут управлять нами. Он в том, что ИИ подорвет нашу способность учиться, экспериментировать, делиться знаниями и находить смысл в наших поступках. 

ИИ может значительно ослабить нас, если он будет постоянно устранять рабочие места и задачи, чрезмерно концентрировать информацию и поощрять отказ людей от поиска и практического обучения, давая возможность нескольким компаниям править нашими жизнями и создавая двухуровневое общество с огромным неравенством и разницей в статусах. Он может даже разрушить демократию и человеческую цивилизацию, какой мы ее знаем.

Я опасаюсь, что мы движемся в этом направлении. Но ничто не предопределено. Мы можем разработать лучшие способы управления обществом и выбрать такое направление в сфере технологий, которое способствовало бы накоплению знаний и максимальному процветанию человечества. Мы также можем добиться того, чтобы ИИ создавал больше хороших рабочих мест и расширял возможности для всех, независимо от уровня образования и дохода.

Но прежде всего общество должно осознать, что этот желательный путь технически осуществим. ИИ пойдет на пользу человечеству, только если технологи, инженеры и руководители будут работать в тесном сотрудничестве с демократическими институтами, а также если разработчики в США, Европе и Китае будут прислушиваться к мнению 5 млрд людей, живущих в других частях мира. Мы отчаянно нуждаемся в более продуманной экспертизе от специалистов и вдохновляющем лидерстве от политиков, которые должны сосредоточиться на стимулировании полезного для человечества ИИ с помощью регулирования.

Но одного этого может оказаться недостаточно. Остается надеяться, что европейские компании и исследователи в области ИИ смогут показать, что у них есть модели, отличные от тех, что развиваются в Кремниевой долине. Для достижения этого европейское общество должно поощрять более социально полезное направление развития ИИ. А европейские лидеры должны инвестировать в необходимую цифровую инфраструктуру, разрабатывать такие нормы регулирования, которые не отпугивают инвестиции или не отталкивают талантливых исследователей ИИ, и создавать финансовые механизмы, которые необходимы успешным стартапам для масштабирования. Без собственной крепкой индустрии Европа будет иметь мало или вовсе не иметь влияния на глобальное направление развития ИИ.

Copyright: Project Syndicate, 2025. 

www.project-syndicate.org