«Я не пессимист»: Сэм Альтман о «белых воротничках», ИИ-автократии и гегемонии Китая

Рабочие места не исчезнут полностью из-за развития технологий, заявил сооснователь OpenAI Сэм Альтман в ходе интервью The Indian Express на полях AI Impact Summit. Oninvest собрал его заявления о том, как ИИ повлияет на рынок труда, представляет ли суперинтеллект угрозу для человечества и возможно ли, что китайские человекоподобные роботы захватят США.  

До искусственного суперинтеллекта (ASI) осталось несколько лет. С учетом того, как ИИ ускоряет нас самих, я думаю, сверхинтеллект уже не за горами. А универсальный ИИ (AGI) кажется совсем близким. 

Год назад ИИ решал математические задачи на уровне средней школы, и люди изумлялись таким способностям «одиннадцатиклассника». Прошлым летом он уже достойно выступал на сложнейших мировых олимпиадах. На прошлой неделе в проекте First Proof наша модель правильно решила семь из десяти новых исследовательских задач, ответов на которые раньше не существовало. Всего за год ИИ прошел путь от школьных успехов до способности совершать открытия на академическом уровне. Это поразительный скачок: мы перешли от возможностей способного школьника к расширению самих границ человеческого познания.

Бессмысленно отрицать масштаб перемен: из-за инерции общества они займут время, но будут колоссальными. Как и при любом прогрессе, мы найдем новые занятия. Я не пессимист — работы будет много. Предыдущие революции тоже вызывали панику, но неизменно создавали рабочие места. Идея о том, что мы все уйдем в бессрочный отпуск, никогда не подтверждалась.

Многие профессии в их нынешнем виде исчезнут, но люди адаптируются и найдут новые занятия. Тот способ написания кода, которому учился я, фактически утратил актуальность. Это не значит, что работа для нас исчезнет, но с ручным написанием кода на C++ покончено. Так будет во многих сферах: старые форматы уступят место чему-то новому. Но такие навыки, как владение ИИ, стойкость, адаптивность, умение понимать, чего хотят люди, как быть им полезным, умение работать в команде, будут актуальны всегда. 

И человек все-таки останется важным. Мне недавно пришлось лечь в больницу, где за мной ухаживала медсестра. Если бы это делал робот, я был бы очень недоволен, каким бы умным он ни был.

ИТ-индустрия начиналась с крайне либертарианских позиций: «Нам не нужно правительство, а правительству не нужны мы». Но сейчас я думаю, что для развития инфраструктуры важно участие государства. Учитывая, что нужно демократизировать эту технологию, правительствам придется участвовать, а таким компаниям, как наша, придется сотрудничать с ними. 

В мире не должно быть одного суперинтеллекта. Ни один человек, компания или страна, включая США, не должны единолично им распоряжаться. Мир функционирует лучше всего при широком распределении власти и балансе сил, позволяющем нам контролировать друг друга. В такой среде люди со временем выберут лучшие идеи, и они станут доминирующими. Нельзя допускать, чтобы миром управлял единственный ИИ, в чьих бы руках он ни находился.

Можно представить мир, где ИИ колоссально концентрирует власть, а одна компания или страна использует технологию для накопления влияния и богатства. Можно представить суперинтеллект у каждого, никаких правил и хаос. Между этими точками много вариантов. Лично я считаю, что более демократизированная версия — это хорошо. Нам понадобятся регулирование и защитные барьеры, но я верю, что передать эту технологию в руки множества людей возможно. Это приведет к децентрализации экономической мощи.

Думаю, что пока нет страны, которая в целом находится на правильном пути регулирования ИИ. Разные страны пробуют разные подходы, и в этом — преимущество мира, в котором много суверенных государств. В ближайшие годы мы будем наблюдать за самыми разными стратегиями и увидим, что работает, а что нет. Я верю, что мир довольно быстро масштабирует лучший опыт. 

Китай сильно впереди в одних областях и совсем нет — в других. Звучит банально, согласен. Они лидеры в производстве роботов благодаря преимуществу в электродвигателях и магнитах. Также они впереди в развертывании энергетики. Но есть сферы, где впереди мы. Трудно лидировать или отставать по всем фронтам сразу. Разве что вы обладаете единственным суперинтеллектом в мире — тогда это возможно.

[Чем пугает доминирование Китая? Есть] воображаемый страх — что китайские военные пришлют миллиард человекоподобных роботов, которые маршем пройдут по улицам и сокрушат армию США. Настоящий же страх — это война нового типа, которая ведется в интернете через влияние на людей, через взлом критической инфраструктуры. Это кажется абсолютно возможным.

[Почему я решил не брать себе долю в OpenAI?] Мы были некоммерческой организацией, и по правилам, чтобы быть в совете директоров, нужно было быть «незаинтересованным лицом». К тому моменту я уже был удачлив в карьере и думал: «Да мне все равно». Это было одно из самых глупых решений в моей жизни, а я их принимал немало.  

Думаю, я бы никогда не спросил его, как быть счастливым. Для этого я лучше обращусь к мудрому человеку. Философию жизни от ChatGPT я принимать не готов.