Два страха Сэма Альтмана: неуправляемый ИИ и «добрые диктаторы»
Глава OpenAI опасается ситуации, при которой общество навсегда утратит контроль над принятием ключевых решений
Пока развитие ИИ еще не пережило так называемый «iPhone-момент», считает Альтман / Скриншот David Senra / Sam Altman on Building OpenAI & Betting on the Impossible / YouTube
Генеральный директор OpenAI Сэм Альтман считает, что ИИ будет менять экономику и жизнь гораздо медленнее, чем развиваются сами модели. Он не отрицает, что ошибся в оценке скорости распространения ИИ: технологии совершили гигантский рывок, но человеческие привычки оказались консервативнее. Повседневная работа за компьютером пока мало изменилась, а компании не спешат отдавать задачи алгоритмам. В подкасте Дэвида Сенры Альтман рассказал, почему считает эту паузу спасительной для мира, как нейросети могут запустить бум малого бизнеса и где проходит граница, за которой технологический прогресс превращается в диктатуру.
В ожидании «iPhone-момента»
ИИ развивается быстрее, чем бизнес успевает перестраиваться под новые возможности технологии, считает Сэм Альтман. После появления GPT-4 в 2023 году он ожидал, что рынок программного обеспечения начнет меняться гораздо быстрее. Однако экономическая инерция оказалась сильнее: люди продолжают пользоваться привычными инструментами и покупать продукты у тех же компаний.
«Я считаю, что во многих отношениях это на самом деле плюс, и благодаря этому предстоящий масштабный переход пройдет более плавно и медленно. Я этому даже рад. Но это означает, что мы все переоценили скорость изменений. Даже с такой невероятной технологией — а я считаю ИИ одной из самых поразительных технологий, когда-либо созданных человечеством, — общество и экономика будут адаптироваться медленнее».
Альтман признает, что и сам продолжает по инерции пользоваться компьютером так же, как последние 20 лет: вручную разбирает почту, переносит информацию между приложениями и ведет список дел, хотя ИИ-агент для работы с кодом Codex уже может выполнять значительную часть этих задач быстрее.
Альтман считает, что проблема не только в привычках пользователей: сами ИИ-продукты пока не обеспечивают понятного перехода от обычной работы за компьютером к передаче задач агенту. Люди одновременно пользуются привычными инструментами и Codex — и не всегда понимают, для каких задач подходит каждый из этих способов.
Альтман сравнивает нынешний этап развития ИИ со смартфонами начала 2000-х. Большая часть необходимых технологий существовала уже тогда, но не хватало продуктовых идей — и отдельных решений, вроде мультитача, — которые позже изменили сам способ взаимодействия человека со смартфоном.
«Мне кажется, мы сейчас живем в мире, где у нас есть все технологические составляющие, но у нас еще не произошел «момент iPhone» — когда полностью меняется то, как человек взаимодействует с технологиями».
Альтман не считает общественную инерцию недостатком. История технологических революций, включая промышленную, показывает, что быстрые изменения редко воспринимаются без сопротивления. По его мнению, этот скептицизм работает как естественный предохранитель: он замедляет реакцию общества в периоды потрясений и кратковременного ажиотажа, поэтому пытаться любой ценой ускорить принятие новых технологий не стоит.
«Думаю, это, вероятно, помогает обществу в периоды потрясений или во времена какого-то локального безумия. Так что отчасти это даже хорошо и, на мой взгляд, является особенностью человеческой биологии, с которой не стоит бороться слишком агрессивно».
При этом Альтман не считает, что общество будет просто следовать за развитием ИИ. Люди, по его мнению, должны получать опыт взаимодействия с ИИ, а разработчики — смотреть, какие проблемы возникают, и на этой основе менять модели и повышать их безопасность.
Бум микробизнеса и компаний «без алгоритмов»
Одним из экономических последствий распространения ИИ Альтман называет возможный резкий рост числа небольших компаний. По его словам, раньше запуск такого бизнеса часто требовал денег, удачи и доступа к ресурсам. ИИ, считает он, открывает гораздо больше возможностей для людей, которые хотят создавать собственные продукты и компании, и может привести к крупнейшему в истории буму малого предпринимательства.
Альтман ожидает, что ИИ заметно снизит барьеры для создания небольших компаний. До сих пор запуск бизнеса требовал значительных ресурсов, удачи и определенных привилегий; теперь, по его мнению, технология может сделать предпринимательство доступнее для гораздо большего числа людей. Он считает, что это способно привести к крупнейшему в истории буму малого бизнеса.
«Давать людям реальную возможность создавать что-то новое, продвигать то, во что они верят, иметь свободу открывать компании, изобретать технологии, развивать идеи — и вся та экосистема, которая делает это возможным, — нет ничего, во что я верил бы сильнее».
По словам Альтмана, потенциал ИИ для малого бизнеса пока реализован лишь частично: инструментов, которые действительно упрощают запуск новых компаний, еще недостаточно. При этом, говорит Альтман, OpenAI не стоит конкурировать с клиентами и поднимать под себя всю экономику. Ее роль — предоставлять доступ к своим ИИ-моделям через интерфейс API, чтобы бизнес мог создавать на их основе необходимые им сервисы. Альтман уверен, что OpenAI будут пользоваться 100 млн новых компаний.
ИИ, по мнению Альтмана, будет менять не только рынок труда и возможности для бизнеса, но и ценность того, что связано с человеческим общением. Многие профессии могут заметно измениться, однако все, что строится на личном контакте и отношениях между людьми, в мире с более развитым ИИ, считает он, станет ценнее.
По той же причине Альтман ожидает роста спроса на аутентичные, нетехнологичные впечатления — например, на спорт. По его мнению, по мере развития ИИ некоторым бизнесам, никак с ним не связанным, будет даже легче сохранять привлекательность для людей.
Два страха Сэма Альтмана
Альтман рассказал, что сама идея ИИ привлекла его еще в детстве — как технология, которая может радикально расширить человеческие возможности. Его завораживала перспектива создать инструмент, который позволит людям создавать новое и решать важные задачи.
Поэтому для Альтмана важно, чтобы развитие ИИ не приводило к потере человеческого контроля и концентрации власти. И сейчас его больше всего беспокоят два возможных сценария: ИИ станет настолько мощным, что люди не смогут им управлять, или развитие технологии приведет к чрезмерной концентрации власти у одной компании, одной модели или одного человека.
«Допустить любой из этих сценариев — это глубоко античеловеческая позиция. Правильный подход — заявить: мы хотим, чтобы люди полностью контролировали будущее. Мы хотим, чтобы у людей было больше силы и возможностей. Ведь люди — это вообще весь смысл происходящего. Мы не собираемся сидеть тут и постепенно отдавать контроль ИИ просто потому, что не доверяем людям или они нам не нравятся».
Альтман предупреждает, что безопасность ИИ может стать оправданием для концентрации власти: несколько компаний получат право решать, кому и на каких условиях доступна технология. В таком случае обществу, возможно достанутся преимущества ИИ — от лечения болезней до дешевых товаров, — но часть решений о будущем окажется сосредоточена в чужих руках.
«Я не хочу жить в мире, где маленькая группа людей или систем принимает решения за всех остальных. Вся эта риторика в духе: „Дорогие крестьяне, мы завещаем вам эти дары в виде лекарства от рака, материального благополучия, кое-каких благ и отличных развлечений, а вы перестаньте жаловаться, и мы сами будем принимать все решения насчет будущего, просто доверьтесь нам, мы будем благожелательными диктаторами“. Ничего хорошего в этом нет. Совсем ничего хорошего».
