Что мы говорим ИИ-апокалипсису? — Не сегодня. Исследователь ИИ — о реальности угрозы
Автор «Черного лебедя» Нассим Талеб прогнозирует череду корпоративных дефолтов в ИТ-сфере из-зз ИИ. Фото: Andrea De Santis / Unsplash.com
За последние несколько дней было опубликовано несколько алармистских постов и даже исследование о трагическом будущем человечества из-за развития искусственного интеллекта. Микаэл Горский — исследователь ИИ и лектор в HIT - Holon Institute of Technology, основатель сообщества AC/VC считает, что это больше говорит о человеческой реакции, нежели отражает реальность.
ИИ снова «все меняет»: что происходит на самом деле?
5 миллионов человек (больше, чем число советских людей, способных читать на английском) увидели твит Мэтта Шумера с нескучным названием «Происходит что-то большое» (Something Big Is Happening) и, возможно, прочли одноименный десятистраничный блог.
С одной стороны, конечно, завидно, но, с другой стороны, мне нелегко понять, что же так впечатлило читательскую массу. Все, что написал товарищ Шумер, сказано уже 100500 раз.
Например: Мэтт близко к сердцу воспринял выход Claude Opus 4.6 и GPT 5.3 Codex, и выделил жирным шрифтом бесхитростную мысль — I am no longer needed for the actual technical work of my job. Как говорят в таких случаях американцы, «Duh».
Отдельный абзац посвящен описанию того, как (действительно, магически) Claude Code пишет веб-приложение, а потом Claude extension for Chrome это приложение запускает, кликает на кнопочки, вводит данные в разные поля и таким образом тестирует. Про ошибки extension рассказывает Code и последний вносит требуемые изменения в код приложения.
Чудо? Безусловно. Стоит рассказать людям? Конечно же, только этому чуду уже месяца два. Полная ли это правда? О нет, есть важная деталь: перемещение по экрану и все действия занимают у extension десятки минут, вся эта магия требует ангельского терпения.
Стократ интересней и сногсшибательней было интервью одессита Бориса Черного (Boris Cherny) — автора и руководителя проекта Claude Code в Anthropic. Борис дал полуторачасовое интервью другому одесситу, тоже перевезенному в Штаты в детсадовском возрасте: Ленни Рачитскому (Lenny Rachitsky).
Дословные цитаты из этого интервью:
На мой взгляд, правильным будет такой подходом к работе с AI: посмотрите, что модель пытается сделать, и упростите ей эту задачу [...] Мы в Anthropic считаем, что наш продукт — это модель. Надо лишь дать ей проявить свои умения. Мы хотим дать ей для этого минимально необходимый набор инструментов, и пусть она сама решает, какие инструменты использовать, и в каком порядке.
Штатовское министерство обороны (сорри, министерство войны оно теперь) под начальством выдающегося полководца-телезвезды, как известно, в прошлом году закупило кучу токенов у всех основных игроков: OpenAI, xAI, Google, Anthropic.
Стандартная процедура закупки включает в себя специальное соглашение с поставщиками, которое отменяет любые ограничения, которые те устанавливают для пользователей. Если, например, в стандартном пользовательском соглашении OpenAI написано, что пользователь не может с помощью ChatGPT подготавливать нехорошие дела, то Минобороны/войны требует отказа от подобных ограничений.
По той или иной причине, ни Google ни OpenAI не пикнули (xAI, понятно, совсем не против снятия ограничений). А вот в Anthropic решили, что беспредельное дозволение пользования Claude невозможно, и потребовали включения двойной оговорки - Claude не будет использован в проектах массового наблюдения (surveillance) и в системах, которые автономно принимают решения об атаке на людей.
Конечно же, разбушевался скандал. Сейчас Anthropic грозят не только отменой $200 миллионного контракта (на фоне $10 миллиардной выручки эту неприятность можно пережить), но и включением в реестр неблагонадежных поставщиков, где компания будет соседствовать с Huawei и Kaspersky Lab.
На прошлой неделе в Индии случился India AI Impact Summit. На мероприятии почему-то присутствовал практически весь мировой «AI генералитет», начиная с Сэма Альтмана и Дарио Амодей, Демиса Хассабиса и его начальника (?) Сундара Пичаи, а также гендиректор французского Mistral AI Артур Менш.
Два прекрасных момента с мероприятия:
(1) Сэм Альтман мимоходом обидел Илона Маска, объявив идею дата-центров в космосе «дикой» и расшифровав свой комментарий так: затраты на отправку в космос требуемых компонентов превысят возможную экономию на производстве энергии, а любая поломка GPU приведет к дальнейшим тратам на доставку замены с Земли;
(2) индийский премьер-министр Нарендра Моди, известный любовью держаться за ручки, построил AI боссов в детсадовскую хоровод-линейку. И все послушались, кроме Сэма и Дарио, для которых это трогательное рукопожатие оказалось невозможным.