Главное в блогах: куда движутся США, кризис оценки ИИ, кто предал Сэма Бэнкмана-Фрида

Философ и политолог Фрэнсис Фукуяма описал, на что становится похожа новая система госуправления США, ученый Андрей Карпаты написал о том, почему мы больше не можем доверять тестам ИИ-моделей, а бывший криптомиллиардер Сэм Бэнкман-Фрид рассказал о предательстве и жизни в тюрьме.    

Политическая система в США стремительно трансформируется, а устоявшиеся механизмы сдержек и противовесов уступают место новой модели власти, пишет в своем блоге американский философ и политолог Фрэнсис Фукуяма. 

Он сравнивает систему, которую выстраивает президент Дональд Трамп, с Францией до Великой французской революции XVIII века — государство было захвачено элитами, тесно связанными с правителем. «Во Франции монарх продавал права на сбор налогов и другие привилегии тем, кто предлагал наивысшую цену», – пишет политолог.

Современный авторитаризм отличается от тоталитарных режимов XX века, пишет Фукуяма. Если большевики, нацисты и маоисты оправдывали свою власть идеологией, то сегодня противники либеральной демократии, в первую очередь, рассматривают институты как препятствия на пути к личному обогащению.

Он называет Трампа авторитарным лидером. Однако оговаривается, что это понятие не совсем точно описывает мировое явление, частью которого является президент США. Штаты двигаются в сторону патримониального государства, считает Фукуяма. Он ссылается на немецкого социолога Макса Вебера, который ввел это понятие. В такой системе власть воспринимается как личная собственность правителя, а государственные ресурсы перераспределяются среди его приближенных. 

Фукуяма считает, что сейчас Штаты переживают процесс репатримонизации, то есть откат к патримониальному государству. Техномиллиардеры, такие как Марк Цукерберг и Джефф Безос, пришли на инаугурацию Трампа с миллионными пожертвованиями, рассчитывая на его благосклонность, перечисляет Фукуяма. Президент приостановил действие Закона о борьбе с коррупционными практиками за рубежом, а также уволил генеральных инспекторов из федеральных ведомств, чья задача — выявлять и предотвращать коррупционные схемы, продолжает Фукуяма. Эту должность учредил Конгресс после Уотергейтского скандала в начале 1970-х годов. «Пока Трамп вводит пошлины против многих стран мира, можно ожидать нового потока просителей, добивающихся исключений, которые будут обеспечиваться через личные выплаты на сторону», – написал Фукуяма.

Индустрия искусственного интеллекта столкнулась с кризисом оценки новых больших языковых моделей, вроде GPT-4.5. К такому выводу пришел Андрей Карпаты, ученый, бывший директор по развитию ИИ в Tesla и один из основателей OpenAI. 

Классические ИИ-модели оценить достаточно легко — для этого существуют специальные метрики, например, доля ошибок или доля правильных ответов. Чтобы определить, насколько качественно работает алгоритм отсеивания спам-сообщений, можно сравнить число корректно распознанных писем с общим числом входящих сообщений. С появлением новых генеративных моделей  оценивать качество стало сложнее — нужно предсказать, насколько сгенерированный текст или изображение совпадают с ожиданиями пользователя. 

Карпаты называет два теста, которые, по его мнению, больше не способны качественно оценивать большие языковые модели. Один из самых популярных — MMLU (Massive Multitask Language Understanding) — проверяет способность модели решать задачи на знание и понимание в 57 различных областях: математике, физике, экономике, политологии, истории и т.д.  Другой — SWE-Bench Verified — оценивает возможности модели находить ошибки в коде и предлагать исправления. 

MMLU был эффективен на моделях двухгодичной давности, но теперь не отражает реальное качество, пишет он. SWE-Bench Verified охватывает слишком узкий сегмент возможностей моделей. Если она успешно исправляет баги в коде, это не означает, что она хороша в генерации текста или ведении диалога, считает он.

Другой популярный способ оценки — Chatbot Arena, соревновательная платформа, где пользователи голосуют за лучший ответ в парных сравнениях моделей. Но и здесь есть проблема: разработчики начали переобучать модели под этот бенчмарк, анализируя, какие запросы дают лучшие результаты и используя закрытые оценки для оптимизации. Иногда они специально обучают модели на рейтингах из Chatbot Arena, чтобы «выигрывать».

«Как итог: не знаю, насколько хороши [новые] ИИ-модели», – пишет Карпаты. 

Американский телеведущий Такер Карлсон выложил в своем Youtube-канале интервью с Сэмом Бэнкманом-Фридом, основателем рухнувшей криптобиржи FTX. Бэнкман-Фрид поговорил с ним из нью-йоркской тюрьмы Metropolitan Detention Center, где он отбывает 25-летний срок по семи пунктам обвинения, в том числе мошенничестве и растрате клиентских средств. 

Бэнкмана-Фрида арестовали на Багамах в декабре 2022 года. Основанная им криптобиржа FTX в начале 2022 года оценивалась в $32 млрд, но в ноябре того же года обанкротилась. Тогда же стало известно о пропаже $8 млрд клиентских средств. Началом ее краха послужило расследование издания Coindesk, которое написало, что значительная часть активов связанной с биржей компании Alameda Research, которую также основал Бэнкман-Фрид, состоит из токенов, созданных FTX, а не из фиатных валют или другой криптовалюты. После публикации клиенты биржи начали забирать деньги. Позднее журналисты CNBC написали, что Alameda использовала деньги клиентов FTX для торговли на бирже. Все это стало одним из крупнейших случаев мошенничества в истории США.

Теперь Бэнкман-Фрид критикует прошлое демократическое правительство США и заявляет о поддержке республиканцев. По его словам, в 2020 году он финансировал кампанию Джо Байдена, надеясь на «взвешенное» управление страной. Однако уже в 2022-м начал тайно жертвовать деньги республиканцам — столько же, сколько перечислял демократам. «Это стало известно как раз перед крахом биржи, и, возможно, сыграло свою роль», – допускает бывший миллиардер. 

Бэнкман-Фрид утверждает, что, когда FTX начала рушиться, политики-демократы, которым он помогал, отвернулись от него: «Многие очень быстро обозначили свою позицию — они просто убежали как можно дальше. К тому моменту мои связи в Вашингтоне были, вероятно, даже лучше с республиканцами, чем с демократами. Но в конечном итоге это ничего не изменило».

«Сразу после краха я получил несколько теплых сообщений [с поддержкой], даже от людей в Вашингтоне. Но через шесть месяцев? Ничего. К моменту моего суда? Я оказался полностью брошен. Это (мое дело) стало политически токсичным», – вспоминает он.

После банкротства FTX у Бэнкмана-Фрида, по его словам, не осталось денег. Он считает, что криптобиржа могла избежать краха, если бы регуляторы не вмешались. «Сейчас бы у компании было около $15 млрд обязательств и $93 млрд активов. В то время было достаточно денег, чтобы расплатиться со всеми. Активы были “рассеяны” невероятно быстро теми, кто ими управлял. Это был колоссальный провал. И, честно говоря, не предотвратить это — самое большое сожаление в моей жизни», – сказал Бэнкман-Фрид.

После его отставки генеральным директором криптобиржи назначили Джона Рэя — юриста и специалиста по возврату денег из обанкротившихся компаний, известного работой по ликвидации Enron. Бэнкман-Фрид критиковал его действия, считая что он разрушает компанию, вместо того чтобы попытаться спасти активы и вернуть деньги клиентам. Сам Рэй говорил, что Бэнкман-Фрид делает ложные заявления, пытаясь минимизировать срок заключения за его «колоссальное мошенничество».

На вопрос, считает ли он себя самым крупным мошенником в криптовалютной отрасли, Бэнкман-Фрид ответил: «Я не думаю, что я был преступником. Министерство юстиции считает, что я был, но я не разделяю их точку зрения».

Также он рассказал о своей жизни в тюрьме. Среди его сокамерников — бывшие гангстеры и известные заключенные, включая рэпера P. Diddy (Шона Комбса), обвиняемого в торговле людьми, сексуализированном насилии и рэкете.

«Конечно, это место, в котором никто не хочет находиться [...] Если бы мне кто-то сказал три года назад, что я буду тусоваться с P. Diddy каждый день, я бы предположил, что он увлекся криптовалютой. Жизнь — странная штука», – сказал Бэнкман-Фрид.