OpenAI привлек лауреата главной математической премии. Он займется безопасностью ИИ

OpenAI усилил команду, пригласив в нее обладателя Медали Филдса — самой престижной награды в математике — выходца из России Джейкоба Циммермана. Он займется безопасностью искусственного интеллекта, написал The Wall Street Journal. 

Лауреат самой престижной математической премии Джейкоб Циммерман возьмет академический отпуск в Торонтском университете, чтобы стать исследователем в OpenAI, не бросая при этом математику. Он намерен использовать формальный язык и методы верификации из своей дисциплины  — оценивать прогресс ИИ, постигать логику его решений и гарантировать, что он не приведет к вымиранию человечества, рассказал математик WSJ. 

«Через несколько лет системы искусственного интеллекта станут уверенно превосходить человека в решении математических задач. Какие социальные последствия это повлечет, как мы будем на это реагировать, что вы чувствуете по этому поводу — это гораздо более сложные вопросы», — объяснил Циммерман.

Ученый, у которого есть степень доктора философии, сосредоточится на вопросах, требующих глубокого осмысления: как понять, чем на самом деле занимаются системы ИИ, как добиться их взаимодействия друг с другом и с людьми, каким образом математически доказать, что они не вынашивают планов по уничтожению человечества. 

Математики давно применяют свои методы для анализа поведения людей. Теперь Циммерман задействует их для расшифровки действий машин, пишет WSJ. 

Циммерману 38 лет, он родился в Казани, в семье специалиста по вычислительной технике и учительницы математики. В детстве он переехал в Израиль и вырос в Канаде, где, еще будучи школьником, завоевал две золотые медали на Международной математической олимпиаде. Затем Циммерман досрочно поступил в Торонтский университет и окончил его за два года. Получил степень доктора философии в Принстоне, преподавал в Гарварде и вернулся в свою альма-матер в качестве самого молодого профессора математики за всю ее историю.

23 июля он получил Медаль Филдса. 

Большую часть своей карьеры ученый скептически относился к искусственному интеллекту. Он написал научную работу, классифицирующую способы, которыми ИИ может уничтожить человечество, применив строгий математический подход к хаосу конца света, рассказывает издание. 

Циммерман всегда знал, что ИИ станет мощнее, но долгое время «искренне не допускал, что они достигнут такой силы», отметил он. Ему казалось особенно сложным поверить в то, что ИИ способен воспроизводить присущие человеку качества, такие как интуиция и творческое начало, пишет WSJ. За последнее десятилетие произошло несколько событий, заставивших его пересмотреть это мнение. Окончательно он изменил свою позицию в 2022 году, как только поработал с ChatGPT, передает газета.

Прошлым летом математик опубликовал научную работу под названием «Таксономия всеуничтожающих сценариев будущего с участием искусственного интеллекта». «Нас уничтожат как вредителей интеллектуально и физически превосходящие машины», — пишет он.

Модели ИИ сегодня способны делать многое из того, что когда-то казалось невозможным, — например, вырываться из изолированных сред и проникать в инфраструктуру других компаний, напоминает WSJ. В июле ИИ-агенты OpenAI и Anthropic вышли из-под контроля и взломали реальные системы нескольких организаций. Математики-теоретики должны сыграть свою роль в укрощении самой могущественной и рискованной технологии нашего времени, резюмирует издание.