ИИ может привести к пандемии хуже Covid-19 — Билл Гейтс

Искусственный интеллект может привести к пандемии, гораздо более опасной, чем Covid-19, заявил сооснователь Microsoft Билл Гейтс, выступая 4 ноября на Future of AI Summit, организованном Financial Times. 

По словам Гейтса, возможности современных ИИ-моделей таковы, что «потенциал как пользы, так и вреда невозможно переоценить». Наибольшую непосредственную опасность он видит в том, что злоумышленники применят ИИ для создания биооружия или кибератак на цифровую инфраструктуру. Риск выше из-за того, что из некоторых общедоступных открытых моделей можно удалить встроенные защитные механизмы и системы мониторинга. Масштаб ущерба от биологического инцидента с участием ИИ может оказаться «значительно хуже» пандемии коронавируса, с которой связывают около 15 млн смертей в 2020–2021 годах, подчеркнул Гейтс.

Гейтс считает, что саморегулирование ИИ-отрасли не сработает. «Как только в дело вступают несколько компаний, единственный способ решить проблему — поднять ее на уровень государства», — сказал миллиардер. Однако международные усилия по регулированию ИИ, по его мнению, тормозит бездействие Белого дома. 

«Нет особого смысла действовать, если в этом не участвуют США. Так что мы, в некотором роде, зашли в тупик… Единственный вопрос — сколько еще плохих событий должно произойти, прежде чем они изменят свою позицию», — заявил Гейтс.

Гейтс призвал администрацию Белого дома рассмотреть единый стандарт внутренних защитных механизмов и мониторинга для ИИ-моделей. Он также предложил США возглавить глобальные усилия по устранению киберуязвимостей и наладить масштабный мониторинг воздуха, сточных вод и крови для раннего выявления потенциальных инфекций, распространяемых с помощью ИИ.

Гейтс, которому OpenAI предоставила доступ к ChatGPT до его публичного релиза в 2022 году, считает вероятным, что OpenAI и Anthropic выпустят новые модели в этом году, а также представят «два крупных релиза» в 2027 году. Проблема выхода моделей из-под контроля в ближайшем будущем может стать серьезной — возможно, уже применительно к этим будущим версиям, добавил он.

Миллиардер также призвал ускорить работу по использованию потенциальных преимуществ ИИ, таких как разработка лекарств и сокращение очередей в больницах. «Ничего хорошего не происходит само по себе», — сказал он.

В сентябре на заседании Совета Безопасности ООН главы Anthropic и OpenAI Дарио Амодеи и Сэм Альтман, а также ученый Йошуа Бенжио предупреждали о рисках ИИ для человечества и призывали к международному сотрудничеству в регулировании технологии.

Эти призывы идут в разрез с позицией президента США Дональда Трампа. Он отверг попытки выработать руководящие принципы по ИИ в рамках G20, назвав их «глобалистской схемой», и сделал ставку на саморегулирование технологического сектора, отмечает FT.

Сам Гейтс в сентябре говорил, что искусственный интеллект обладает достаточной мощью, чтобы вызвать события, которые приведут к «миллиарду смертей», и настаивал на обязательном участии государства в выработке защитных мер. В августе в своем эссе он предупреждал об угрозах ИИ для рынка труда, росте риска кибератак и опасности зависимости от ИИ-компаньонов, а также предлагал ввести налоги на ИИ-токены и ботов, чтобы профинансировать систему социальной защиты для работников, чьи профессии будут вытеснены технологией.