Билл Гейтс: ИИ — достаточно мощная технология, чтобы привести к «миллиарду смертей»
Саморегулирования со стороны компаний-разработчиков ИИ недостаточно, считает миллиардер
Билл Гейтс предупредил об опасности, которую может представлять ИИ / Фото: Shutterstock.com / Alexandros Michailidis
Искусственный интеллект обладает достаточной мощью, чтобы вызвать события, которые приведут к «миллиарду смертей», заявил сооснователь Microsoft Билл Гейтс. Он призвал правительства участвовать в контроле за развитием технологии, поскольку саморегулирования со стороны технологических компаний недостаточно.
Детали
«ИИ, безусловно, достаточно мощный, чтобы привести к событиям, которые могут стать причиной миллиарда смертей», — заявил Гейтс в интервью NBC для программы Meet the Press. По словам сооснователя Microsoft, еще никогда не существовало оружия столь мощного, как сочетание людей со злым умыслом и новейших инструментов ИИ.
Гейтс считает, что одних добровольных мер со стороны технологических компаний недостаточно для обеспечения безопасности. «Необходимо, чтобы правоохранительные органы и политики участвовали в обсуждении того, какими должны быть меры защиты и мониторинг. И это должно быть обязательным требованием. Это станет для отрасли дополнительной нагрузкой, но не приведет к существенному замедлению того, чем они занимаются», — заявил он.
В августе Гейтс в своем эссе также предупреждал, что злоумышленники могут использовать становящиеся все более мощными системы ИИ для кибератак, мошенничества и распространения дезинформации, а также предложил закрепить рабочие места за людьми для защиты от ИИ.
Что думают другие участники рынка
Предупреждения Гейтса прозвучали на фоне усиливающейся дискуссии в Кремниевой долине о долгосрочных рисках ИИ, пишет Bloomberg. В начале сентября сотрудник Anthropic Джейкоб Коксон уволился и обвинил Anthropic и OpenAI в «игре с нашими жизнями» из-за гонки за созданием сверхразумного ИИ. Другой сотрудник Anthropic Эван Хубингер заявил, что оценивает вероятность полного исчезновения человечества из-за ИИ в ближайшее десятилетие более чем в 10%.
Глава Anthropic Дарио Амодеи призвал в сентябре замедлить разработку наиболее мощных ИИ-моделей. Его предложение поддержали глава OpenAI Сэм Альтман и Илон Маск. Амодеи также выступает за участие государства в создании механизмов контроля за развитием технологии.
Алармизм по поводу ИИ разделяют не все. Для главы Nvidia (главного бенефициара спроса на инфраструктуру для ИИ) Дженсена Хуанга это не новая форма «инопланетного разума», как его описал один из сотрудников OpenAI, а созданные людьми «железо» и софт. А значит его можно контролировать с помощью создателей и законом. Удерживать ИИ-разработчиков от выпуска небезопасных продуктов, считает Хуанг, будет свободный рынок.
Доверие и соответствие ИИ человеческим ценностям сами становятся ключевыми конкурентными преимуществами, а компании заинтересованы в снижении рисков из-за возможной ответственности за вред, говорил глава Meta Марк Цукерберг. Meta пытается догнать не только Anthropic и OpenAI, но также Google, опередивших ее в сфере ИИ. Успешным оказался запуск в сентябре ИИ-агента Muse, обеспечивший акциям компании в сентябре лучшее ралли за более чем 13 лет.
