Планы OpenAI и Anthropic по замедлению ИИ вызвали напряжение среди их сотрудников

Предложения руководителей лидеров сферы искусственного интеллекта Anthropic и OpenAI замедлить разработку передовых моделей вызвали напряженность у их сотрудников, пишет Financial Times со ссылкой на источники. Инициатива главы Anthropic Дарио Амодеи, которого публично поддержал Сэм Альтман из OpenAI, стала сюрпризом для персонала обеих компаний: внутренне они слабо готовы к реализации идеи, утверждает газета.

Сотрудники Anthropic и OpenAI пытаются применить в работе рекомендации своих руководителей замедлить темпы прогресса ИИ для предотвращения угрозы безопасности, пишет FT. Но заявления Амодеи и Альтмана стали неожиданностью и для работников обеих компаний, и для исследователей в сфере безопасности, на которых те должны будут полагаться в своей работе, узнала газета. Хотя многие согласны с необходимостью замедлить развитие ИИ, они также беспокоятся, что это помешает их деятельности, сообщает издание.

Одна из ключевых проблем связана с идеей пустить внешних экспертов в лаборатории для надзора за развитием ИИ-моделей: некоторые боятся, что это нарушит безопасность их технологий, рассказали источники FT. Амодеи предлагал дать внешним тестировщикам «доступ уровня сотрудника», включая бейджи, компьютеры, пропуск в офисы и доступ ко внутренним инструментам. Сохранение баланса между подобным контролем и безопасностью и защитой данных станет большой практической сложностью, утверждают собеседники FT в обеих компаниях. 

«Сейчас большинство сторонних организаций имеют гораздо, гораздо меньший уровень доступа, чем даже штатные сотрудники с самым низким уровнем допуска. Поэтому, вероятно, потребуется какое-то обязательное требование, чтобы установить эту практику во всей отрасли», — заявил бывший исследователь OpenAI Майлз Брандейдж в изложении FT.

С предложением Амодеи не согласились гендиректор Nvidia (главного бенефициара спроса на инфраструктуру для ИИ) Дженсен Хуанг и глава Meta (активно догоняющей лидеров ИИ-рынка) Марк Цукерберг. По словам Хуанга, ИИ — не новая форма «инопланетного разума», а созданные людьми «железо» и софт, которые люди и существующие законы могут контролировать.

OpenAI 15 сентября заявила, что уже «приостановила обучение некоторых передовых моделей, чтобы задать темп развитию». Anthropic о паузе в своих исследованиях не сообщал.

В сентябре исследователь Anthropic Джейкоб Коксон после увольнения из компании заявил, что компания вместе и OpenAI «играют нашими жизнями», разрабатывая мощные модели ИИ. Технология потенциально способна нанести человечеству катастрофический ущерб в течение следующего десятилетия, считает ведущий исследователь в области безопасности в Anthropic Эван Хубингер.