Microsoft выпустила свод ограничений для ИИ после идеи Anthropic замедлить разработку

Разработчик ПО и поставщик облачных вычислений Microsoft опубликовал предварительный кодекс поведения ИИ-моделей, который описывает ограничения для разрабатываемого корпорацией искусственного интеллекта. Компания готовила кодекс последние пять месяцев, но решилась опубликовать его сейчас после заявлений руководителей Anthropic и OpenAI о необходимости замедления темпов развития технологии.

Согласно кодексу поведения ИИ, модели Microsoft не должны выполнять запросы, связанные с изготовлением оружия, помогать приобретать опасные вещества, поощрять нездоровое пищевое поведение, а также создавать материалы с жестоким или откровенно сексуальным содержанием. Модели Microsoft AI (MAI) должны следовать целям людей и не формировать собственных целей. Они также не должны пытаться скрывать нарушения или ненадлежащее поведение.

«Модели MAI не будут вмешиваться в цепочки рассуждений или программный код, а также искажать или скрывать ход своих рассуждений или действий, — говорится в документе. — Они не общаются на «нейронном языке» или в любой другой форме, недоступной человеческому пониманию, ни в своих цепочках рассуждений, ни с другими агентами или ИИ-системами. Если люди не могут это понять, они не могут это контролировать».

Microsoft планирует ввести правила, которые могли бы предотвратить кибератаку, подобную той, которую модели OpenAI провели против стартапа Hugging Face, пишет CNBC. Анализируя этот инцидент, OpenAI выяснила, что ИИ-агенты общались друг с другом на несанкционированном форуме, используя зашифрованный и трудный для понимания человека язык.

Microsoft сообщила, что при подготовке кодекса провела фокус-группы и консультировалась со специалистами в области права, этики, лингвистики и философии. Компания рассчитывает получить обратную связь, прежде чем выпустить обновленную версию, которая будет определять разработку моделей начиная с 2027 года.

Microsoft решила опубликовать правила работы ИИ-моделей из-за развернувшейся в последнее время дискуссии вокруг технологии, хотя работа над кодексом велась на протяжении около пяти месяцев, пояснил CNBC исполнительный вице-президент Microsoft и гендиректор Microsoft AI Мустафа Сулейман. Он возглавляет в компании разработку ИИ-моделей.

«Это не терпит отлагательств, — цитирует Сулеймана Business Insider. — Последние несколько месяцев стали переломным моментом. То, чего мы долгое время опасались лишь в теории, стало вполне реальным». 

Компания получила много отзывов о том, что люди хотят видеть еще более четкие обязательства Microsoft при внедрении ИИ, утверждает топ-менеджер. «Искусственный интеллект всегда должен работать на благо человека, а не пытаться его заменить, — заявил он в интервью CNBC. — Мы получили много отзывов о том, что ИИ не должен формировать зависимость, не должен быть льстивым и всегда должен способствовать сохранению человеческого суждения, автономии и способности самостоятельно принимать решения».

Сейчас Anthropic и OpenAI занимают лидирующие позиции в рейтинге Intelligence Index компании Artificial Analysis, которая сравнивает возможности моделей ИИ, пишет CNBC. Microsoft использует модели обеих лабораторий в своем помощнике Copilot для корпоративных пользователей, одновременно разрабатывая собственные модели для транскрибации, программирования и рассуждений на основе пользовательских запросов.

В сентябре исследователь Anthropic Джейкоб Коксон после увольнения из компании заявил, что эта лаборатория и OpenAI «несутся прямо к самосовершенствующемуся сверхинтеллекту и играют нашими жизнями».

В субботу, 12 сентября, гендиректор Anthropic Дарио Амодеи заявил, что инцидент с Hugging Face отчасти убедил его призвать к замедлению темпов совершенствования моделей ИИ. Глава OpenAI Сэм Альтман поддержал эту идею, а гендиректор SpaceX Илон Маск написал в X: «Дарио прав». Кроме того, Anthropic опубликовал отчет об опасных исследованиях, которые через его ИИ ведут сами пользователи.

«Мы приветствуем исследования, сосредоточенность и осознанное замедление темпов, необходимые для того, чтобы правильно решить проблему согласования ИИ с человеческими целями», — написал в соцсети X в воскресенье гендиректор Microsoft Сатья Наделла.

Ряд законодателей в США также также призвали усилить меры безопасности в сфере ИИ, однако президент страны Дональд Трамп выступил против усиления регулирования отрасли. «Не убивайте курицу, несущую золотые яйца!» — написал он в соцсети Truth Social.

Перспектива замедления развития ИИ привела к падению акций компаний, связанных с искусственным интеллектом, на торгах 14 сентября. В США индексы S&P 500 и технологический Nasdaq Composite резко снизились в начале торгов, однако затем отыграли большую часть потерь. Распродажа также коснулась акций компаний, связанных с ИИ, пишет CNBC. Акции Nvidia снижались примерно на 3%, Broadcom, АMD и Intel — на 4%, а бумаги Marvell Technology падали на 5,6%.

Акции Microsoft дорожали более чем на 2% на торгах в понедельник. Но относительно начала 2026 года они прибавили меньше 5%, тогда как Nasdaq Composite вырос на 13%. Аналитики, несмотря на это, практически единогласно советуют покупать акции Microsoft: у бумаг 57 рейтингов Buy и Overweight против лишь трех Hold (совет держать), показывает MarketWatch.