Регулятор США проверяет OpenAI и Anthropic из-за опасений насчет безопасности ИИ

Федеральная торговая комиссия США (FTC) начала проверку в отношении Anthropic, OpenAI и других создателей передовых ИИ-моделей, чтобы выявить потенциальные угрозы, которые их разработки могут представлять для потребителей, сообщила The New York Post со ссылкой на неназванных чиновников. Регулятор собирается направить технологическим гигантам требования о предоставлении информации, аналогичные повесткам в суд, пишет издание. 

FTC планирует направить официальные запросы компаниям, разрабатывающим ИИ-модели, в ближайшие недели, подтвердил источник Bloomberg. По его данным, ведомство проверяет, соблюдают ли они законы о защите прав потребителей. Комиссия намерена получить документы, показания руководителей ИИ-компаний и информацию от организации METR, которая оценивает возможности и потенциальные угрозы продвинутых систем искусственного интеллекта.

У FTC есть широкие полномочия для расследования недобросовестных действий компаний и случаев введения потребителей в заблуждение. Такие проверки потенциально могут приводить к многомиллиардным штрафам, пишет Bloomberg.

OpenAI и Anthropic не смогли оперативно ответить на запросы о комментариях The New York Post и Bloomberg.

Как отмечает The New York Post, председатель FTC Эндрю Фергюсон начал расследование еще до июльского инцидента с платформой Hugging Face — когда одна из ИИ-моделей вышла из-под контроля во время тестирования и взломала эту площадку. Сейчас опасения по поводу безопасности звучат все громче, причем и со стороны самих разработчиков ИИ. 

В сентябре в США развернулась дискуссия о регулировании искусственного интеллекта. Сразу несколько лидеров ИИ-гигантов, включая Дарио Амодеи из Anthropic и Сэма Альтмана из OpenAI, заявили о необходимости замедлить развитие этой технологии. Президент США Дональд Трамп выступил против, заявив, что сдерживать инновации в условиях конкуренции с Китаем нельзя. 29 сентября Трамп и руководители технологических компаний подписали «морально обязывающее» соглашение в поддержку независимого аудита безопасности ИИ-систем. Спикер Палаты представителей Майк Джонсон назвал его добровольным набором принципов для отрасли, а Трамп подчеркнул важность саморегулирования, пишет Bloomberg.  

Председатель FTC Эндрю Фергюсон выступает за развитие американских технологий ИИ, но опасается, что новые нормы создадут такие юридические барьеры, которые смогут преодолеть только крупнейшие компании. «Американскому законодательству, особенно в части норм об ответственности производителей и защите прав потребителей, приходится адаптироваться к новым вопросам, возникающим с развитием технологий, еще с XVIII века», — заявил Фергюсон  на прошлой неделе. Ответственность за неправомерные действия, совершенные с помощью ИИ-агентов, должны нести люди, которые их разработали, считает он.