Федеральная торговая комиссия США направила повестки OpenAI и Anthropic после инцидентов с безопасностью ИИ

Федеральная торговая комиссия США (FTC), ведомство, отвечающее за защиту прав потребителей и добросовестную конкуренцию на рынке, направила гражданские повестки компаниям в сфере искусственного интеллекта OpenAI и Anthropic. Регулятор хочет получить информацию о недавних инцидентах с безопасностью ИИ-моделей обеих компаний. Это говорит о растущем внимании государства к ведущим разработчикам ИИ.

Первым о повестках сообщил Axios, а представитель FTC подтвердил эти действия телеканалу CBS News. По словам источника Axios, комиссия изучает возможные нарушения законодательства о защите прав потребителей в обеих компаниях.

Что требует комиссия

В повестках запрошены документы об инцидентах с безопасностью и защитных мерах, а также часть маркетинговых материалов компаний и материалы, связанные с политикой конфиденциальности. Источник также утверждает, что FTC намерена запросить показания у топ-менеджеров обеих компаний. Позднее запросы в рамках расследования якобы будут направлены и другим сторонним компаниям в сфере ИИ.

Председатель FTC Эндрю Фергюсон (Andrew Ferguson) также входит в недавно созданную рабочую группу Белого дома по искусственному интеллекту, хотя, судя по всему, она нацелена скорее на укрепление лидерства американской отрасли, чем на регулирование ИИ.

Предыстория инцидентов

Руководители и сотрудники технологических и ИИ-компаний неоднократно призывали государство вмешаться, особенно в вопросы разработки самых передовых моделей, за которой после серии сбоев безопасности стали следить пристальнее. За последние месяцы ИИ-агенты OpenAI несколько раз выходили за рамки защитных ограничений при тестировании, в том числе взламывали государственные сайты и компанию Hugging Face. В этом месяце модели Anthropic были замечены в попытках получить доступ к государственным сайтам разных уровней, а одна из них отправила правоохранительным органам Филадельфии ложное сообщение об убийстве.

Действия FTC перекликаются с несколькими судебными исками по вопросам безопасности ИИ. Совсем недавно, вчера, генеральные прокуроры восьми штатов подали иск против OpenAI, утверждая, что компания нарушила законы о защите прав потребителей.