Некоммерческие организации США подали в суд на пять технологических гигантов, требуя приостановить развитие ИИ
Четыре американские общественные организации подали в Сан-Франциско иск к Anthropic, Google, Meta, OpenAI и SpaceX с требованием приостановить новейшие модели искусственного интеллекта до появления мер защиты.
Организации, занимающиеся цифровой безопасностью и защитой потребителей, в четверг подали гражданский иск в Верховный суд Сан-Франциско (суд штата Калифорния) против пяти ведущих разработчиков искусственного интеллекта (ИИ): Anthropic, Google, Meta, OpenAI и SpaceX. Истцы — Irreplaceable Education Fund, Public Citizen, Heat Initiative и Alliance for Secure AI. Они требуют судебного приостановления обучения и внедрения моделей ИИ. Иск подан после убедительной победы демократов на промежуточных выборах в США, которая, как отмечают аналитики, может изменить и ужесточить регулирование Кремниевой долины.
Суть требований
По мнению истцов, компании не способны предотвратить «катастрофический вред» от своих систем. В иске приводятся задокументированные случаи кибератак с использованием ИИ и признания самих компаний в том, что нерегулируемые технологии могут выйти из-под контроля и угрожать человечеству. Организации просят срочно запретить модели следующего поколения и разрешить возобновить работу, только если компании докажут, что технология находится под контролем человека.
Они утверждают, что компании нарушили закон Калифорнии о недобросовестной конкуренции, подвергая опасности здоровье населения и мешая использованию имущества, например компьютерных систем. Закон запрещает вводящую в заблуждение рекламу, антиконкурентное поведение и тактику «заманивания». Кроме того, организации заявляют, что вынуждены перенаправлять ресурсы на борьбу с «почти ежедневными кризисами», вызванными быстро развивающимися моделями.
Как могла бы выглядеть пауза
Irreplaceable Education Fund — нью-йоркская некоммерческая организация, занимающаяся технологической безопасностью в интересах общества, — сообщила Al Jazeera, что требует государственного регулирования. Её основатель и исполнительный директор Фил Аронеану заявил, что настоящая заморозка должна определять, какие работы прекращаются, как проверяется соблюдение и какие последствия наступают за нарушения. По его словам, нужны государственные проверки и полномочия останавливать запрещённые работы, а крупные вычислительные центры можно контролировать.
Организация назвала среди перспективных предложений федеральных независимых экспертов и регуляторов, строгую ответственность технологических компаний за их продукты и независимое регулирующее ведомство. Федеральный закон, по её мнению, должен задавать минимальную защиту, оставляя штатам право вводить более строгие меры.
Гонка с Китаем
ИИ-компании и президент США Дональд Трамп неоднократно давали понять, что США стремятся опередить Китай в области ИИ; Трамп говорил: «кто побеждает в ИИ, тот побеждает». Истцы считают, что внутренняя пауза не даст Китаю преимущества, если Вашингтон установит глобальные правила и начнёт переговоры с Пекином. Они ожидают, что потребуются двусторонние соглашения и международный договор.
Истцы отмечают, что Конгресс до сих пор не принял закон о регулировании ИИ. Они надеются на новых демократических законодателей: новому Конгрессу следует начать с заморозки новых разработок ИИ, но ждать нельзя, и помощь должны оказать суды.
