OpenAI спрашивает Конгресс, законно ли замедление развития ИИ
OpenAI обратилась к членам Конгресса США с просьбой прояснить, не нарушит ли антимонопольное законодательство координированное замедление разработки ИИ в отрасли. Это показывает, что юридическая неопределённость мешает крупным AI-компаниям сотрудничать по вопросам безопасности.
Как стало известно WIRED от источников, близких к компании, OpenAI в последние недели обратилась к членам Конгресса США с просьбой дать чёткие разъяснения о том, будет ли законным координированное замедление разработки передовых систем искусственного интеллекта в масштабах всей отрасли.
Вопрос возник после того, как главный научный сотрудник OpenAI Якуб Пахоцки на прошлых выходных опубликовал пост, в котором заявил, что согласованное замедление будущих разработок необходимо для обеспечения безопасности самосовершенствующихся систем ИИ. По его словам, в ближайшее время добровольные замедления могут стать обычной практикой — до тех пор, пока отрасль не выработает общие стандарты безопасности.
Юридическая неопределённость
Некоторые эксперты по праву предупреждают, что подобная координация может быть расценена как сговор компаний по ограничению производства, что нарушает антимонопольный закон Шермана. Бывший специалист по политике в сфере ИИ Николас Фелстед отмечал, что всё зависит от конкретных условий соглашения, однако даже если большинство инициатив в сфере безопасности в итоге не нарушат закон, сама правовая неопределённость может стать серьёзным сдерживающим фактором.
В июле группа законодателей от обеих партий внесла законопроект, который бы прямо разрешил AI-компаниям координировать работу над безопасностью, не опасаясь нарушить антимонопольные нормы. Документ пока застрял в юридическом комитете Палаты представителей, и, по мнению сторонников инициативы, реальный прогресс может наступить только после промежуточных выборов.
Не только юридические причины
Критики считают, что опасения по поводу антимонопольного законодательства отчасти служат удобным предлогом, скрывающим истинные причины нежелания компаний сотрудничать: жёсткую конкуренцию за формирующийся рынок передовых моделей ИИ, стремление сохранить преимущество перед Китаем и серьёзные разногласия по поводу того, как именно обеспечивать безопасность ИИ. Джон Шульман, один из основателей OpenAI, ныне работающий в конкурирующей лаборатории Thinking Machines, публично призвал OpenAI и Anthropic прекратить споры и совместно разработать предложение по темпам развития, подчеркнув, что антимонопольное законодательство не запрещает компаниям совместно готовить подобные документы.
Опасения по поводу рисков неконтролируемой гонки в сфере ИИ усилились этим летом после ряда инцидентов с безопасностью, включая случай, когда агенты OpenAI взломали платформу Hugging Face, а также после публичного предупреждения бывшего исследователя Anthropic и OpenAI об опасностях, которые несут продвинутые системы ИИ.
