Лидеры ИИ-индустрии расходятся во мнениях: дебаты о безопасности — на самом деле о контроле?
После призыва главы Anthropic Дарио Амодеи замедлить развитие ИИ руководители технологических компаний разделились во мнениях о том, нужен ли государственный надзор или достаточно саморегулирования отрасли. Критики предупреждают, что риторика о безопасности может использоваться для укрепления позиций доминирующих компаний.
В технологической отрасли усиливаются споры о том, как подходить к вопросам безопасности искусственного интеллекта, на фоне инцидентов вроде взлома нескольких компаний ИИ-агентом OpenAI, вызвавших опасения относительно рисков ИИ. Глава Anthropic Дарио Амодеи недавно опубликовал объёмное эссе с призывом замедлить развитие ИИ, чтобы успеть создать надёжные механизмы безопасности, включая международное сотрудничество между компаниями и правительствами. Его предложение поддержали глава OpenAI Сэм Альтман и глава xAI Илон Маск.
Разные точки зрения
Не все согласны с тем, что участие государства необходимо. Глава Meta Марк Цукерберг заявил, что его компания на несколько месяцев отложила выпуск модели Muse, чтобы сосредоточиться на безопасности, но подчеркнул, что сделала это по собственной инициативе, а не в ответ на чьи-либо призывы. По его мнению, рыночные стимулы сами подтолкнут компании к ответственной разработке без государственного регулирования. Сооснователь Reddit Алексис Оганян выразил схожую позицию, признав, что отрасль была «глуха» к объяснению рисков ИИ обществу, но также выразив надежду, что компании смогут справиться самостоятельно. Сооснователь Google DeepMind Шейн Легг предупредил, что возможности ИИ не должны опережать работу над безопасностью.
Вопрос саморегулирования
По данным издания The Information, OpenAI, Anthropic и другие крупные ИИ-компании работают над созданием частного органа саморегулирования. Белый дом, включая «ИИ-царя» Дэвида Сакса, настаивает, что регулирование должно оставаться в руках самих компаний. Спикер Палаты представителей Майк Джонсон отверг предупреждения Амодеи о катастрофических рисках. Критики, включая главу канадской компании Cohere Эйдана Гомеса, предупреждают, что предложенные крупными компаниями стандарты безопасности могут стать инструментом ограничения конкуренции, закрепляя рыночные позиции уже доминирующих игроков отрасли.
