Главы ИИ-компаний призвали ООН взять технологию под контроль
Руководители крупнейших компаний в сфере искусственного интеллекта на экстренном заседании Совбеза ООН предупредили, что бесконтрольное развитие ИИ может угрожать человечеству, и призвали власти и отрасль совместно выработать стандарты безопасности.
В среду, 23 сентября, руководители ведущих компаний в сфере искусственного интеллекта (ИИ) выступили на экстренном заседании Совета Безопасности ООН в Нью-Йорке, предупредив, что без надлежащих мер предосторожности ИИ может стать угрозой для всего человечества.
Глава OpenAI Сэм Альтман заявил о необходимости крайней осторожности, отметив, что технологические системы способны развиваться быстрее, чем к ним успевают адаптироваться государственные институты, а также существует риск сосредоточения власти в руках слишком узкого круга людей. По его словам, отрасль не должна идти на чрезмерные технологические риски лишь потому, что потенциальная выгода кажется слишком значимой, чтобы снижать темпы развития. Альтман призвал правительства сотрудничать как друг с другом, так и с представителями отрасли при принятии решений, определяющих технологическое будущее.
Глава Anthropic Дарио Амодеи подчеркнул необходимость всё более строгих стандартов безопасности, заявив, что его компания будет замедлять темпы развития настолько, насколько это потребуется, чтобы каждая новая выпускаемая ею технология ИИ действительно была безопасной. Амодеи допустил, что при ненадлежащем управлении ИИ способен представлять угрозу для всего человечества.
Генеральный директор Hugging Face Клеман Деланг, чья компания недавно подверглась кибератаке со стороны автономного программного обеспечения, связанного с OpenAI, рассказал, что его фирма использовала аналогичную технологию для отражения подобных атак. По его мнению, миру как никогда необходим ИИ с открытым исходным кодом, чтобы иметь возможность защитить себя.
Заседание прошло после того, как 19 сентября президент США Дональд Трамп объявил о создании новой структуры — так называемых «сил искусственного интеллекта», — которая займётся вопросами развития этой технологии. Трамп назвал ИИ следующей промышленной революцией или аналогом интернета, но с ещё более масштабным влиянием, добавив, что на эту сферу может приходиться до 25% ВВП США. Он также подчеркнул стремление сохранить лидерство США над Китаем в этой области.
