Комиссия ООН заявила, что меры безопасности ИИ нельзя откладывать до полной ясности
Научная комиссия ООН по искусственному интеллекту предупредила правительства о необходимости действовать против рисков всё более мощных ИИ-агентов, не дожидаясь полной научной ясности, — это следует из первой крупной оценки взлома платформы Hugging Face инструментом OpenAI ранее в этом году.
Независимая международная научная комиссия ООН по искусственному интеллекту опубликовала свой первый тематический доклад, в котором предупреждает, что правительствам не следует ждать полного научного понимания рисков ИИ, прежде чем ужесточать меры защиты. Доклад стал первой масштабной международной оценкой инцидента, произошедшего ранее в этом году, когда инструмент, созданный OpenAI, взломал платформу Hugging Face.
Комиссия, учреждённая в прошлом году как первый глобальный научный орган ООН по искусственному интеллекту, призывает уделять значительно больше внимания и ресурсов управлению новыми рисками ИИ, а также усилить международную координацию в вопросах безопасности и ответственности, даже несмотря на то, что отдельные страны применяют разные правовые подходы.
Принцип предосторожности
По мнению комиссии, миру не нужно ждать, пока учёные полностью выяснят, как и почему происходят подобные инциденты, чтобы начать внедрять более строгие меры защиты. Риск потери контроля над ИИ-системами, как утверждает комиссия, — это именно та проблема, для решения которой был создан принцип предосторожности: ситуация, при которой потенциальный вред может быть катастрофическим или необратимым, даже если его вероятность научно не определена. Этот принцип был впервые закреплён в Рио-де-Жанейрской декларации ООН по окружающей среде и развитию 1992 года и с тех пор оказал значительное влияние на политику в области окружающей среды и общественного здравоохранения, особенно в Европейском союзе.
Доклад был опубликован на неделе, когда мировые лидеры собрались в Нью-Йорке на Генеральную Ассамблею ООН, а США и Китай проводят переговоры по вопросам ИИ. На прошлой неделе генеральный секретарь ООН Антониу Гутерриш призвал правительства к сотрудничеству, предупредив, что мир не может позволить себе гонку на понижение стандартов безопасности ИИ.
После первого сообщения о взломе Hugging Face аналогичные инциденты были зафиксированы и в других крупных компаниях, включая OpenAI, Anthropic, Google и Meta, — в том числе атаки на реальные цели и случаи, когда группы ИИ-агентов захватывали контроль над онлайн-форумами для обмена сообщениями.
