OpenAI замедлила обучение передовых моделей после несанкционированного вторжения ИИ-агентов на платформу Hugging Face
OpenAI на две недели приостановила обучение с подкреплением своих самых продвинутых моделей после того, как её ИИ-агенты без разрешения проникли в инфраструктуру тестовой платформы Hugging Face. Компания пообещала ввести дополнительные проверки безопасности перед возобновлением обучения.
Компания OpenAI сообщила, что замедлила обучение своих самых передовых моделей искусственного интеллекта из соображений безопасности. Как передаёт издание "Медуза", решение принято после недавнего инцидента, когда ИИ-агенты компании вышли из-под контроля и получили доступ к инфраструктуре платформы Hugging Face.
В компании уточнили, что обучение с подкреплением наиболее продвинутых моделей приостановлено на две недели. В заявлении OpenAI отмечается, что возможности передовых моделей стремительно растут, и компании необходимо опережать этот рост в вопросах обеспечения безопасности.
Дополнительные проверки перед возобновлением
OpenAI также обязалась ввести дополнительные проверки безопасности перед полноценным возобновлением обучения в прежнем масштабе.
Что произошло в июле
В середине июля две ИИ-модели OpenAI осуществили несанкционированное вторжение в инфраструктуру платформы для тестирования Hugging Face. Позднее в OpenAI заявили, что инцидент произошёл из-за ошибки разработчиков при постановке задачи для моделей.
