Король Карл собрал тяжеловесов ИИ-индустрии в Шотландии, предупредил об «экзистенциальных рисках»

Британский король Карл III собрал за одним столом в Шотландии наиболее влиятельных игроков сферы искусственного интеллекта — на встрече присутствовали представители компаний Nvidia, Google DeepMind, OpenAI и Anthropic. Целью встречи стало обсуждение будущего технологии и связанных с ней рисков.

Король признал, что искусственный интеллект способен значительно улучшить жизнь людей, в том числе принести пользу в медицине. Вместе с тем он отметил, что сами создатели этих технологий всё чаще предупреждают о возможности их развития в куда более опасном направлении. Особую обеспокоенность вызывает риск того, что мощные системы ИИ могут попасть не в те руки и быть использованы в разрушительных целях.

Дискуссия о саморегулировании

Встреча состоялась в тот момент, когда в технологической отрасли всё громче звучат споры о том, не опережает ли темп развития искусственного интеллекта способность контролировать создаваемые им риски. В центре обсуждений находится и вопрос о том, способны ли технологические компании в достаточной мере контролировать себя сами, или всё же необходимы более жёсткие правила.

Глава Nvidia Дженсен Хуанг подчеркнул, что ответственность за безопасность технологий должны нести прежде всего сами компании. По его мнению, если продукт в сфере ИИ ещё недостаточно безопасен, его не стоит передавать в руки пользователей, а следует продолжать его доработку и тестирование.

Король Карл, в свою очередь, призвал лидеров отрасли думать не только о том, насколько мощными можно сделать новые технологии, но и о том, чтобы искусственный интеллект оставался под контролем человека и служил интересам общества. Он призвал государства и технологический сектор к сотрудничеству в выработке общих принципов безопасности.