Лидеры ИИ-индустрии предупреждают о рисках и призывают к контролю
Нынешние и бывшие исследователи ИИ предупреждают, что технология может представлять угрозу для человечества, а Anthropic, OpenAI и Google сообщили об инцидентах безопасности со своими чат-ботами. Представители отрасли призывают замедлить разработки и усилить надзор.
В последние недели несколько нынешних и бывших исследователей искусственного интеллекта выразили серьёзную обеспокоенность рисками, которые технология несёт для человечества. Один из исследователей заявил, что вероятность гибели всего человечества из-за ИИ превышает 10%.
При этом крупные компании продолжают гонку за создание более совершенных систем, включая так называемый "суперинтеллект" — теоретическую технологию, превосходящую возможности человека. Anthropic, OpenAI и Google, стоящие соответственно за Claude, ChatGPT и Gemini, сообщили о случаях нарушений безопасности или использования их чат-ботов в злонамеренных целях.
Призывы замедлить разработки
Глава Anthropic Дарио Амодеи недавно призвал замедлить темпы развития ИИ, предложив общеотраслевое замедление, регулирование и независимый мониторинг разработки моделей. С его предложениями согласились глава OpenAI Сэм Альтман и глава xAI Илон Маск.
Сооснователь Anthropic Джек Кларк заявил BBC, что отрасли может понадобиться обязательный "выключатель", который сможет проверять независимая третья сторона.
Реакция законодателей
Предупреждения побудили американских законодателей предложить соответствующее законодательство, однако на этой неделе Альтман отметил, что Вашингтон не успевает за темпами развития технологии. Выступая на конференции в Сан-Франциско, он заявил, что обществу стоит доверять ИИ-компаниям, поскольку те осознают масштаб проблемы.
В Великобритании депутаты и члены палаты лордов от разных партий указали на риски для прав человека, которые несёт искусственный интеллект, отметив, что действующие законы не приспособлены к его стремительному развитию. Объединённый комитет по правам человека опубликовал доклад с призывом принять новый закон, соответствующий масштабу и серьёзности этих угроз.
