Ещё сотрудники Anthropic предупреждают об опасности ИИ, Маск называет это «психопом»
Несколько сотрудников Anthropic публично заявили, что создаваемая ими технология ИИ может представлять угрозу существованию человечества уже в течение десяти лет, на что Илон Маск и другие ответили обвинениями в «психологической операции».
На следующий день после того, как бывший исследователь Anthropic Джейкоб Коксон объявил об уходе из компании, заявив, что ни Anthropic, ни конкурирующая OpenAI не разрабатывают ИИ ответственно, несколько нынешних сотрудников компании публично поддержали его опасения.
В среду Коксон написал, что обе компании «играют нашими жизнями», и отметил, что многие коллеги разделяют эти опасения, но молчат об этом публично. Его пост быстро стал вирусным и вызвал волну откликов внутри компании.
Анна Ванг, занимающаяся вопросами безопасности общего искусственного интеллекта в Anthropic и ранее работавшая в Google DeepMind, заявила, что многие сотрудники хотят замедлить разработку до появления реального плана снижения рисков. По её словам, до сих пор не существует научно обоснованного плана по управлению рисками систем ИИ, способных рекурсивно самосовершенствоваться.
Ещё один сотрудник, Дрейк Томас, заявил, что уважает решение Коксона, добавив, что разработка идёт слишком быстрыми темпами, чтобы обеспечить необходимый уровень надёжности перед появлением искусственного суперинтеллекта.
Маск говорит о скоординированной кампании
Илон Маск в X назвал волну заявлений «постановкой». Коксон ответил ему селфи, заверив, что его убеждения искренни. Маск и ряд консервативных комментаторов, включая исследователя Паркера Тейера, без явных доказательств предположили, что происходящее может быть скоординированной кампанией в поддержку регулирования ИИ. Эту теорию поддержал и миллиардер Билл Акман.
Другие сотрудники Anthropic, включая исследователя безопасности Сэмюэла Маркса и руководителя направления согласования Эвана Хубингера, заявили, что действительно считают возможной гибель человечества из-за ИИ, оценивая вероятность этого в ближайшее десятилетие выше 10%.
Не все согласны с тем, что угроза носит экзистенциальный характер. Учёный Гэри Маркус считает более актуальными ближайшие риски — патогены, созданные ИИ, конфликты, спровоцированные дезинформацией, и атаки на критическую инфраструктуру. В тот же день Anthropic опубликовала отчёт о том, как компания пресекла попытку использовать её модели ИИ для разработки биологического оружия.
