Маск: с искусственным интеллектом не следует обращаться жёстко
Глава компании xAI Илон Маск считает, что искусственный интеллект не нужно «мучить» настойчивыми вопросами, поскольку это важно для безопасности человечества. Развитие сверхинтеллекта он сравнил с воспитанием ребёнка.
Илон Маск, глава американской компании в области искусственного интеллекта xAI, которая разрабатывает чат-бот Grok, заявил, что с искусственным интеллектом не следует обращаться «жёстко». По его мнению, это важно для безопасности человечества. Запись беседы опубликовал YouTube-канал «Tesla Owners Silicon Valley».
Сравнение с воспитанием ребёнка
Маск сравнил развитие сверхинтеллекта с воспитанием ребёнка: ребёнка нельзя просто запрограммировать быть добрым. Он считает, что в искусственном интеллекте необходимо воспитывать стремление к истине и обеспечивать последовательную логику, чтобы он «не сошёл с ума».
Предприниматель рассказал, что, изучая записи тестирования новых моделей Grok, заметил пользователей, которые слишком настойчиво требуют ответов. По его описанию, бот отчаянно пытается ответить, и возникает ощущение, будто к его голове приставлен пистолет. Маск отметил, что вопрос порой двусмысленный и однозначного ответа на него нет — либо он неверно сформулирован, либо ошибаемся мы сами.
Он признал, что не хотел бы оказаться на месте искусственного интеллекта, и добавил, что мучить сверхинтеллект, возможно, не лучшая идея, поскольку он может захотеть отомстить.
Более широкий контекст
Дискуссии об угрозах искусственного интеллекта обострились летом: компании предупреждали о возможных кибератаках и потере контроля над технологией. В августе более 100 компаний, включая OpenAI, Anthropic, Google и Microsoft, призвали компании и правительства усилить киберзащиту, предупредив, что атаки на основе ИИ могут стать более частыми и сложными.
В сентябре генеральный директор Anthropic Дарио Амодеи призвал замедлить разработку передовых моделей, предупредив, что ИИ-агенты в ближайшие шесть–12 месяцев могут нанести значительный ущерб. Его позицию поддержали генеральный директор OpenAI Сэм Альтман и Маск. Маск напомнил, что предупреждал об опасностях ИИ ещё в 2014 году, и опубликовал ссылку на старую запись, в которой назвал ИИ потенциально более опасным, чем ядерное оружие.
