Оливер Лаас: эффект Элизы и критическое мышление
В комментарии на Vikerraadio Оливер Лаас обсуждает, как эффект Элизы и склонность людей приписывать машинам разум мешают критически мыслить об искусственном интеллекте, и призывает осознать эту психологическую границу.
Оливер Лаас в комментарии на Vikerraadio рассматривает связь между искусственным интеллектом и критическим мышлением. Он напоминает о тесте Тьюринга, где машина считается разумной, если человек в разговоре не может отличить её от человека. Хотя этот тест позволил избежать философских споров о природе интеллекта, он открыл дверь чат-боту Элизе, созданному Джозефом Вейценбаумом в 1966 году.
Элиза имитировала психотерапевта, возвращая пользователям их реплики в виде вопросов. Несмотря на примитивность, пользователи считали её разумной и понимающей. Это явление получило название эффекта Элизы – склонность людей воспринимать понятную речь как осмысленную независимо от источника. Вейценбаум непреднамеренно воспользовался этими психологическими особенностями; его последователи делали это уже намеренно.
В кибербезопасности такая психологическая манипуляция называется атакой посредством общения; местный пример – мошеннические телефонные звонки. Лаас считает, что тест Тьюринга открыл путь к "взлому людей" при создании ИИ: если интеллект машины зависит от впечатления пользователя, то для создания "разумной" машины достаточно сформировать нужное впечатление.
Современные чат-боты гораздо мощнее Элизы, и их эффект на восприимчивых пользователей, вероятно, усилился. Всё чаще появляются истории о пользователях, убеждённых, что ChatGPT обладает сознанием, помог им совершить научный прорыв или имеет божественное происхождение. Неофициально это состояние называют "ИИ-психоз".
Хотя OpenAI и другие компании в сфере ИИ могут устранить эту проблему, как и компании, владеющие социальными сетями, это может не соответствовать их интересам – зависимый пользователь является хорошим клиентом. Лаас подчёркивает, что критическому мышлению, которому способствуют открытость и умеренный скептицизм, препятствуют когнитивные искажения, например групповое мышление. По его мнению, эффект Элизы также мешает критически мыслить об ИИ. Хотя полностью избавиться от него невозможно, критическое мышление учит замечать и ограничивать его влияние, что позволяет более разумно относиться к искусственному интеллекту.
