Работники сервиса: клиенты всё чаще верят выдумкам ИИ больше, чем специалистам
Сотрудники ресторанов, национальных парков и детских учреждений в США сообщают, что клиенты всё чаще доверяют сгенерированной ИИ ложной информации больше, чем советам профессионалов, что создаёт реальные риски для безопасности.
Широкое распространение чат-ботов с искусственным интеллектом, таких как ChatGPT, меняет сферу обслуживания клиентов: всё больше людей ожидают, что работники согласятся с информацией, придуманной ИИ, вместо того чтобы доверять профессиональной экспертизе.
Официантка ресторана в Нью-Йорке, пожелавшая остаться анонимной, рассказывает, что посетители с пищевой аллергией иногда игнорируют её предупреждения об аллергенах в блюдах, утверждая, что ChatGPT сказал им иное — хотя на самом деле блюда содержали аллерген, о котором шла речь, что создаёт реальную опасность. Она также замечает рост числа гостей, отказывающихся от рекомендаций сомелье ресторана в пользу советов ИИ по выбору вина, иногда запрашивая бутылки, которых либо нет в меню, либо вообще не существует — результат «выдумок» ИИ.
Похожая картина в разных сферах
Аналогичные случаи фиксируют сотрудники кинотеатров, кафе и магазинов Apple, которым приходится отвечать на запросы о несуществующих продуктах или функциях. Рейнджер, работающий на федеральных землях на Горном Западе США, говорит, что группы посетителей всё чаще приезжают в парки с составленными ИИ маршрутами, содержащими географически невозможные планы — например, требующими плыть на лодках против течения. Даже когда рейнджеры показывают ошибку на карте, некоторые группы остаются скептичны и продолжают доверять ИИ больше, чем рейнджерам, картам и путеводителям.
Преподавательница программы продлённого дня в Нью-Йорке сообщает, что родители и опекуны всё чаще обращаются к ChatGPT или Claude по вопросам развития детей, иногда игнорируя советы профессионалов. В одном случае семья настаивала, что составленный ИИ график сна подходит их ребёнку, хотя по наблюдениям преподавательницы ребёнку требовалось значительно больше сна.
Работница сферы общественного питания с 15-летним стажем отмечает, что клиенты теперь часто фотографируют меню ресторана и спрашивают у ИИ-чат-ботов рекомендации по блюдам или сочетанию с вином вместо того, чтобы обращаться к персоналу. Её ресторан также получал звонки и письма о бронировании, судя по всему, сгенерированные ИИ-агентами, действующими от имени клиентов, а не самими клиентами, что всё больше размывает границу между человеческим и автоматизированным общением.
