ИИ-агенты создают наплыв новых обращений в государственные службы
Исследователь обнаружил, что ИИ-инструменты вызывают резкий рост числа заявлений и жалоб в госорганы по всему миру, причём большинство обращений исходит от людей с обоснованными правами, а не от спама.
В последние годы государственные службы в разных странах фиксируют резкий рост числа заявлений и жалоб, и исследователи связывают эту тенденцию с растущей доступностью инструментов искусственного интеллекта, таких как ChatGPT.
В Великобритании число жалоб в жилищный омбудсмен с 2022 года выросло более чем вдвое — с примерно 2600 случаев до свыше 7000 в прошлом году. В США Бюро по защите прав потребителей финансовых услуг (CFPB) за тот же период зафиксировало пятикратный рост жалоб. Похожий рост наблюдается и в бразильских судебных исках, и в немецких парламентских петициях.
Изучение «агентного наплыва»
Исследователь Крис Шмитц называет это явление «агентным наплывом» (agentic flooding) и рассматривает его в готовящейся научной статье, которую представят в следующем месяце на конференции по этике и обществу в сфере ИИ. Он изучил 84 случая в 11 юрисдикциях с признаками этой тенденции. По методологическим причинам статья не утверждает напрямую, что причиной роста является именно ИИ, однако в большинстве случаев число обращений оставалось примерно стабильным до 2022 года, а затем начало ускоренно расти и продолжает расти до сих пор.
Шмитц отмечает, что ИИ-инструменты становятся всё удобнее в использовании: если раньше требовалось тщательно и точно формулировать запросы к более ранним моделям, теперь достаточно сфотографировать письмо и получить готовый к использованию ответ от приложения вроде Claude за один раз.
Отличие от истории с bug bounty
Подобный всплеск в прошлом году пережили и корпоративные программы поиска уязвимостей (bug bounty), где поток низкокачественных отчётов, сгенерированных ИИ, создал дополнительную нагрузку на компании, обязанные проверять каждое обращение. Однако, по словам Шмитца, у государственных служб ситуация иная: большинство новых заявителей — реальные люди с законными правами, которые ранее могли не обращаться из-за сложности процедуры подачи заявлений.
Шмитц видит в этой тенденции возможность переосмыслить работу госуслуг так, чтобы они лучше соответствовали эпохе ИИ, а не воспринимать рост обращений исключительно как обузу для ведомств.
