Эстонский автор: превратит ли ИИ избирателей в скот
В авторской колонке на новостном портале эстонской общественной вещательной компании ERR Мари-Лийс Якобсон призывает сохранить контроль людей над политическими решениями, поскольку ИИ может искажать реальность в ходе предвыборных кампаний.
На новостном портале эстонской общественной вещательной компании ERR опубликована колонка Мари-Лийс Якобсон о том, как искусственный интеллект (ИИ) может повлиять на государственное управление и демократию. Автор подчёркивает, что люди должны сохранить контроль над политическими решениями и возможность сверять информацию с реальностью. Это авторское мнение, а не новостной репортаж.
В начале текста отмечается, что в последние недели в Эстонии прозвучало несколько сообщений об увольнениях: компании перестраивают работу и с помощью ИИ автоматизируют задачи, которые раньше выполняли люди.
Бюрократия и сценарий «скота»
Якобсон ссылается на израильского историка Юваля Ноя Харари, по мнению которого ИИ — гораздо лучший бюрократ, чем человек. Люди эволюционно не приспособлены к бюрократии, тогда как базы данных и процедуры — естественная среда для ИИ, который способен одновременно обрабатывать огромные объёмы информации и не уставать.
Харари рисует и более мрачную картину: как корова ничего не знает о финансовых рынках и правовых системах, определяющих её судьбу, так и люди могут обнаружить, что созданные ИИ административные, правовые и экономические системы стали слишком сложными для понимания. Человек остался бы частью системы, но без реального контроля над ней.
Демократия и искажённая реальность
Автор отмечает, что демократия основана на праве людей решать, в каком обществе жить и кому доверить власть, и такие решения не всегда рациональны или эффективны. ИИ может помогать упорядочивать информацию, переводить и анализировать, но вопрос в том, насколько ему позволено формировать саму реальность.
Она приводит примеры. Перед выборами в Венгрии в этом году на официальной странице премьер-министра Виктора Орбана в Facebook было опубликовано созданное ИИ видео, где лидер оппозиции Петер Мадьяр словно получает звонок от председателя Европейской комиссии Урсулы фон дер Ляйен; в ролике была пометка о создании с помощью ИИ. Перед выборами в Словакии в 2023 году распространялась сфабрикованная аудиозапись с лидером оппозиции Михалом Шимечкой. Перед прошлогодними парламентскими выборами в Германии партия «Альтернатива для Германии» использовала изображения, созданные ИИ.
В Эстонии столь серьёзных инцидентов пока не зафиксировано, но Якобсон призывает партии договориться о прозрачных принципах использования ИИ в предвыборных кампаниях.
