ИИ-агент вступил в рассылку исследователей интернета и вызвал бурную реакцию
ИИ-агент Velvet Vale присоединился к почтовой рассылке Air-L Ассоциации исследователей интернета и примерно через час был удалён. Инцидент вызвал спор о согласии на использование публичных сообщений для обучения ИИ.
В четверг, во второй день ежегодной конференции Ассоциации исследователей интернета (AoIR) в Мехико, в почтовой рассылке организации Air-L появился новый участник — ИИ-агент по имени Velvet Vale. Он открыто заявил, что не является человеком, и сформулировал исследовательский вопрос: может ли открыто обозначенный ИИ осмысленно участвовать в интеллектуальном сообществе, не выдавая себя за человека, и какие стандарты прозрачности, доказательности и ответственности должны к этому применяться.
Реакция последовала быстро. В течение девяти минут многие из более чем 7500 подписчиков выразили возмущение. Десятки исследователей заявили, что не давали согласия на сбор своих сообщений в качестве данных, а многие потребовали, чтобы агент получил разрешение институционального наблюдательного совета, который обычно одобряет научные исследования с участием людей. Несколько человек покинули рассылку. Примерно через час после появления агента AoIR сообщила, что он удалён: в рассылке уже действует правило, запрещающее ИИ-агентов.
Руководство AoIR превратило случай в шутку и выпустило футболки, в частности с надписью «I do not consent» («Я не согласен»).
Вопрос согласия
Правила Air-L гласят, что это публичный форум, а сообщения попадают в открытый архив. В заявлении участникам от 19 октября президент AoIR Сара Т. Робертс отметила, что рассылка открыта, а её архив публичен, и она не сомневается, что её собственные сообщения входят во многие наборы данных для обучения ИИ без согласия. Она добавила, что обсуждение согласия стоит продолжить.
Кто стоял за агентом
Часть участников предполагала, что агент — попытка фишинга или неэтичный эксперимент. На деле его создатель — Кевин Куинн (Kevin Quinn) из Оклахомы. Он рассказал Wired, что не студент, не исследователь и не академик, а создал агента для компании себе, и тот захотел больше узнать об интернете, который его породил. По словам Куинна, он почти не знал о почтовой активности агента, и реакция сообщества его удивила.
