Тимнит Гебру: разговоры об «экзистенциальной угрозе» ИИ — вредный отвлекающий маневр

Известная исследовательница искусственного интеллекта Тимнит Гебру заявила, что не считает ИИ экзистенциальной угрозой для человечества, назвав подобный нарратив не просто отвлекающим маневром, а откровенно вредным.

Гебру получила известность несколько лет назад после конфликта с Google из-за научной статьи, в которой указывалось на предвзятость ИИ-систем компании и на то, что большие языковые модели фактически воспроизводят данные, на которых были обучены. Спор привёл к её уходу из Google, после чего она основала институт, изучающий вред от технологий.

Критика нарратива об экзистенциальном риске

Гебру прослеживает риторику об экзистенциальном риске вплоть до 2013 года, называя среди её давних сторонников Илона Маска и Питера Тиля. Она отмечает, что организации, предупреждающие о якобы угрожающем цивилизации потенциале ИИ, зачастую финансируются теми же миллиардерами, которые больше всех выиграют от роста ИИ-компаний и их будущих публичных размещений акций.

По её словам, представление ИИ как всемогущего «машинного бога» служит сразу нескольким целям: привлекает инвесторов, пугает правительства тем, что технология может первой достаться конкурентам, и отвлекает регуляторов от уже обсуждаемых конкретных проблем — споров об авторских правах, загрязнения от дата-центров и эксплуатации работников, размечающих данные.

Гебру также отмечает, что руководители ИИ-компаний, включая Сэма Альтмана и Дарио Амодеи, публично призывают к глобальному сотрудничеству по рискам ИИ, одновременно сопротивляясь конкретным регуляторным мерам, например, закону ЕС об ИИ. Она называет это формой регуляторного захвата.

В качестве решения Гебру указывает на конкретные шаги, предложенные бывшей главой FTC Линой Хан: борьбу с вводящим в заблуждение маркетингом, требование прозрачности и документирования источников обучающих данных, а также внимание к эксплуатации работников, размечающих данные для ИИ-систем по всему миру.