Эстонский технологический миллиардер предупреждает об опасностях ИИ, хотя сам заработает на нём миллиарды
Сооснователь Skype Яан Таллинн уже больше десяти лет предупреждает об экзистенциальных рисках искусственного интеллекта, но благодаря ранним инвестициям в Anthropic может заработать миллиарды, пишет The Wall Street Journal.
Эстонский технологический инвестор и сооснователь Skype Яан Таллинн (54 года) более десяти лет публично говорит об опасностях быстрого развития искусственного интеллекта, при этом вкладывая деньги именно в те AI-компании, деятельность которых его беспокоит. Об этом сообщает The Wall Street Journal.
Недавно Таллинн провёл неделю в Нью-Йорке во время сессии Генеральной Ассамблеи ООН — очередная остановка в его насыщенном поездками году, во время которого он убеждает предпринимателей, инвесторов и политиков серьёзно отнестись к тому, что развитие ИИ может представлять угрозу для существования человечества.
Будучи одним из первых инвесторов Anthropic, Таллинн может заработать ещё несколько миллиардов после ожидаемого первичного публичного размещения акций компании. Именно опасения по поводу безопасности ИИ, а не их отсутствие, побудили его инвестировать — по его словам, цель — добиться большего внимания к безопасности в отрасли.
Тема получила широкий общественный резонанс после того, как исследователь Anthropic Джейкоб Коксон уволился, предупредив, что развитие ИИ может выйти из-под контроля. Anthropic, разработчик Claude и конкурент OpenAI, заявляет, что ставит безопасность на первое место в своей работе.
В своём заявлении Таллинн отметил, что угроза воспринимается недостаточно серьёзно и что отрасль спешит создать технологию, способную уничтожить человечество. Он призвал больше людей требовать права понимать эти риски и открыто говорить о них.
Среди опасений Таллинна — конкуренция между лабораториями ИИ, соперничество США и Китая, а также растущая способность ИИ самосовершенствоваться. Он также описывал крайние сценарии — например, центры обработки данных ИИ, занимающие сельскохозяйственные земли и вызывающие нехватку продовольствия, или системы ИИ, изменяющие атмосферу так, что Земля становится непригодной для жизни.
По словам друзей и коллег, Таллинн рассуждает так: если бы он не инвестировал в Anthropic, его место мог занять инвестор, менее обеспокоенный безопасностью. Раунно Мильянд, управляющий партнёр инвестиционной компании Таллинна Metaplanet, отметил, что инженерам, заботящимся о безопасности, приходится выбирать: отстраниться и посвятить время близким или попытаться влиять на процесс, повышая шансы человечества на выживание.
