Глава Y Combinator Гэрри Тан считает, что открытым ИИ-лабораториям США тоже стоит «дистиллировать» передовые модели
Глава Y Combinator Гэрри Тан заявил, что регуляторам не стоит вмешиваться в дистилляцию ИИ-моделей, и хочет, чтобы небольшие открытые лаборатории США применяли этот метод к ведущим американским моделям. Его позиция расходится с предупреждениями Anthropic о незаконных практиках китайских компаний.
Глава Y Combinator Гэрри Тан в недавнем интервью CNBC заявил, что регуляторам не стоит вмешиваться в практику дистилляции моделей — даже когда китайские ИИ-лаборатории используют её для извлечения знаний у ведущих американских разработчиков. Более того, по его мнению, американским лабораториям стоило бы поступать так же.
Дистилляция — это процесс, при котором разработчик одной модели интенсивно опрашивает чужую модель, чтобы понять принципы её работы и логику рассуждений. Этот метод широко и легально применяется в отрасли для обучения новых моделей.
В разговоре с TechCrunch Тан пояснил, что хочет, чтобы небольшие американские лаборатории, работающие с открытыми моделями, применяли те же приёмы обучения к ведущим американским разработчикам, создавая тем самым более широкий набор открытых моделей американского, а не китайского происхождения. Он подчеркнул, что не поддерживает использование украденных учётных данных или мошенничество — компании должны действовать законным путём.
Два аргумента
Позиция Тана строится на двух тезисах. Во-первых, по его мнению, это чрезмерно — когда лаборатории закрытых моделей диктуют клиентам, что делать с информацией, которую модели им предоставляют. Во-вторых, он отмечает, что сами эти лаборатории в своё время без разрешения собрали огромные объёмы человеческих знаний, включая материалы, защищённые авторским правом, для обучения собственных систем.
Его заявления прозвучали на фоне того, что Anthropic на этой неделе опубликовала уже второй отчёт, утверждающий, что китайские лаборатории проводят незаконные атаки дистилляции, скрывая свою личность и используя мошенничество и украденные учётные данные. Глава Anthropic Дарио Амодеи ранее публично призывал регуляторов бороться с дистилляцией — позицию, которую Тан не разделяет.
Тан заявил, что стремится к балансу между открытыми и передовыми закрытыми лабораториями: последние должны оставаться жизнеспособным бизнесом, а открытые модели — давать людям свободу и доступ. Худшим сценарием он назвал сосредоточение всей мощи ИИ в руках одной закрытой компании.
