Отчёт METR: ИИ существенно ускоряет исследования в области ИИ в Anthropic
Независимая исследовательская организация METR установила, что разработка ИИ в Anthropic за последний год шла примерно вдвое быстрее, чем годом ранее. Автор разбора отчёта считает, что собственный порог «резкого ускорения», установленный компанией, скорее всего, уже пройден.
Исследователь в области безопасности искусственного интеллекта (ИИ), работающий в организации METR, опубликовал разбор публичного отчёта METR об ускорении исследований ИИ в компании Anthropic, разработчике моделей ИИ Claude. Авторы отчёта пришли к выводу, что с октября 2025 года по октябрь 2026 года прогресс в возможностях ИИ в компании шёл примерно вдвое быстрее, чем в предыдущие двенадцать месяцев. Автор разбора отмечает, что в проекте не участвовал и не видел полной версии отчёта без вымарок.
О каком пороге идёт речь
В документе S1 (регистрационном документе для публичного размещения акций) Anthropic написала, что в ближайшее время может достичь порога «резко ускоренного прогресса», определённого в её Политике ответственного масштабирования (RSP). Согласно ей, это происходит, когда общий прогресс возможностей идёт как минимум вдвое быстрее самого высокого устойчивого темпа, наблюдавшегося, пока ИИ почти не участвовал в исследованиях ИИ, и когда это можно объяснить автоматизацией исследований, а не ростом вычислительных мощностей или других ресурсов. Опираясь на отчёт и текст политики, автор разбора заключает, что порог, скорее всего, уже достигнут.
Ускорение измерялось по AECI — внутренней версии индекса возможностей Epoch Capabilities Index, которую использует Anthropic. По оценке авторов отчёта, примерно 80% нынешнего ускорения связано с ИИ. Значительная часть подтверждающих данных в отчёте вымарана.
Что это значит для исследователей
Автор разбора подсчитывает: чтобы общий прогресс удвоился, производительность труда исследователей должна вырасти гораздо сильнее — возможно, примерно в 10 раз. Это согласуется с неформальными оценками сотрудников Anthropic, которые говорят, что внутренние модели дают им около 12-кратный прирост. Авторы METR не нашли свидетельств препятствий, которые остановили бы нарастающее ускорение.
Опасения по поводу безопасности
Автор считает, что такая траектория требует очень надёжной защиты весов моделей и алгоритмов, а также механизмов мониторинга и управления, и утверждает, что отрасль пока до этого уровня не дошла. Он также сожалеет, что значительная часть исходных данных вымарана, из-за чего читателям приходится полагаться на доверие.
