OpenAI и Broadcom анонсировали чип для вывода больших языковых моделей
OpenAI и Broadcom разработали специализированный чип «Jalapeño» для вывода больших языковых моделей в центрах обработки данных, обещая значительно лучшую производительность на ватт по сравнению с текущими решениями.
OpenAI, создатель ChatGPT и Codex, и Broadcom, известный производитель полупроводников, объявили о новом чипе под названием «Jalapeño», предназначенном специально для вывода больших языковых моделей (LLM) в центрах обработки данных. Обе компании заявляют, что это первое поколение долгосрочного проекта, в рамках которого чипы будут постоянно совершенствоваться.
Broadcom поясняет, что эта ASIC (специализированная интегральная схема) была разработана с нуля на основе «детальных инсайтов» из бесед с исследователями OpenAI, а её создание опиралось на дорожную карту OpenAI для будущих моделей и продуктов. Разработка и производство чипа заняли девять месяцев.
OpenAI утверждает, что «ранние испытания показывают, что Jalapeño обеспечит значительно лучшую производительность на ватт, чем текущие передовые решения», но отмечает, что замеры производительности ещё не завершены. Подробный технический отчёт будет представлен в ближайшие месяцы.
