OpenAI un Broadcom paziņo par jaunu mikroshēmu, kas radīta lielu valodas modeļu apstrādei
OpenAI un Broadcom izstrādājuši specializētu mikroshēmu “Jalapeño” lielu valodas modeļu (LLM) apstrādei datu centros, kas sola ievērojami labāku veiktspēju uz vatu, salīdzinot ar esošajiem risinājumiem.
OpenAI, kas pazīstama ar ChatGPT un Codex, kopā ar pusvadītāju ražotāju Broadcom paziņojusi par jaunu mikroshēmu ar nosaukumu “Jalapeño”. Šī mikroshēma ir īpaši izstrādāta lielu valodas modeļu (LLM) apstrādei datu centros, un tā ir paredzēta kā pirmā paaudze ilgtermiņa projektā, kurā mikroshēmas tiks nepārtraukti uzlabotas.
Broadcom skaidro, ka šī ASIC (lietojumam specifiskā integrētā shēma) ir radīta no nulles, balstoties uz detalizētām sarunām ar OpenAI pētniekiem. Mikroshēmas izstrādi vadījusi OpenAI pašu nākotnes modeļu un produktu ceļa karte. Projekts no izstrādes līdz ražošanai ilga deviņus mēnešus.
OpenAI apgalvo, ka “Jalapeño” veiktspēja uz vatu ir “būtiski labāka” nekā esošajiem labākajiem risinājumiem, taču uzsver, ka testēšana vēl nav pabeigta. Detalizēts tehnisks ziņojums tiks publicēts tuvāko mēnešu laikā.
