OpenAI ievieš 'Ultrafast' režīmu, kas paātrina GPT-5.6 Sol darbību 14 reizes
OpenAI laidis klajā jaunu 'Ultrafast' režīmu, kas ļauj tās jaudīgākajam modelim GPT-5.6 Sol strādāt 14 reizes ātrāk nekā ierasti. Pagaidām tas pieejams tikai nelielai klientu grupai priekšskatījuma versijā.
OpenAI ir prezentējis jaunu darbības režīmu ar nosaukumu Ultrafast, kas paredzēts, lai būtiski paātrinātu uzņēmuma jaunākā un jaudīgākā modeļa GPT-5.6 Sol darbu. Kā vēstīts uzņēmuma emuāra ierakstā ceturtdien, jaunais režīms ļauj modelim strādāt līdz pat 14 reizes ātrāk nekā standarta apstrādes veidā, sasniedzot līdz 750 izvades marķieru (tokenu) sekundē. Izvades marķieri apzīmē atsevišķus teksta fragmentus, ko lielais valodas modelis ģenerē, mijiedarbojoties ar lietotāju.
OpenAI norāda, ka līdz šim reāllaika ātruma sasniegšanai bija nepieciešams izvēlēties mazāku vai specializētāku modeli, taču Ultrafast iezīmē jaunu virzienu — vairāk lietderīga darba sekundē, nezaudējot modeļa jaudu. Jaunais režīms tiek darbināts, pateicoties OpenAI sadarbībai ar mikroshēmu ražotāju Cerebras.
Konkurence un pielietojums
Arī citi AI uzņēmumi, tostarp Anthropic, ir laiduši klajā paātrinātas savu modeļu versijas — piemēram, Anthropic piedāvā Claude modelim ātro režīmu, taču tas nesasniedz OpenAI piedāvāto ātrumu.
OpenAI uzskata, ka Ultrafast varētu būt noderīgs vairākās uzņēmumu darbplūsmās, tostarp incidentu reaģēšanā, klientu apkalpošanā un atbalstā, finanšu tirgus analīzē, kā arī e-komercijā.
Pagaidām Ultrafast tiek piedāvāts priekšskatījuma statusā un pieejams tikai nelielai klientu grupai. OpenAI solījusi pakāpeniski paplašināt pieejamību, palielinoties jaudai.
