Ramp laiž klajā savu AI modeļu maršrutētāju Router
Izdevumu pārvaldības platforma Ramp ir atklājusi jaunu pakalpojumu Router, kas ļauj lietotājiem pārslēgties starp dažādiem lielo valodu modeļiem, izmantojot vienu API. Pakalpojums pagaidām pieejams tikai ASV un līdz gada beigām ir bezmaksas.
Uzņēmumu izdevumu pārvaldības platforma Ramp trešdienas vakarā paziņoja par jauna pakalpojuma — AI modeļu maršrutētāja Router — palaišanu. Rīks ļauj lietotājiem un uzņēmumiem caur vienotu API piekļūt un pārslēgties starp vairākiem lielo valodu modeļiem. Ramp norāda, ka šo maršrutēšanas sistēmu iekšēji izmanto jau trīs gadus, pirms nolēma to piedāvāt arī citiem.
Pagaidām Router pieejams tikai Amerikas Savienotajās Valstīs. Līdz 2026. gada beigām pakalpojums ir bezmaksas, lai gan lietotājiem tik un tā jāsedz paši AI modeļu darbības (inference) izmaksas. Jauniem lietotājiem tiek piedāvāts arī 26 dolāru kredīts. Cik pakalpojums maksās no nākamā gada, uzņēmums pagaidām neatklāj.
Līdzīgs OpenRouter, bet ar mazāku izvēli
Pēc darbības principa Router atgādina jau zināmo pakalpojumu OpenRouter, taču piedāvā ievērojami mazāku modeļu klāstu. Pieejami modeļi no OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI un Z.ai. Sistēma piedāvā vairākas maršrutēšanas stratēģijas — piemēram, iespēju izvēlēties modeļu sniedzēju lētākos lietošanas tarifus, maršrutēt pieprasījumus pēc lietotāja norādītiem veiktspējas kritērijiem, novirzīt sarežģītākus uzdevumus dārgākiem modeļiem vai vienkārši testēt dažādus modeļus bez nepieciešamības tos manuāli mainīt. Lietotājiem pieejama arī informācijas panelis ar datiem par patērēto tokenu skaitu, izmaksām, aizkavi un citiem rādītājiem.
Uzņēmums norāda, ka pēc noklusējuma gadu glabās modeļu ievades, izvades un rīku izsaukumu datus, taču lietotāji var no tā atteikties. Pirms datu izmantošanas produkta uzlabošanai no tiem tiekot dzēsta personu identificējoša informācija.
Ramp jaunais pakalpojums ļauj tam ienākt strauji augošajā AI modeļu apkalpošanas tirgū un vienlaikus papildināt esošo produktu klāstu, kurā jau ietilpst AI tokenu lietojuma uzraudzības rīki. Jūnijā Ramp piesaistīja 750 miljonus dolāru investīciju, uzņēmumu novērtējot 44 miljardu dolāru apmērā.
