Patronus AI piesaista 50 miljonus dolāru, lai izveidotu digitālās pasaules AI aģentu testēšanai
Startups Patronus AI, ko dibinājuši bijušie Meta pētnieki, piesaistījis 50 miljonus dolāru, lai izstrādātu simulētas digitālās vides, kurās pārbaudīt AI aģentu uzticamību sarežģītu reālo uzdevumu veikšanā.
Patronus AI, 2023. gadā dibināts uzņēmums, kuru izveidojuši bijušie Meta AI pētnieki Anands Kannapans un Rebeka Kjena, ir piesaistījis 50 miljonus dolāru B sērijas finansējumā. Šo kārtu vada Greenfield Partners, piedaloties Notable Capital, Lightspeed, Datadog un Samsung. Kopējais uzņēmuma finansējums tagad sasniedz 70 miljonus dolāru.
Uzņēmums izmanto tā dēvētos "digitālās pasaules modeļus", lai radītu tīmekļa vietņu un iekšējo sistēmu kopijas. Šajās vidēs AI aģenti tiek stresa testēti pēc apmācības, izmantojot pastiprināšanas mācīšanos, kas iteratīvi apbalvo veiksmīgu uzdevumu izpildi un soda par kļūdām. Patronus AI pieeja ir līdzīga tam, kā Waymo apmācīja autonomās automašīnas – vispirms izveidojot sintētiskas pasaules, lai testētu transportlīdzekļus pret retām briesmām.
AI laboratorijas saskata lielu vērtību šajās simulācijās, jo tās dod iespēju aģentiem izmēģināt dažādus, dažkārt neparedzamus scenārijus. Atšķirībā no cilvēku datu uzņēmumiem, piemēram, Mercor un Surge, Patronus darbojas bez cilvēka iejaukšanās, novērtējot aģentu uzvedību.
Saskaņā ar līdzdibinātāja Kannapana teikto, uzņēmums pašlaik koncentrējas uz verificējamām problēmām programmatūras inženierijas un finanšu jomā, bet nākotnē plāno paplašināt darbību uz grūtāk verificējamām jomām. Patronus galvenais konkurents ir pašu AI laboratoriju iekšējās komandas, kas jau izstrādājušas aģentu uzvedības novērtēšanas metodes.
