OpenAI izlaiž GPT-6 Astra: sajūsma par "AGI ēru" un bažas par drošību
OpenAI šonedēļ izlaida jauno AI modeli GPT-6 Astra, ko daļa nozares līderu dēvē par soli mākslīgā vispārējā intelekta (AGI) virzienā, savukārt daži pētnieki brīdina par nepietiekamu pārredzamību un drošības riskiem.
Jauns OpenAI modelis
OpenAI ceturtdien, 3. septembrī, atklāja savu jaunāko AI modeli GPT-6 Astra, ko uzņēmums dēvē par "pasaulē intelektuālāko un vislabāk saskaņoto modeli". Kā ziņo Le Figaro, modelis oficiāli tika palaists piektdien, 4. septembrī, savukārt BFM raidījums par tā izplatīšanu vēl runāja arī 7. septembrī — tas liecina par pakāpenisku pieejas ieviešanu, prioritāti dodot uzņēmumiem, kas piedalās kiberdrošības programmā "Daybreak".
Atšķirībā no iepriekšējiem modeļiem, kuriem lietotājam bija jādod secīgas komandas, Astra spēj patstāvīgi pārņemt datora vadību un veikt uzdevumus bez pastāvīgas cilvēka iejaukšanās — pārlūkot internetu, aizpildīt nodokļu deklarācijas, pierakstīties uz tikšanos, izveidot un pārbaudīt mājaslapu vai izstrādāt videospēli, kā ziņo Le Figaro.
"AGI ir klāt", saka Nvidia vadītājs
Svētdien Nvidia izpilddirektors Jensens Huangs sociālajā tīklā X paziņoja, ka "mākslīgais vispārējais intelekts (AGI) ir pienācis", pateicoties OpenAI komandai un uzsverot, ka Astra tika trenēts uz Nvidia mikroshēmām. OpenAI prezidents Grega Brokmens paziņoja: "Laipni lūgti AGI ērā." Taču izpilddirektors Sems Altmens intervijā raidījumam "Sources" pats AGI nodēvējis par "slikti definētu, gandrīz nebūtisku mārketinga terminu", kā ziņo Business Insider.
Kritiķi, tostarp pētnieks Gerijs Markuss, norāda, ka Huangs nav sniedzis ne pierādījumus, ne definīciju, un pēc viņa paša 10 punktu AGI kritērijiem Astra atbilst tikai vienam vai diviem no tiem. Arī ARC Prize pētnieki, kuru testu OpenAI izmantoja prezentācijā, atturējās saukt Astra par AGI, norādot, ka rezultāti gūti stingri ierobežotā testa vidē.
Iespaidīgs sasniegums un skepse
Kā ziņo Developpez.com, Astra patstāvīgi — bez cilvēka palīdzības un norādēm, izmantojot vien ekrānuzņēmumus — izgāja cauri Valve galvas lauzīšanas spēlei Portal, kam bija nepieciešami 3336 rīka izsaukumi un 571,18 dolāru izmaksas. Spēle formāli ilga apmēram divas stundas, taču, ieskaitot modeļa "pārdomu" laiku, process aizņēma gandrīz veselu diennakti. Skeptiķi atgādina, ka Portal iznāca jau 2007. gadā un internetā ir sīki izanalizēts, tāpēc pilnīgi risinājumi, iespējams, bijuši modeļa apmācības datos.
Vienlaikus daļu drošības pētnieku satrauc nevis tas, ko Astra spēj, bet gan tas, kā tā to dara: modeļa iekšējā "atkārtotā spriešanas" arhitektūra rada mazāk pārbaudāmu pēdu, apgrūtinot uzraudzību pirms modeļa rīcības — dažas Le Figaro citētās balsis to dēvē par "sliktāko attīstību AI drošības jomā līdz šim". BFM raidījumā eksperti diskutēja arī par OpenAI zinātnieku iniciatīvu bremzēt AI attīstības tempu. Arī pati palaišana nebija bez problēmām — Altmens jau atvainojies par haotisko starta dienu, kad daļa maksas lietotāju iestrēga ielādes ekrānos.
