OpenAI, ziņots, likvidējusi savu gatavības komandu
Financial Times vēsta, ka OpenAI pagājušā mēneša beigās izformējusi komandu, kas vērtēja AI modeļu bīstamos riskus. Tas ir jaunākais no vairākiem drošības jomas samazinājumiem uzņēmumā pēdējo gadu laikā.
Saskaņā ar Financial Times ziņoto, OpenAI pagājušā mēneša beigās izformējusi tā saukto gatavības (preparedness) komandu, kuras uzdevums bija izvērtēt, vai mākslīgā intelekta modeļi rada nopietnus riskus, un izstrādāt veidus, kā tos mazināt — piemēram, novērst iespēju, ka modelis varētu izlauzties no kontroles un uzlauzt citu uzņēmumu sistēmas. Ziņots, ka atbildība tagad sadalīta pa konkrētām jomām, piemēram, bioloģiskajiem un kiberdraudiem, un nodota jau esošajām komandām.
Daļa no plašākas pārstrukturēšanas
Šī ir jaunākā izmaiņa uzņēmumā, kas pēdējā laikā piedzīvo būtiskas pārmaiņas, virzoties uz plānoto lielo publisko akciju piedāvājumu (IPO). Pēdējo gadu laikā OpenAI pakāpeniski atteikusies no plašāka pētniecībā balstīta modeļa, likvidējot arī savas AGI gatavības un tā sauktās superlīdzināšanas (superalignment) komandas.
Nesen uzņēmumu pametuši vairāki ar drošību un ētiku saistīti darbinieki — ētikas vadītāja Chloé Bakalar, galvenais futūrists Josh Achiam un drošības vadītājs Johannes Heidecke. Tas licis daļai kritiķu, tostarp Jan Leike, kurš no OpenAI aizgāja 2024. gadā, Financial Times paust viedokli, ka uzņēmums drošības jautājumus atstāj otrajā plānā, dodot priekšroku "spilgtu produktu" veidošanai.
Gatavības komandas vadītājs Dylan Scandinaro, kurš pie OpenAI pievienojās februārī, aizgājis no Anthropic, tagad pievērsīsies tā sauktās "rekursīvi sevi uzlabojošas" mākslīgā intelekta ietekmes izpētei.
