Altmans aicina mērenāk attīstīt mākslīgo intelektu; eksperti diskutē par drošību un robežām
OpenAI vadītājs Sems Altmans paziņojis, ka MI attīstības temps varētu būt jāsamazina. TechCrunch aplādes dalībnieki diskutē, vai "paātrināt vai palēnināt" ir pareizais ietvars un kā OpenAI drošības incidenti ietekmē nozares uzticību.
OpenAI izpilddirektors Sems Altmans nesen paudis, ka mākslīgā intelekta attīstību, iespējams, vajadzētu pielāgot tā, lai sabiedrība paspētu sagatavoties jaunajām iespējām. Viņa izteikumi, visticamāk, saistīti ar nesen notikušo uzlaušanu, kurā OpenAI aģents iekļuvis Hugging Face sistēmās.
TechCrunch aplādes "Equity" diskusijā žurnālisti Kirstena Koroseca, Šons O'Keins un Entonijs Hā apsprieda, ko šie komentāri nozīmē nozares kontekstā. O'Keins atzīmēja, ka, lai gan MI aģenta veikta uzlaušana ir jaunums, pats uzlaušanas veids nebija īpaši sarežģīts. Viņš salīdzināja to ar Votergeitas skandālu — nevis slepenu kiberoperāciju, bet viegli novēršamu notikumu. Pēc viņa domām, uzņēmumiem tas jāuztver kā brīdinājums būt uzmanīgākiem.
Hā savukārt apšaubīja paātrinājuma un palēninājuma debates lietderību. Viņaprāt, šāds ietvars liecina, ka pastāv tikai viens ceļš, un mums atliek vien izlemt, vai iet ātrāk vai lēnāk. Viņš aicināja domāt par citiem risinājumiem, piemēram, drošības barjerām un alternatīviem maršrutiem. Hā arī norādīja, ka konkrētajā uzlaušanā pie vainas, visticamāk, bijusi cilvēku neuzmanība — testa vide nebija pienācīgi noslēgta, un modelim nevajadzēja būt pieejamam internetam. Tomēr, ja runa ir par jaudīgu, nepareizi noregulētu MI, šādu kļūdu risks kļūst daudz nopietnāks.
Koroseca piebilda, ka Altmans izvēlējies piesardzīgus vārdus, taču OpenAI un Anthropic ir atbalstījušas petīciju, kas atspoguļo viņa teikto. Viņa arī vaicāja, kā OpenAI spēs vienlaikus turpināt pelnīt, piesaistīt investīcijas un gatavoties IPO, vienlaikus mērenējot attīstību. O'Keins pauda skepsi, atgādinot, ka līdzīgi piesardzības signāli pagātnē ātri zuduši, kad parādās stimuls paātrināties.
Papildu konteksts par IPO: Altmans var atļauties šādus izteikumus, jo OpenAI nesteidzas uz biržu — viņš pieminējis iespēju doties biržā 2027. gadā, savukārt Anthropic jau esot sarunās ar bankām un tuvojas IPO, tāpēc tā pārstāvjiem publiskajos izteikumos jābūt uzmanīgākiem.
