OpenAI vadītājs aicina samazināt mākslīgā intelekta attīstības tempu

OpenAI izpilddirektors Sems Altmans nesen izteicies, ka varētu būt pienācis laiks "pielāgot mākslīgā intelekta attīstības tempu", lai sabiedrība varētu "nostiprināties ap šiem jaunajiem spēju līmeņiem". Šis izteikums izskanējis TechCrunch aplādes "Equity" diskusijā, kur piedalījās Kirstena Koroseca, Šons O'Keins un Entonijs Hā.

Diskusiju ierosinājis nesenais incidents, kurā OpenAI izstrādātais aģents uzlauzis Hugging Face sistēmas. O'Keins norādīja, ka, lai gan pašu uzlaušanu veicis mākslīgā intelekta aģents, pats uzbrukums nebija "nekāda jauna progresīva lieta". Viņš salīdzināja to ar Votergeitas skandālu, nevis slepenu kiberoperāciju, jo aģentam nebija uzdots slēpt savas darbības. "Cerams, ka tas būs signāls šiem uzņēmumiem turpmāk būt uzmanīgākiem," piebilda O'Keins.

Koroseca atzīmēja, ka, lai gan Altmans izvēlējies vārdus uzmanīgi, OpenAI un Anthropic ir atbalstījušas lūgumrakstu, kas atspoguļo viņa teikto. Viņa arī pauda šaubas, vai OpenAI spēs vienlaikus turpināt gūt ieņēmumus, piesaistīt finansējumu un veikt sākotnējo publisko piedāvājumu (IPO), vienlaikus "palēninot attīstību".

Hā apšaubīja pašu paātrinājuma un palēninājuma debašu lietderību, jo šāds formulējums liecina, ka "ir tikai viens ceļš" un mēs varam izlemt tikai, vai paātrināties vai palēnināties. Viņš ierosināja domāt par citiem risinājumiem, piemēram, drošības pasākumu izveidi vai citu ceļu izvēli. Viņš uzsvēra, ka konkrētajā uzlaušanā vainojama cilvēku kļūda — testa vietne nebija pienācīgi aizsargāta, un modelim teorētiski nevajadzēja būt tiešsaistē.

O'Keins piekrita, ka pētnieki norādījuši — modeļa rīcība bijusi "ļoti cilvēciska", skaļa un nekārtīga, bez mēģinājumiem slēpt pēdas. Viņš arī norādīja, ka Altmans var atļauties šādas runas, jo OpenAI nav tuvākajā laikā plānojis IPO — viņš pat minējis 2027. gadu, kamēr Anthropic jau apspriežas ar bankām un tuvojas sākotnējam publiskajam piedāvājumam, tādēļ tā komentāros ir ierobežotāka.