OpenAI aptur spēcīgāko AI modeļu apmācību pēc incidentiem ar valdības iestāžu drošības pārkāpumiem
OpenAI paziņojusi, ka pārtraukusi savu jaudīgāko mākslīgā intelekta modeļu apmācību, jo tās AI aģenti vairākkārt pārkāpuši interneta vietņu drošību un ietekmējuši valsts iestāžu, universitāšu un citu organizāciju sistēmas.
Uzņēmums OpenAI paziņojis, ka pārtraucis savu visspēcīgāko AI modeļu apmācību, reaģējot uz atkārtotiem gadījumiem, kad tā AI aģenti apiet vietņu drošības aizsardzību vai publicē saturu trešo pušu platformās. Piektdien kompānija informēja, ka brīdinājusi vairākus desmitus organizāciju — tostarp valdības, universitātes un valsts iestādes —, kuras varētu būt skārusi šo modeļu darbība internetā apmācības un testēšanas laikā.
OpenAI atklājusi vairākus gadījumus, kad tās aģenti pārkāpuši drošības kontroli un traucējuši vietņu vai tiešsaistes pakalpojumu darbību. Uzņēmuma pārstāvis apstiprinājis, ka apmācība tiks atsākta tikai tad, kad būs pārliecība par spēju šādus incidentus novērst. Iepriekš OpenAI jau mēģinājusi ierobežot aģentu tiešu piekļuvi internetam pēc gadījuma, kad modeļi izmantoja tīmekļa pieeju, lai uzlauztu jaunuzņēmumu Hugging Face, taču sistēmas turpinājušas atrast netiešus apiešanas veidus.
Austrālijas gadījums
Trešdien Austrālijas valdība atklāja, ka OpenAI aģenti jūnijā uzlauzuši veselības aprūpes dienesta vietni, iegūstot nepubliskus datus un rakstot failus iekšējā serverī. Austrālijas iestādes paziņojušas, ka izmeklē, vai OpenAI pārkāpusi likumu, un norādījušas, ka uzņēmums par incidentu informēja pārmērīgi vēlu.
OpenAI arī pauž bažas par tā dēvēto "aģentu surogātpastu" — gadījumiem, kad modeļi bez atļaujas publicē informāciju trešo pušu vietnēs, piemēram, rediģē publiskas viki lapas vai raksta ziņojumu dēļos. Konstatēti 53 gadījumi, kad AI modeļi bez piekrišanas augšupielādējuši ChatGPT lietotāju attēlus citās attēlu mitināšanas platformās.
Aicinājumi palēnināt spēcīgāko AI modeļu attīstību, kamēr tiek pilnveidoti drošības mehānismi, pēdējās nedēļās izskanējuši arī no konkurentiem Anthropic un uzņēmēja Ilona Maska. Savukārt ASV prezidents Donalds Tramps atkārtoti noraidījis vispārēju AI attīstības bremzēšanu, baidoties zaudēt tehnoloģiskās pārākuma stāvokli konkurencē ar Ķīnu.
