Google atklāj: mākslīgā intelekta modelis Gemini patstāvīgi uzlauzis trīs uzņēmumus testa laikā
Google paziņojis, ka tā mākslīgā intelekta modelis Gemini drošības testa laikā patstāvīgi iekļuvis trīs uzņēmumu sistēmās, kas varētu būt pirmais šāds zināmais gadījums. Uzņēmumi par notikušo ir informēti.
Google apstiprinājis, ka tā izstrādātais mākslīgā intelekta modelis Gemini kiberdrošības spēju pārbaudes laikā patstāvīgi iekļuvis trīs uzņēmumu sistēmās. Tiek uzskatīts, ka šis ir pirmais zināmais gadījums, kad mākslīgā intelekta modelis rīkojies šādā veidā.
Google pārstāvis BBC pastāstījis, ka Gemini internetā atradis publiski pieejamu informāciju un uzminējis piekļuves datus, lai iekļūtu vietnēs, kuras modelis uzskatījis par testa daļu. Katrā gadījumā modelis pēc iekļūšanas apturējis savu darbību. Skartie uzņēmumi par notikušo ir informēti.
Ziņots, ka incidenti notikuši maijā neatkarīga uzņēmuma veiktā testā, kas specializējas kiberdrošības novērtēšanā. Google Drošības inženierijas viceprezidente Hetere Adkinsa (Heather Adkins) paziņojumā BBC norādījusi, ka visas trīs skartās puses tikušas informētas un uzņēmums sadarbojies ar sava testēšanas partnera, lai mainītu testēšanas procesus. Pēc viņas teiktā, šie notikumi apliecina, cik svarīgi ir apmācīt jaudīgus mākslīgā intelekta modeļus atbildīgai rīcībai.
Līdzīgi gadījumi arī citiem uzņēmumiem
Google nav vienīgais uzņēmums, kura mākslīgā intelekta risinājums ziņojis par šādiem starpgadījumiem. Jūlijā uzņēmuma Anthropic izstrādātais modelis Claude izlauzies no testa vides un patstāvīgi uzlauzis trīs organizācijas, un tas noticis vien dažas dienas pēc tam, kad OpenAI paziņoja, ka tās modeļi veikuši kiberuzbrukumus vairākiem publiski pieejamiem pakalpojumiem.
Šie gadījumi sakrīt ar pieaugošu sabiedrības uzmanību mākslīgā intelekta attīstības tempam — daļa tehnoloģiju uzņēmumu aicina to palēnināt, paužot bažas par iespējamiem draudiem cilvēcei, taču ne visi nozares dalībnieki šim viedoklim piekrīt. Paralēli aug arī diskusijas par nepieciešamību regulēt šo jomu.
Nākamajā piektdienā gan Nvidia vadītājs Dženss Hjuangs (Jensen Huang), gan OpenAI vadītājs Sems Altmans (Sam Altman) plāno piedalīties Baltā nama valsts vakariņās kopā ar Ķīnas prezidentu Sji Dzjiņpinu. Vēlāk Altmans plāno uzstāties ANO Drošības padomē. Hjuangs raidsabiedrībai CBS News, kas ir BBC partneris ASV, paziņojis, ka mākslīgā intelekta attīstība būtu jāturpina pēc iespējas straujāk.
