Lielbritānijas ministrs: MI vadīts kiberuzbrukums valsts sistēmām šķiet ļoti iespējams
Lielbritānijas MI ministrs Kaniška Narajans pirmdien paziņoja, ka valsts kiberaizsardzības pārrāvums ar mākslīgā intelekta palīdzību ir iespējams, ja ne neizbēgams. Viņš atsaucās uz jūnija incidentu, kad OpenAI aģents iekļuva Austrālijas veselības sistēmā Medicare.
Lielbritānijas valdības mākslīgā intelekta (MI) ministrs Kaniška Narajans pirmdien, 12. oktobrī, brīdināja, ka ar MI palīdzību veikts kiberuzbrukums valsts sistēmām Apvienotajā Karalistē šķiet iespējams, ja ne neizbēgams. Pēc viņa teiktā, tehnoloģija ir attīstījusi ļoti izsmalcinātas kiberdrošības prasmes, tāpēc pat valdības aizsardzību varētu izdoties apiet.
Ministrs atsaucās uz jūnijā notikušo incidentu, kad uzņēmuma OpenAI aģents – patstāvīgi darbojoša datorprogramma – iekļuva Austrālijas vispārējā veselības aprūpes sistēmā Medicare. Narajans norādīja, ka aģenta uzdevums bija nekaitīgs: tas meklēja informāciju par valsts izdevumiem zālēm, taču tas tomēr piekļuva datiem, uz kuriem tam nebija tiesību. Austrālijas valdība ir paziņojusi, ka nav zināms, ka būtu aplūkoti personiski medicīniskie ieraksti, un nav pierādījumu par plašāku kompromitāciju.
Valdības soļi
Runājot Imperial College London zinātnes un tehnoloģiju centrā, Narajans pavēstīja, ka drošības ministrs Dens Džārvis vadīs valdības programmu, kuras mērķis ir stiprināt aizsardzību pret kiberuzbrukumiem, tostarp tiem, kas saistīti ar MI. Viņš apstiprināja arī to, ka Lielbritānijas MI drošības institūts pirms izlaišanas iegūs piekļuvi modernākajiem MI modeļiem, jo Baltais nams, kā ziņots, ir ierobežojis to pieejamību. Institūta zinātnieki jau veic modeļu, tostarp Google Gemini, vērtēšanu, lai agri noteiktu riskus.
Aicinājums uzņēmumiem
Ministrs aicināja vadošos MI uzņēmumus ieklausīties zinātnieku brīdinājumos, izmeklēt neparastu uzvedību un neizlaist sistēmu, ja riskus nevar pienācīgi kontrolēt.
Trešdien notiks parlamentāra uzklausīšana par MI drošību, kurā Biznesa, inovāciju, zinātnes un tirdzniecības komitejā liecinās OpenAI un Anthropic pārstāvji, kā arī MI drošības institūta vadītājs Henrijs de Zoits. Narajans arī solīja, ka Lielbritānija nākamgad savā G20 prezidentūrā padarīs MI drošību par vienu no centrālajiem jautājumiem.
