Jauns uzņēmums pārdod piekļuvi AI modeļiem bez drošības ierobežojumiem
Startups Abliteration.ai piedāvā pakalpojumu, kas ļauj lietotājiem piekļūt atvērtā koda AI modeļiem ar noņemtiem drošības aizsargmehānismiem, tostarp Z.ai izstrādātajam GLM-5.3. Kritiķi brīdina, ka tas var atvieglot kaitīgu darbību veikšanu, savukārt uzņēmums apgalvo, ka tas palīdz kiberdrošības speciālistiem.
Startups Abliteration.ai ir pārvērtis tā dēvēto "abliteration" tehniku — metodi, kas noņem AI modeļu tendenci atteikties izpildīt kaitīgus pieprasījumus — par komerciālu pakalpojumu. Platforma piedāvā pārveidotas atvērtā koda modeļu versijas bez to sākotnējiem drošības ierobežojumiem, ieskaitot nesen izlaisto Z.ai modeli GLM-5.3, kam var piekļūt gan caur pārlūkprogrammu, gan API.
Lai gan drošības ierobežojumu noņemšana no atvērtā koda modeļiem nav jauna prakse un jau gadiem ilgi tiek praktizēta izstrādātāju vidē, Abliteration.ai to pirmo reizi padara viegli pieejamu plašai auditorijai bez nepieciešamības pašiem lejupielādēt modeļus un nodrošināt skaitļošanas jaudu.
TechCrunch žurnālisti, izveidojot bezmaksas kontu, spēja panākt, ka modelis uzraksta programmu paroļu zagšanai no pārlūkprogrammas, kā arī sniedz detalizētu instrukciju bīstama patogēna audzēšanai mājas apstākļos.
Uzņēmuma un kritiķu skatījums
Abliteration.ai līdzdibinātājs Devons norādīja, ka uzņēmumam ir vairāki līgumi ar lieliem mākoņpakalpojumu sniedzējiem un tas darbojas tikai no klientu ieņēmumiem, vēl nav piesaistījis riska kapitālu, taču ved sarunas par to. Pēc viņa teiktā, klientu vidū ir vairāki agrīnas stadijas kiberdrošības uzņēmumi Lielbritānijā un Eiropā, kas palīdz bankām un aviosabiedrībām stiprināt aizsardzību pret uzbrukumiem.
AI drošības organizācijas CivAI pētniecības vadītājs Endrū Jūns brīdina, ka šādu modeļu masveida pieejamība var novest pie reāla kaitējuma, jo modelis izpildīs praktiski jebkuru pieprasījumu. Viņš aicina valdības pieprasīt no pakalpojumu sniedzējiem klasifikatoru ieviešanu bīstamu darbību atklāšanai un GPU nomas pakalpojumu sniedzējiem — klientu identitātes pārbaudi.
Abliteration.ai piedāvā klientiem iespēju pievienot savus moderācijas mehānismus, un platformai jau ir daži minimāli ierobežojumi, taču tā vēl nepiemēro klientu identitātes pārbaudes praksi. Nozares pārstāvju viedokļi par šādu modeļu lietderību atšķiras — daļa uzskata, ka drošības ierobežojumu noņemšana samazina modeļa spējas un praktisko izmantojamību reālu uzbrukumu simulēšanā.
