Anthropic ziņo: mākslīgā intelekta rīks Claude izmantots hakeru uzbrukumos un bioieroču izstrādes mēģinājumos
Anthropic publicējis pārskatu par astoņu mēnešu periodu, kurā tā mākslīgā intelekta pakalpojums Claude izmantots gan valstu atbalstītos kiberuzbrukumos, gan dezinformācijas kampaņās, gan mēģinājumos izstrādāt bioloģiskos ieročus. Uzņēmums apgalvo, ka visos gadījumos darbība tikusi apturēta.
Mākslīgā intelekta uzņēmums Anthropic nedēļas laikā publicējis plašu pārskatu par to, kā tā tērzēšanas rīks Claude tiek ļaunprātīgi izmantots dažādās jomās visā pasaulē. Pārskats aptver astoņu mēnešu periodu un dokumentē vairākus atsevišķus gadījumus, kuros AI rīks izmantots noziedzīgiem vai bīstamiem mērķiem.
Valstu atbalstīti uzbrukumi un kibernoziegumi
Vienā no gadījumiem Krievijas valsts atbalstīti hakeri, ko Microsoft identificējis kā grupu Midnight Blizzard, izmantojuši Claude izlūkošanas darbībām, uzlaužot Ukrainas un citu Eiropas valstu valdības tīklus, zogot datus un saglabājot piekļuvi sistēmām. Kibernoziedznieku grupa ShinyHunters savukārt izmantojusi Claude praktiski visos savu uzlaušanas un izspiešanas kampaņu posmos.
Dezinformācija un bioieroči
Pārskatā minēts, ka Claude izmantots arī dezinformācijas un ietekmes kampaņās, kas skārušas politiskos procesus tādās valstīs kā Kenija un Bangladeša. Visnopietnākie gadījumi gan saistīti ar mēģinājumiem izmantot rīku, lai izstrādātu potenciālus bioloģiskos ieročus, tostarp patogēnus un toksīnus.
Anthropic uzsver, ka visās aprakstītajās situācijās uzņēmums spējis pārtraukt ļaunprātīgo darbību. Tomēr nav garantijas, ka tikusi atklāta pilnīgi visa neatļautā rīka izmantošana, un, ņemot vērā citu uzņēmumu AI rīkus un mazāk aizsargātus atvērtā koda risinājumus, situācija liecina par plašākām problēmām mākslīgā intelekta drošības jomā.
