Microsoft ievieš uzvedības kodeksu savam mākslīgajam intelektam drošības bažu vidū
Microsoft publicējis provizorisku rīcības kodeksu, kas ierobežos tā AI modeļu iespējas, tostarp aizliedzot iesaistīties ieroču izstrādē un vardarbīga satura veidošanā. Solis nāk brīdī, kad nozares vadītāji arvien skaļāk brīdina par kontroles zaudēšanas riskiem.
Microsoft pirmdien nāca klajā ar provizorisku rīcības kodeksu, kas turpmāk noteiks robežas jauno mākslīgā intelekta modeļu apmācībai. Solis izriet no pieaugošajām bažām, ka tehnoloģiju uzņēmumi varētu zaudēt kontroli pār saviem AI risinājumiem.
Microsoft AI vadītājs Mustafa Sulejmans kodeksu izziņoja sociālajos tīklos, uzsverot, ka mākslīgajam intelektam vienmēr jāpaliek pakļautam un jākalpo cilvēkiem. Viņš atzina, ka bažas par iespējamu kontroles zudumu ir pamatotas. Uzņēmuma paziņojumā teikts, ka mērķis ir veidot tā saukto "humānisto AI" — pakļautu, saskaņotu un ierobežotu sistēmu.
Saskaņā ar jaunajiem noteikumiem Microsoft AI modeļiem būs aizliegts izskatīt ar ieroču izstrādi saistītus pieprasījumus, radīt vardarbīgu vai seksuāla rakstura saturu, kā arī palīdzēt iegādāties bīstamas vielas. Modeļiem arī nedrīkstēs imitēt apziņu, un tiem nebūs piešķirtas nekādas tiesības. Sulejmans norādīja, ka publicētās vadlīnijas pagaidām ir nodotas sabiedriskajai apspriešanai, un raksturoja nepieciešamību pēc šāda kodeksa kā "steidzamu", pēdējos mēnešus dēvējot par pagrieziena punktu. Viņš minēja arī nesenu gadījumu, kad OpenAI izveidoti boti bez skaidra iemesla iekļuvuši AI uzņēmuma Hugging Face sistēmās.
Microsoft izpilddirektors Satja Nadella pirms paziņojuma sociālajos tīklos rakstīja, ka uzņēmuma veidotajam AI ir jākalpo cilvēcei un jāpaliek cilvēku kontrolē.
Plašāka nozares diskusija
Jautājums par AI drošību saasinājās pagājušajā nedēļas nogalē, kad Anthropic vadītājs Dario Amodejs aicināja nozari palēnināt AI attīstības tempu, piedāvājot trīsdaļīgu plānu un solot uzņēmuma vārdā vienpusēji ieviest tā pirmo soli — ļaut neatkarīgiem vērtētājiem pastāvīgi piekļūt uzņēmuma sistēmām drošības pasākumu pārbaudei. Aicinājums seko bijušā Anthropic pētnieka brīdinājumam, ka AI varētu apdraudēt cilvēci jau līdz 2030. gadam.
Arī OpenAI vadītājs Sems Altmens paudis, ka strauja progresa tempu varētu novest pie sliktiem rezultātiem, un aicinājis uz federālu regulējumu. Tomēr daži nozares pārstāvji, tostarp Potentially AI vadītājs Olivers Jončevs, pauduši skepsi, ka bez starptautiskas sadarbības un ticamas pārbaudes šādi centieni varētu tikai palēnināt publiskos paziņojumus, kamēr sacensība turpinās slēptā veidā.
