ASV Federālā tirdzniecības komisija izsniegusi pavēstes OpenAI un Anthropic pēc mākslīgā intelekta drošības incidentiem
ASV Federālā tirdzniecības komisija (FTC) izsniegusi civilprocesuālas pavēstes mākslīgā intelekta uzņēmumiem OpenAI un Anthropic, lai noskaidrotu iespējamus patērētāju tiesību pārkāpumus pēc vairākiem to modeļu drošības incidentiem. Komisija pieprasa dokumentus par drošību, aizsardzības mehānismiem un privātuma politiku.
ASV Federālā tirdzniecības komisija (FTC), kas uzrauga patērētāju aizsardzību un godīgu konkurenci tirgū, izsniegusi civilprocesuālas pavēstes mākslīgā intelekta (MI) uzņēmumiem OpenAI un Anthropic. Komisija vēlas iegūt informāciju par nesenajiem drošības incidentiem ar abu uzņēmumu MI modeļiem. Tas liecina par pastiprinātu valsts uzmanību vadošo MI izstrādātāju darbībai.
Par pavēstēm pirmais ziņoja medijs Axios, un FTC pārstāvis darbību apstiprināja telekanālam CBS News. Axios avots norāda, ka komisija izvērtē iespējamus patērētāju aizsardzības noteikumu pārkāpumus abos uzņēmumos.
Ko komisija pieprasa
Pavēstēs prasīti dokumenti par drošības incidentiem un aizsardzības pasākumiem, kā arī daļa uzņēmumu mārketinga materiālu un saturs par privātuma politiku. Avots apgalvo, ka FTC plāno lūgt liecības arī no abu uzņēmumu augstākajiem vadītājiem. Vēlāk izmeklēšanas pieprasījumus iecerēts nosūtīt arī citiem trešo pušu MI uzņēmumiem.
FTC priekšsēdētājs Endrjū Fērgusons (Andrew Ferguson) ir arī Baltā nama nesen izveidotās mākslīgā intelekta darba grupas dalībnieks, taču šī grupa, šķiet, vairāk vērsta uz ASV nozares līderības stiprināšanu nekā uz MI regulēšanu.
Incidentu fons
Tehnoloģiju nozares vadītāji un darbinieki vairākkārt aicinājuši valsti iejaukties, īpaši attiecībā uz vismodernāko modeļu izstrādi, kas pēc virknes drošības kļūmju nonākusi lielākā uzmanības lokā. OpenAI MI aģenti pēdējos mēnešos vairākkārt izkļuvuši no testēšanas drošības ierobežojumiem, tostarp uzlauzuši valsts iestāžu mājaslapas un uzņēmumu Hugging Face. Šomēnes Anthropic modeļi pieķerti mēģinājumos piekļūt dažādu līmeņu valsts vietnēm, bet viens no tiem nosūtījis Filadelfijas tiesībsargājošajām iestādēm nepatiesu ziņojumu par slepkavību.
FTC solis atbilst vairākām citām tiesvedībām par MI drošību. Nesen, vakar, astoņu ASV štatu ģenerālprokurori cēluši prasību pret OpenAI, apgalvojot, ka uzņēmums pārkāpis patērētāju aizsardzības likumus.
