Praėjusią savaitę seksualiai padirbti Taylor Swift vaizdai pranešama, kad pagaminta naudojant dirbtinį intelektą buvo platinami socialiniuose tinkluose. Tai buvo tik naujausias ir labiausiai žinomas pavyzdys apie didėjantį padirbinėjimo ir skaitmeninio priekabiavimo pavojų.
Swift nėra pirmoji moteris, kuriai taip nutiko, ir nebus paskutinė. Galima drąsiai teigti, kad beveik kiekviena kita pornografinio padirbinėjimo auka turi mažiau išteklių nei milijardierius popžvaigždė, turinti milijonus gerbėjų visame pasaulyje, kurie yra internete ir išmano apie tai. Tačiau faktas, kad taip gali atsitikti net Taylor Swift iš naujo atkreipė dėmesį į šią problemą ir į platesnę auditoriją. Advokatai teigia, kad tai netgi buvo greitas federalinis įstatymas, skirtas kovai su piktnaudžiavimu.
Antradienį JAV senatoriai pristatė dvipartį Sutrikdyti atvirus suklastotus vaizdus ir 2024 m. redagavimo be sutikimo aktą (DEFIANCE Act), kad būtų sprendžiama ir atgrasoma nuo nesusitarusios gilios netikros pornografijos. Įstatymo projektas leistų „skaitmeninio klastojimo“ aukoms – „sukurtos naudojant programinę įrangą, mašininį mokymąsi, dirbtinį intelektą ar bet kokias kitas kompiuterines ar technologines priemones, kurios klaidingai atrodytų autentiškos“ – civiliai paduoti nusikaltėlius į teismą, suteikiant jiems galimybę pirmą kartą ieškoti teisybės.
Anot Omny Miranda Martone, kuri dirbo kartu su įstatymų leidėjais rengiant įstatymo projektą, kaip šios organizacijos įkūrėja ir generalinė direktorė, nesutarusios gilios suklastotos pornografijos aukos nesulaukė didelio pasisekimo paduoti į teismą žmones, kurie kuria, platina arba prašo gilią pornografiją. Seksualinio smurto prevencijos asociacija (SVPA) . Technologijos vis dar yra gana naujos ir, kaip ir kitose visuomenės problemose, susijusiose su technologijomis, įstatymai turi pasivyti. Tuo tarpu technologijos pažengė į priekį, kad visiems būtų dar lengviau kurti dirbtinio intelekto sukurtas gilias klastotes.
„Seksualinio smurto prieš kasdienius asmenis skaičius smarkiai išaugo.
'Iki maždaug prieš dvejus metus. . . kažkam reikėjo turėti galingą kompiuterį, reikėjo daug žinoti apie technologijas ir mokėti dirbti painia sistema ir galbūt net pačiam sukurti sistemą. Ir jiems reikėjo daug aukos nuotraukų, kad ji atrodytų tikroviška“, – aiškina Martone. „Tačiau dirbtinio intelekto technologija labai pažengė į priekį, todėl kiekvienas gali sukurti tikrai tikroviškai atrodančią nesuderinamą, giliai netikrą pornografiją, naudodamas tik vieną ar dvi nuotraukas. Jiems nereikia daug žinoti apie technologijas, jie gali tiesiog įeiti į programėlę ar svetainę savo telefone ar kompiuteryje ir padaryti tai per kelias sekundes.
Šiandien tai neįtikėtina, turint omenyje, kad iki 2017 m. vienas iš aštuonių Pasak Kibernetinių pilietinių teisių iniciatyva .
Atsižvelgiant į šią technologinę pažangą ir tai, kad „kiekvienas, turintis prieigą prie interneto, gali lengvai jį susikurti“, „seksualinio smurto prieš kasdienius asmenis skaičius smarkiai išaugo“, – sako Martone. Įžymybės buvo dažniausiai taikinys dėl jų atvaizdų prieinamumo. „Tačiau dabar [kaltininkams] reikia tik kelių nuotraukų, kurias jie gali gauti iš kieno nors „LinkedIn“, socialinių tinklų arba savo įmonės svetainės“, – aiškina Martone.
Pasak Margaret Mitchell, buvusios „Google“ etiško dirbtinio intelekto komandos vadovo, tai neproporcingai kenkia moterims. „Tai labai pažeidžia, turi labai traumuojantį psichologinį poveikį, jei tu esi to auka. Tai taip pat objektyvizuoja, todėl įtakoja kitus žmones matyti jus per seksualinį objektyvą, o ne profesionalų objektyvą. Tada tai reiškia, kad tai gali paveikti galimybes“, – sako ji 247CM.
„Moterys jau dabar stengiasi, kad jos būtų laikomos lyderėmis, kad į jas būtų rimtai žiūrima darbo vietoje. Kai toks turinys sklando, tai gali turėti įtakos tai, kaip moterys gali būti paaukštintos, užimti daugiau vadovaujančių pozicijų“, – tęsia Mitchellas, kuris dabar yra Hugging Face, atviros dirbtinio intelekto kūrėjų platformos, vyriausiasis etikos mokslininkas. „Jis įsiskverbia į daugybę dalykų tokiu būdu, kurį kartais gali būti labai sunku atsekti, bet iš esmės įtakoja tai, kaip jūs matote save, kaip jaučiatės apie save ir kaip kiti žmonės su jumis elgiasi“.
Swift atveju vaizdai kilo iš 4chan ir „Telegram“ grupė, naudojama įžeidžiantiems moterų atvaizdams platinti 404 Žiniasklaida . „Designer“, nemokamas „Microsoft AI“ generatorius, dažnai naudojamas nesuderinamam turiniui gaminti, teigia išparduotuvė. Atsakydama į pranešimą, „Microsoft“. uždarė spragą kuri leido dizaineriui kurti AI sukurtą įžymybių pornografiją.
Tačiau tuo tarpu vaizdai greitai užplūdo X, anksčiau vadintą Twitter. Neįprastu turinio moderavimo Elono Musko eroje pavyzdžiu X laikinai blokavo paiešką „Taylor Swift“, kuri sulėtino plitimą, tačiau nepavyko pašalinti visų vaizdų, CBS News. pranešė . X atsakė po to, kai legionai Swifties pranešė apie įrašus ir reikalavo, kad svetainė juos pašalintų. Tai taip pat buvo paskelbta po to, kai įrašai jau buvo plačiai paplitę – per 17 valandų, kol buvo sustabdyta patvirtinto vartotojo paskyra, jau buvo peržiūrėta 45 milijonai kartų, 24 000 pakartotinių pranešimų ir šimtai tūkstančių paspaudimų bei žymių. The Verge . Iki pirmadienio, sausio 29 d., blokas buvo pasibaigęs.
Nors SVPA jau kurį laiką bendradarbiauja su Kongresu – Martone teigia, kad praėjusiais metais jie išsiuntė atvirą laišką, ragindami juos imtis šio klausimo, – Martone atrodo, kad „jie nesiėmė veiksmų, kol Taylor Swift naujienos nepasirodė tikrai didelės“.
„Net jei jaučiate, kad jūsų vaizdai niekam nerūpi, AI rūpi.
Vis dėlto dauguma nesusitarusios pornografijos aukų nėra labai populiarios. Dauguma jų yra moterys ir daugelis jų turi marginalizuotą tapatybę, nesvarbu, ar tai būtų jų rasė, etninė kilmė ir (arba) seksualinė orientacija. Pavyzdžiui, SVPA dirbo su moterimi, kuri buvo koledžo studentė ir treniravosi sporto salėje, kai ją partrenkė vyras, kurio ji atsisakė. Po kelių savaičių kitas sporto salės narys atitraukė moterį į šalį, kad žinotų, kad vyras, kurio ji atstūmė, padarė apie ją netikrą pornografiją – rodė kitiems nariams sporto salėje ir paskelbė tai Instagram, kur jai pavyko ją pašalinti. Martone sako, kad neseniai iš jų buvo sukurta netikra pornografija, atsižvelgiant į jų darbą šiuo klausimu.
Be teisės aktų sunku imtis kokių nors priemonių. Kadangi probleminis turinys pripažįstamas netikru, jis nelaikomas šmeižtu, priduria Martone.
Bet kuriuo atveju, kaip visuomenė, mes visi turėtume stengtis užkirsti kelią nesuderinamo turinio kūrimui ir dalijimuisi, sako ekspertai. Idėja, kad problema auga ir kad neįmanoma grąžinti džino į butelį, neturėtų skatinti neišvengiamumo ar sustingimo jausmo.
Tiems, kurie mano, kad niekada neatsidurs tokioje situacijoje, Mitchellas taip pat pabrėžia, kad dėl technologijų tai tapo tokia įprasta, kad bet kas gali nukentėti.
Mitchellas paaiškina: „Žmonės turėtų žinoti, kad bet kokį turinį, kurį jie pateikia internete, gali iššluoti privatūs asmenys arba korporacijos, kad jis būtų naudojamas kaip DI mokymo dalis. Taigi gali nebūti taip, kad kokia nors šeimos nuotrauka „Facebook“ yra kažkas, kas rūpės plačiajai visuomenei. Bet ne tai klausimas. Kyla klausimas, ar šį turinį pasiims didžiulė technologijų korporacija tokiu būdu, kuris galėtų padėti toliau objektyvizuoti moteris?
Galų gale, tai yra technologija, kurią turite žinoti ir būti atsargiems. „Net jei manote, kad jūsų vaizdai niekam nerūpi, AI rūpi“, – sako Mitchellas. Dirbtinio intelekto sistemos vis tiek gali jas nušluoti, jas vis tiek galima panaudoti norint pateikti klaidingą informaciją ir jas vis tiek galima panaudoti bet kokioje keršto situacijoje, ir bet kokia situacija, kai kažkas bus toks piktybiškas veikėjas, gali pakenkti jums asmeniškai.
