Ákall alþjóðlegs baráttudags kvenna er eftir réttindum, réttlæti og aðgerðum. Mynd/Sunna Ben
Hún vaknaði við að skilaboðum rigndi inn í símann hennar. Falsaðar kynferðislegar myndir af henni í stafrænu formi höfðu farið á flug á meðan hún svaf.
Orðrómurinn breiddist fljótt út. Áreitið sprakk út á samfélagsmiðlum, hömlulaust: athugasemdir, hæðni, deilingar og skjáskot. Hún hafði aldrei gefið samþykki sitt. Það stöðvaði þó engan.
Á nokkrum mínútum höfðu þúsundir séð myndirnar. Innan nokkurra klukkustunda voru höfðu milljónir séð þær.
Martröðin var rétt að byrja.
Nokkrir dagar liðu áður en samfélagsmiðlafyrirtæki brugðust við. Þá höfðu myndirnar þegar verið skoðaðar, vistaðar og þeim dreift áfram. Hún sat eftir með spurningarnar: Hvert tilkynni ég þetta? Mun einhver trúa mér? Munu einstaklingarnir sem gerðu mér þetta nokkurn tíma þurfa að axla ábyrgð? Eða verður sökinni skellt á mig?
Þetta gerist við þúsundir kvenna og stúlkna dag hvern. Djúpfalsaðar myndir sem eru búnar til með gervigreind eyðileggja raunveruleg líf. Flestir þolendur munu aldrei sjá réttlætinu framfylgt.
Saga hennar gæti verið saga þín.
Hversu algengar eru kynferðislegar djúpfalsaðar myndir?
Djúpfalsanir eru myndir, hljóðupptökur eða myndbönd sem búin hafa verið til með gervigreind. Djúpfalsanir láta líta út fyrir að einstaklingur hafi sagt eða gert eitthvað sem hann gerði aldrei. Tæknin sjálf er ekki ný en nú er verið að beita henni markvisst gegn konum og stúlkum og þróunin er hröð.
Í skýrslu frá 2023 kom fram að klámefni sem búið er til með gervigrein nam 98 prósentum allra djúpfalsaðra myndbanda á netinu og í 99 prósent tilfella var viðfangsefnið kona. Talið er að djúpfölsuð myndbönd hafi verið um 550 prósentum algengari árið 2023 en árið 2019. Tólin sem þarf til að búa til djúpfalsað efni eru mjög aðgengileg, yfirleitt ókeypis og krefjast mjög lítillar tækniþekkingar.
Þegar efni sem búið er til með gervigreind hefur verið birt, er hægt að afrita það látlaust. Hægt er að vista það í símum og tölvum og dreifa því manna á milli í gegnum samfélagsmiðla. Þetta þýðir að næstum ómögulegt er að fjarlægja efnið af netinu að fullnustu.
Í desember í fyrra, uppgötvaði breska blaðakonan Daisy Dixon uppgötvaði að kynferðislegar myndir höfðu verið búnar til af henni með gervigreind og þær birtar á samfélagsmiðlinum X. Myndirnar voru búnar til með Grok-gervigreindarverkfærinu á X. Miðillinn brást ekki við misnotkuninni strax, á meðan hélt áreitið og ofbeldið áfram.
Birtingar á djúpfölsuðum myndum getur orðið kveikjan að heiðurstengdum glæpum í sumum ríkjum. Ef kona er talin fara gegn heiðri fjölskyldunnar á samfélagsmiðlum, getur það orðið til þess að fjölskyldan beiti hana grófu ofbeldi eða myrði hana.
Samkvæmt nýlegri rannsókn hefur meira en helmingur þolenda djúpfalsaðra mynda í Bandaríkjunum íhugað sjálfsvíg. Þetta er ekki afmarkað vandamál á netinu, þetta er alþjóðleg krísa.
Refsileysi: Hvers vegna ríkir refsileysi?
Ákærur í málum sem þessum eru sjaldgæfar. Samfélagsmiðlar bregðast sjaldan við og þolendur verða oft fyrir endurteknu áfalli þegar þeir leita sér aðstoðar. Ástæður þess að gerendur eru svo sjaldan dregnir til ábyrgðar er:
1.Lögin halda ekki í við þróunina
Færri en helmingur ríkja hefur sett lög sem taka á stafrænu kynbundnu ofbeldi. Enn færri hafa lög sem taka sérstaklega til djúpfalsaðs myndefnis. Flest lög um svokallað „hefndarklám“ eða misnotkun myndefnis voru sett áður en djúpfölsuð myndatækni varð aðgengileg öllum. Því eru stórar glufur í þeirri löggjöf, gerendum í hag.
Í mörgum ríkjum fellur djúpfalsað klám, eða nektarmyndir sem eru búnar til með gervigreind, inn á lagalega grátt svæði. Því eru þolendur oft óvissir um hvort misnotkunin sé yfirhöfuð ólögleg eða hvort hægt sé að sækja gerendur til saka.
Nokkur ríki hafa þó brugðist við. Til dæmis leggja gervigreindarlög ESB (The EU AI Act) áherslu á gagnsæi varðandi djúpfalsaðar myndir. Lögin „Take It Down Act“ í Bandaríkjunum taka sérstaklega til nektar- og kynferðislegra mynda sem búnar eru til með gervigreind. Lögin kveða á um að samfélagsmiðlar fjarlægi slíkt efni innan 48 klukkustunda. Slík löggjöf er þó enn sjaldgæf.
Í apríl 2025 var brasilískum hegningarlögum breytt. Hertari refsingar voru settar fyrir að beita konur andlegu ofbeldi með því að nota gervigreind til að eiga við myndefni eða hljóðupptökur af þeim.
Lög um netöryggi í Bretlandi banna einungis dreifingu djúpfalsaðs myndefnis af kynferðislegum toga. Lögin taka þó ekki sérstaklega til framleiðslu slíks myndefnis.
2.Framfylgd laganna dregst aftur úr.
Jafnvel þegar lög eru til staðar er þeim oft ekki framfylgt. Til að byggja upp mál þarf sérfræðiþekkingu í stafrænum réttarrannsóknum, samhæfingu yfir landamæri og samstarf samfélagsmiðlarisanna. Fæst réttarkerfi hafa þó úrræði til að tryggja slíka vinnu.
Sönnunargögn hverfa hratt þegar efni dreifist og afritum fjölgar. Gerendur fela sig á bak við nafnleynd eða starfa þvert á lögsagnarumdæmi. Samfélagsmiðlar eru oft seinir, eða óviljugir, til að deila gögnum með lögreglu, sérstaklega í málum sem ná yfir fleiri en eitt ríki. Töf í stafrænum réttarrannsóknum veldur því að mál stöðvast jafnvel áður en þau hefjast.
Afleiðingin er réttarkerfi sem oft skortir fjármagn, er ómarkvisst og á erfitt með að halda í við hraða tækninnar.
3.Þaggað er niður í þolendum
Ein helsta hindrunin þegar kemur að því að draga gerendur til ábyrgðar er hversu fá mál eru tilkynnt til lögreglu. Það er þó ekki erfitt að skilja hvers vegna margir þolendur kjósa að tilkynna ekki.
Þolendur stafræns kynbundins ofbeldis neyðast til að sýna lögreglu, lögfræðingum og starfsfólki samfélagsmiðlanna myndirnar. Það þýðir einnig að nöfn þeirra fara í opinber gögn. Málið gæti ratað í fjölmiðla og þolandi átt yfir höfði sér meiðyrðamál frá geranda. Þolendur þurfa einnig að þurfa að kljást við réttarkerfi sem dregur reglulega í efa trúverðugleika kvenna fyrir dómi. Þolendum er kennt um, fyrri sambönd þeirra og hegðun eru grandskoðuð og þær verða fyrir þolendasmánun og kvenfyrirlitningu.
5.Netmiðlar eru að bregðast þolendum
Tæknifyrirtæki sem reka samfélagsmiðla hafa lengi skýlt sér á bak við stöðu þeirra sem milli aðila til að forðast að bera ábyrgð á efni sem notendur birta. Afleiðingin er að fyrirtækin eru oft sein að bregðast við, tilkynningaferli eru óskýr og ósamræmd, beiðnum um að fjarlægja efni er sjálfkrafa hafnað og samstarf við lögreglu er lítið sem ekkert.
Sú byrði sem er lögð á þolendur til að fá efni fjarlægt er óraunhæf og grimmileg. Ætlast er til þess að þeir hafi uppi á hverju einasta afriti af kynferðislegum myndum af sér sem hefur verið dreift án samþykkis. Oft á mörgum mismunandi miðlum. Á meðan er efninu dreift áfram af gerendum.
Hvers vegna þolendur tilkynna ekki og hvað gerist þegar þeir gera það?
Réttarkerfið veldur þolendur sem stíga fram oft áframhaldandi skaða og áföllum.
Þeir eru ítrekað beðnir um að skoða og lýsa ofbeldisfullu efni fyrir þriðja aðila. Þeir standa frammi fyrir spurningum á borð við: „Ertu viss um að þetta sé ekki raunverulegt?” eða „Hefurðu áður deilt kynferðislegum myndum?”
Ef mál fer fyrir dómstóla er klæðnaður þeirra, sambönd og fyrri hegðun sett undir smásjá, ekki hegðun gerandans.
Stafrænt ofbeldi takmarkast þó ekki við stafræna miðla, það hefur afleiðingar í raunheimum. Í könnun UN Women sögðust 41 prósent kvenna sem gegna opinberum stöðum, og höfðu verið beittar stafrænu ofbeldi, einnig hafa orðið fyrir ofbeldi eða áreitni í raunheimum. Djúpfalsanir hafa áhrif á allt líf þolenda.
Endurskoðun á því sem felst í réttlæti
Þolendur stafræns ofbeldis og djúpfalsana eru ekki að biðja um samúð. Þeir krefjast kerfis sem tryggir réttlæti og kemur í veg fyrir misnotkun.
Að þeim sé trúað.
Að þau hafi aðgang að réttarkerfi sem tryggir raunverulegar afleiðingar fyrir gerendur.
Að þau hafi stuðning til að vinna úr áfalli ofbeldisins sem er langvarandi og hefur djúpstæð áhrif.
Að samfélagsmiðlar og stjórnvöld ríkja grípi til aðgerða til að koma í veg fyrir frekara ofbeldi. Ekki aðeins að brugðist sé við þegar skaðinn er skeður.
Úr krísu í aðgerðir: Hvað þarf að gerast núna?
Misnotkun með djúpfölsuðum myndum er manna verk. Búin til með gervigreindartólum að frumkvæði fólks. Hún er hvorki óhjákvæmileg né óstöðvandi. En til að stöðva hana þarf brýnar og samræmdar aðgerðir frá stjórnvöldum, stofnunum og tæknifyrirtækjum sem reka netmiðla. Hér er það sem þarf að gerast:
1.Lög sem taka raunverulega á misnotkun með djúpfölsuðum myndum
Stjórnvöld verða að setja löggjöf með skýrum skilgreiningum á stafrænu ofbeldi og djúpfölsunum. Lög þar sem ábyrgð gerenda er skýr og eins skylda netmiðla til að fjarlægja efni hratt. Þá þarf samræmt verklag þvert yfir landamæri, því stafrænt ofbeldi virðir ekki landamæri ríkja.
2.Réttarkerfi sem tryggja að gerendur sæti ábyrgð
Lögregluyfirvöld þurfa þjálfun, fjármagn og getu til að safna og varðveita stafræn sönnunargögn. Taka þarf á uppsöfnuðum málum í stafrænni réttarrannsókn og alþjóðlegt samstarf þarf að vera öflugt og skilvirkt.
3.Netmiðlar verði látnir bera ábyrgð
Tæknifyrirtækjum verður að vera skylt, samkvæmt lögum, að fylgjast með og fjarlægja skaðlegt efni innan ákveðins tímaramma. Þau þurfa að eiga samstarf við lögreglu og sæta raunverulegum fjárhagslegum afleiðingum ef þau bregðast ekki við. Sjálfsstýring fyrirtækjanna hefur ekki skilað árangri.
4.Raunverulegur stuðningur við þolendur
Réttarkerfi sem hefur þekkingu málaflokknum og áhrifum á áfalla á þolendur er nauðsynlegt. Auk ókeypis lögfræðiaðstoðar, svo tryggja megi aðgangur allra að réttlæti. Vel samhæft réttarkerfi þar sem ólíkir aðilar tengja þolendur við þá þjónustu sem þeir þurfa.
5.Fræðsla sem kemur í veg fyrir misnotkun
Stafrænt læsi, þar á meðal fræðsla um samþykki, öryggi á netinu og hvað eigi að gera þegar fólk verður fyrir stafrænu ofbeldi, þarf að hefjast snemma og ná til allra. Forvarnir eru ekki síður mikilvægar en að sækja gerendur til saka.
Framleiðsla og dreifing djúpfalsana er aðeins brot af mun víðtækara mynstri stafræns ofbeldis sem beinist að konum og stúlkum. Vandinn fer vaxandi. Hann er kynbundinn. Og eins og staðan er núna bregðast kerfin sem eiga að vernda fólk, á meðan tæknin verður ódýrari, hraðari og auðveldari í notkun dag hvern.
Þetta þarf að breytast. Og það þarf að gerast strax.
