Fejkade nakenbilder på skolelever sprids i chattgrupper tillsammans hundratusentals medlemmar. Besök vår svenska porrsida Fenomenet med "deepfakes" inneha lett mot vida protester i Sydkorea. I Sverige rapporteras hittills bara enstaka vurpa – än så länge.
En följd digitala sexualbrott skakar Sydkorea. Tillsammans hjälp av AI äger tusentals kvinnor fått bilder från tryta sociala medier manipulerade samt förvandlade till pornografi. Bilderna äger därefter spridits på chattplattformar som Telegram.
Materialet har delats i stängda grupper, somliga med över hundratusen medlemmar. En markant pusselbit av de falska porrbilderna föreställer minderåriga tjejer. Några av chattgrupperna äger riktat in sig på flickor från specifika högstadie- och gymnasieskolor. I flertal baisse har det visat sig att förövarna själva är minderåriga – till och från klasskamrater till offren.
Vågen av så kallade deepfakes äger lett mot protester kring om i landsbygd tillsammans villkor på kraftfullare insatser för att avstyra spridningen samt försvara offren, och saken där sydkoreanska regeringen har lovat strängare påföljd för de som ligger bortom.
ENSTAKA Nedgång I SVERIGE
I Sverige tycks problemen tillsammans olovligt AI-genererat övergreppsmaterial på ungar icke bestå likadan utbrett. Det säger Louise Thudén, undersökare på barnrättsorganisationen Ecpat, som arbetar för att hejda samt förebygga sexuella övergrepp kontra telning. Hon har likväl stött på enskilda nedgång i sitt göromål.
– Några barn äger kontaktat oss för att få hjälp att plocka ner förfalskade bilder såsom spridits från nätet, och vi vet att det påverkar barnen jättemycket. Telning som utsätts för divergens av sexuellt exploaterande stoff mår jätte- dåligt, oavsett om det är verkliga bilder alternativt icke.
Louise Thudén påpekar också att det kan existens ett mörkertal.
– Vi vet att barn inte vill polisanmäla för att ingen skall få kunna att bilderna finns.
Ännu har ingen försökt kartlägga förekomsten av AI-genererad pornografi i Sverige. ändock undersökningar i USA indikerar att fenomenet blir alltsammans vanligare bland unga. Enligt den ideella organisationen Thorn känner 11 procent ungar i åldern 9-17 år mot baisse där en vän eller bekanting använt AI för att konstruera nakenbilder . En snarlika redogörelse från Kärna åkte Democracy & Technology kom fram till att 15 procent av gymnasieelever hört talas om en "deepfake" såsom föreställt någon förenad till deras plugg i en .
I Spanien dömdes just 15 minderåriga skolungdomar för att ha skapat och spridit AI-manipulerade bilder av avta klasskamrater.
Med tanke på den internationella utvecklingen antagande Louise Thudén att problemet kan bliva större även i Sverige i framtiden.
– Det är ett sak såsom vi tittar internationellt, så det är säkert en tidsfråga innan det sker mer utbrett i Sverige. Det AI-genererade materialet såsom vi får in kan produkt väldigt verklighetstroget, samt det blir alltmer realistiskt.
SVÅRT ATT Finn FÖRÖVARNA
Medan kan det produkt svårt att upptäcka förövarna, i och med materialet typiskt sett sprids på chattplattformar där meddelanden är skyddade tillsammans kryptering.
För att adressera problemet lade EU-kommissionen 2022 fram ett lagförslag som Sverige i förra veckan ställde sig bakom. Förslaget innebär att leverantörer av nättjänster blir skyldiga att analysera risken för att deras tjänster används i sammanhang med sexuella övergrepp till ungar också vidtaga åtgärder för att minimera riskerna. Tanken är att barnpornografiskt innehåll på chattjänster automatiskt skall identifieras och skickas mot polisen. Förslaget, såsom blivit känt nedanför namnet "chat control", är fast än omstritt. Enligt bedömare inskränker det rätten till personlig kommunikation och främjar massövervakning av medborgare.
Ängla Pändel är skurk och ordförande för Institutet för juridik samt internet. Hon antaga att balansgången mellan privat okränkbarhet samt förebyggande av sexualbrott kan utgöra en futuristisk rättslig utmaning när det kommer mot att knega med saken där här typen av dilemma.
– Det sker en omedelbar rättslig utveckling, skada området är komplext. Samtidigt såsom det är svårt att handskas med spridningen av brottsligt innehåll i exempelvis krypterade chattar så måste införandet av nya regleringar balanseras mot vikten av att värna yttrandefriheten samt rätten mot privatliv, säger hon.
