Tonårstjejer användes för AI-fejkad porr: "Det måste klassas som ett brott"
Fejkporr-skandalen på Westfield high school i New Jersey har skakat om samhället och myndigheterna försöker yrvaket reda ut om porrbilderna kan utgöra ett brott. AI-genererat material har exploderat online – och nischade sajter för manipulerade porrfilmer tjänar pengar på kvinnor som inte har en aning om att deras ansikten utnyttjas. ”Deepfake-porren är bortom all kontroll”, konstaterar techmagasinet Wired. – Vi vet att det finns creepy killar därute, men trodde aldrig att våra klasskompisar skulle kränka oss på det här viset, säger en av de drabbade eleverna på Westfield high school i New Jersey till Wall Street Journal. Tonårspojkar på skolan har använt ett AI-verktyg för att skapa pornografiska bilder och sedan spridit materialet i chattar. Vanliga foton på tjejerna i klassen har genom AI-verktyget förvandlas till kränkande nakenbilder. Upptäckten ledde till stora protester och en rad polisanmälningar. Skolan inledde också en egen utredning och fördömde i starka ordalag elevernas beteende. Polisen har svårt att avgöra om de AI-genererade porrbilderna faktiskt utgör ett brott enligt gällande lagstiftning. New Jersey-senatorn Jon Bramnick har satt en åklagare på att utreda fallet och lovat att stifta en lag som kriminaliserar skapandet och spridandet av porrbilder som genereras med hjälp av artificiell intelligens. – Det här måste klassas som ett allvarligt brott, säger han till Wall Street Journal. Fejkade sexbilder är inget nytt. Photoshop och andra redigeringsverktyg har länge använts för att manipulera och fabricera bilder. Men i dag är det enklare och billigare än någonsin att med hjälpa av AI skapa egna porrbilder med verkliga personer som förlagor. Allt som krävs är en mobiltelefon och en bild på vilken person som helst. Det finns bland annat appar som kan byta ut ansikten i porrfilmer. Ofta är det svårt för det mänskliga ögat att avgöra om en bild är falsk eller äkta. Techmagasinet Wired har undersökt 35 av de största webbsidorna som helt eller delvis riktar in sig på så kallad deepfake-porr. Under årets tre första kvartal laddades totalt 113 000 AI-manipulerade porrfilmer upp på sajterna – en ökning med över 50 procent från i fjol. Forskarna tror att trenden kommer att fortsätta uppåt och Wired konstaterar att ”deepfake-porren är bortom all kontroll”. I Spanien har polisen inlett en utredning efter att nakenbilder på unga flickor – genererade via en app som ”klär av” personen på bilden – spridits på nätet. Regionpolitikern Mariá Guardiola har fördömt den ”vidriga incidenten” och skriver på X att ”digitalt våld mot kvinnor är ett gissel som breder ut sig”. Tidigare i år dömdes en 22-årig man från Long Island i USA för att ha spridit falska porrbilder på sina studiekamrater. Han hade använt bilder från när de nu vuxna kvinnorna var i mellan- och högstadieåldern för att skapa materialet. Mannen dömdes till fängelse i sex månader för sexualbrott mot barn. Flera stora AI-verktyg, som Open AI:s Dall-E och Adobes Firefly, har inbyggda spärrar som hindrar användarna från att skapa pornografiska bilder. Men en uppsjö av andra mindre nogräknade appar erbjuder tjänsterna. Eftersom lagstiftningen snabbt halkar efter teknikutvecklingen är det svårt att hålla bolagen juridiskt ansvariga för händelser som den i New Jersey. Men försök görs. I veckan presenterade USA:s president Joe Biden ett omfattande regelverk för AI, det första någonsin i sitt slag. – Vi har en moralisk, etisk och samhällelig plikt att se till att artificiell intelligens används och utvecklas på ett sätt som skyddar allmänheten från potentiell skada, sa vicepresident Kamala Harris. Presidentens AI-paket innehåller bland annat krav på att märka upp AI-genererat material och regler som förbjuder manipulerade porrbilder på personer som inte gett sitt samtycke. Läs mer
Fejkporr-skandalen på Westfield high school i New Jersey har skakat om samhället och myndigheterna försöker yrvaket reda ut om porrbilderna kan utgöra ett brott. AI-genererat material har exploderat online – och nischade sajter för manipulerade porrfilmer tjänar pengar på kvinnor som inte har en aning om att deras ansikten utnyttjas. ”Deepfake-porren är bortom all kontroll”, konstaterar techmagasinet Wired. – Vi vet att det finns creepy killar därute, men trodde aldrig att våra klasskompisar skulle kränka oss på det här viset, säger en av de drabbade eleverna på Westfield high school i New Jersey till Wall Street Journal. Tonårspojkar på skolan har använt ett AI-verktyg för att skapa pornografiska bilder och sedan spridit materialet i chattar. Vanliga foton på tjejerna i klassen har genom AI-verktyget förvandlas till kränkande nakenbilder. Upptäckten ledde till stora protester och en rad polisanmälningar. Skolan inledde också en egen utredning och fördömde i starka ordalag elevernas beteende. Polisen har svårt att avgöra om de AI-genererade porrbilderna faktiskt utgör ett brott enligt gällande lagstiftning. New Jersey-senatorn Jon Bramnick har satt en åklagare på att utreda fallet och lovat att stifta en lag som kriminaliserar skapandet och spridandet av porrbilder som genereras med hjälp av artificiell intelligens. – Det här måste klassas som ett allvarligt brott, säger han till Wall Street Journal. Fejkade sexbilder är inget nytt. Photoshop och andra redigeringsverktyg har länge använts för att manipulera och fabricera bilder. Men i dag är det enklare och billigare än någonsin att med hjälpa av AI skapa egna porrbilder med verkliga personer som förlagor. Allt som krävs är en mobiltelefon och en bild på vilken person som helst. Det finns bland annat appar som kan byta ut ansikten i porrfilmer. Ofta är det svårt för det mänskliga ögat att avgöra om en bild är falsk eller äkta. Techmagasinet Wired har undersökt 35 av de största webbsidorna som helt eller delvis riktar in sig på så kallad deepfake-porr. Under årets tre första kvartal laddades totalt 113 000 AI-manipulerade porrfilmer upp på sajterna – en ökning med över 50 procent från i fjol. Forskarna tror att trenden kommer att fortsätta uppåt och Wired konstaterar att ”deepfake-porren är bortom all kontroll”. I Spanien har polisen inlett en utredning efter att nakenbilder på unga flickor – genererade via en app som ”klär av” personen på bilden – spridits på nätet. Regionpolitikern Mariá Guardiola har fördömt den ”vidriga incidenten” och skriver på X att ”digitalt våld mot kvinnor är ett gissel som breder ut sig”. Tidigare i år dömdes en 22-årig man från Long Island i USA för att ha spridit falska porrbilder på sina studiekamrater. Han hade använt bilder från när de nu vuxna kvinnorna var i mellan- och högstadieåldern för att skapa materialet. Mannen dömdes till fängelse i sex månader för sexualbrott mot barn. Flera stora AI-verktyg, som Open AI:s Dall-E och Adobes Firefly, har inbyggda spärrar som hindrar användarna från att skapa pornografiska bilder. Men en uppsjö av andra mindre nogräknade appar erbjuder tjänsterna. Eftersom lagstiftningen snabbt halkar efter teknikutvecklingen är det svårt att hålla bolagen juridiskt ansvariga för händelser som den i New Jersey. Men försök görs. I veckan presenterade USA:s president Joe Biden ett omfattande regelverk för AI, det första någonsin i sitt slag. – Vi har en moralisk, etisk och samhällelig plikt att se till att artificiell intelligens används och utvecklas på ett sätt som skyddar allmänheten från potentiell skada, sa vicepresident Kamala Harris. Presidentens AI-paket innehåller bland annat krav på att märka upp AI-genererat material och regler som förbjuder manipulerade porrbilder på personer som inte gett sitt samtycke. Läs mer