Så använder Sverigedemokraterna AI – manipulerar klipp från trollkonton
Kalla fakta har i sin granskning av Sverigedemokraternas kommunikationsavdelning kunnat bekräfta 23 konton som styrs från partiets trollfabrik, som bland annat sprider vilseledande information om politiska motståndare. Men efter att ha tagit anställning i partiet kan Kalla fakta visa att SD med hjälp av artificiell intelligens kan få sina politiska motståndare att säga saker som de aldrig har sagt. Och bland det material som publicerats på Sverigedemokraternas trollkonton framgår det att partiet har börjat göra deepfakes av Socialdemokraternas partiledare Magdalena Andersson. "Anklagar du Rawa Majid?" I ett klipp står Magdalena Andersson i riksdagens talarstol. Där har orden Jamal El-Haj bytts ut mot en ledare för ett kriminellt nätverk. ”Herr Talman, Ulf Kristersson, anklagar du Rawa Majid för att vara kurdiska räven?”, säger hon i klippet. När Kalla fakta har analyserat ljudet med avancerade verktyg och i samråd med en expert kan vi se att orden ”Rawa Majid” och ”kurdiska räven” är skapade med AI och sedan inklippta. Detsamma gäller ett annat klipp där Magdalena Andersson pratar tyska. "Tillsammans kan vi förgöra Sverige" Partiet sprider också klipp som förvanskats utan AI, och från andra konton, där motståndarnas budskap förvrängs och förlöjligas. ”Vi ska hänsynslöst plocka pengar ur välfärden. Det kommer krävas mer pengar av dig. Vi kan knäcka hela landet. Tillsammans kan vi förgöra vårt Sverige”, säger Magdalena Andersson i ett klipp som spridits från ett av SD:s trollkonton. I ett annat klipp har skaparen med hjälp av AI fått oppositionsledaren att tala på tyska, när hon i originalklippet egentligen talar svenska. Kalla fakta har bett Sverigedemokraterna kommentera användandet av deepfakes på deras trollkonton, men de har inte återkommit med något svar. ”Genuint obehagligt” Lena Hallengren, Socialdemokraternas gruppledare ser allvarligt på Sverigedemokraternas agerande.
– Om Sverigedemokraterna bara har börjat och själva inte tycker att det här är något allvarligt så tycker jag att det känns genuint obehagligt. Vem ska veta vad man kan lita på? Hur ska vi säkra att filmer, material och intervjuer är på riktigt?, säger Lena Hallengren.
– Förhoppningsvis tycker ganska många svenskar att det är förjäkligt. Hur ska någon veta vad som är rätt och fel och sant och falskt om det är så att man inte ens kan lita på bild och ord? Men det är väl det vi behöver ta höjd för, fortsätter hon.
Kalla fakta har i sin granskning av Sverigedemokraternas kommunikationsavdelning kunnat bekräfta 23 konton som styrs från partiets trollfabrik, som bland annat sprider vilseledande information om politiska motståndare. Men efter att ha tagit anställning i partiet kan Kalla fakta visa att SD med hjälp av artificiell intelligens kan få sina politiska motståndare att säga saker som de aldrig har sagt. Och bland det material som publicerats på Sverigedemokraternas trollkonton framgår det att partiet har börjat göra deepfakes av Socialdemokraternas partiledare Magdalena Andersson. "Anklagar du Rawa Majid?" I ett klipp står Magdalena Andersson i riksdagens talarstol. Där har orden Jamal El-Haj bytts ut mot en ledare för ett kriminellt nätverk. ”Herr Talman, Ulf Kristersson, anklagar du Rawa Majid för att vara kurdiska räven?”, säger hon i klippet. När Kalla fakta har analyserat ljudet med avancerade verktyg och i samråd med en expert kan vi se att orden ”Rawa Majid” och ”kurdiska räven” är skapade med AI och sedan inklippta. Detsamma gäller ett annat klipp där Magdalena Andersson pratar tyska. "Tillsammans kan vi förgöra Sverige" Partiet sprider också klipp som förvanskats utan AI, och från andra konton, där motståndarnas budskap förvrängs och förlöjligas. ”Vi ska hänsynslöst plocka pengar ur välfärden. Det kommer krävas mer pengar av dig. Vi kan knäcka hela landet. Tillsammans kan vi förgöra vårt Sverige”, säger Magdalena Andersson i ett klipp som spridits från ett av SD:s trollkonton. I ett annat klipp har skaparen med hjälp av AI fått oppositionsledaren att tala på tyska, när hon i originalklippet egentligen talar svenska. Kalla fakta har bett Sverigedemokraterna kommentera användandet av deepfakes på deras trollkonton, men de har inte återkommit med något svar. ”Genuint obehagligt” Lena Hallengren, Socialdemokraternas gruppledare ser allvarligt på Sverigedemokraternas agerande.
– Om Sverigedemokraterna bara har börjat och själva inte tycker att det här är något allvarligt så tycker jag att det känns genuint obehagligt. Vem ska veta vad man kan lita på? Hur ska vi säkra att filmer, material och intervjuer är på riktigt?, säger Lena Hallengren.
– Förhoppningsvis tycker ganska många svenskar att det är förjäkligt. Hur ska någon veta vad som är rätt och fel och sant och falskt om det är så att man inte ens kan lita på bild och ord? Men det är väl det vi behöver ta höjd för, fortsätter hon.