Krigsskadde britiske militærveteraner som i følelsesladede videoer på sosiale medier selger håndlagde patriotiske produkter, viser seg i flere tilfeller å være AI-genererte forfalskninger.
Varene som kundene mottar, skal samtidig være billige produkter fra Kina.
TikTok.
Ifølge BBC brukes kunstig intelligens til å lage videoer av funksjonshemmede og vansirede veteraner som hevder å ha fått alvorlige skader i krig, blant annet mistet øye eller nese.
Videoene oppfordrer seerne til å kjøpe produktene for å støtte veteranene.
Den britiske veteranen Raymond Gilbert ble lurt til å betale 200 dollar for det han trodde var en håndlaget trefigur med et flagg, laget av en funksjonshemmet veteran.
Facebook/Luke Crafts.
Da pakken kom, var den merket med kinesisk skrift. Inni lå et trykt bilde av et flagg som var limt på en finérplate.
Gilbert hadde funnet reklamen på TikTok. Videoen viste en veteran med følelsesladede tekster om hvordan samfunnet hadde vendt ham ryggen etter tjenesten.
– Jeg sjekket det, og alt så veldig bra ut; det var tidligere salg, og alt virket i orden, sa han til BBC.
– Det er en foraktelig, lumsk måte å prøve å svindle noen på; det er en umoralsk handling, sa han.
Han advarte om at folk må være klar over at kunstig intelligens blir bedre, mens mennesker blir bare verre.
Lignende AI-genererte videoer er også blitt publisert på Facebook, Instagram og YouTube. Produktene som markedsføres, inkluderer blant annet treflagg, vesker og dørkranser.
En sjekk på Facebook viser at Luke Craft-siden fortsatt er oppe, men når man klikker på adressen til nettsiden, vises meldingen «Page not found».
Men den viser hvor mange som har trodd at dette var ekte veteraner. Denne videoen som er lastet ned fra FB, fikk nesten 5000 oppstemmer og mange hjertevarmende meldinger.
Teknologieksperten Will Guyatt sier at slike videoer kan produseres på bare noen få minutter ved hjelp av kunstig intelligens. Innholdet kan samtidig instrueres til å være spesielt følelsesladet.
Når falske kontoer og annonser blir fjernet fra plattformene, opprettes det ofte nye kontoer hvor de samme videoene publiseres på nytt.
Den britiske advokaten Daniel Fletcher beskriver kampen mot denne typen AI-svindel som svært vanskelig. – På mange måter kjemper vi en kamp vi nesten ikke kan vinne, sier han.
