Nya fejkade AI-filmer på kändisar – bara början
Publicerad 14.06
Övervakningsfilmer på Donald Trump som rånar en affär och Kamala Harris som förs bort av polis sprids på nätet.
Allt är fejk – det är nya videor skapade av AI.
– Jag är rädd att vi kommer att få se mer. Tillslut kan det vara svårt att se vad som är mänskligt i våra telefoner, säger Nicklas Hermansson, 43, futurist på NomoFomo
AI-utvecklingen går fort. För ett och ett halvt år sedan häpnade världen över fejkade AI-bilden av påven iklädd en cool dunjacka. Nu har tekniken tagits ett steg längre. Det är AI-videor som skapar oreda. Vad är sant och vad är falskt?
”Skadan redan skedd”
Det är bland annat Elon Musks satsning på AI och videoverktyget Gock som skapar filmer.
Att presidentkandidaten Kamala Harris går runt med ett automatvapen är förstås inte sant. Men det finns ändå faror med AI-videon. Tekniken kan användas för att svartmåla sina konkurrenter.
– Men det här är bilder som fastnar i huvudet på en, som gör att jag kan se hur Kamala Harris skulle kunna göra nånting dumt. Och redan där är ju skada skedd, säger Nicklas Hermansson.
Presidentvalet i USA
Komiska AI-videor har använts världen runt på nätet. Men också i allvarligare sammanhang som i bedrägerier och i politiska val.
I början av november är det val i USA. Men tekniken har hittills inte använts, på ett negativt sätt, i den utsträckning som många befarat.
– Det blev inte så mycket som vi trodde. Men vi kommer ju bara se mer av det här eftersom det kommer dels bli bättre kvalitet och det dels kommer bli lättare att göra det för många, säger Nicklas Hermansson.
Största popsångerskan är digital
I London spelar abbatarerna för utsålda hus. Nicklas Hermansson undrar om den nya tekniken i framtiden kan göra så att en AI-avatar skickas ut till 52 delstater, för att på så sätt vara effektivare och på plats på flera ställen samtidigt. Och på så sätt även undvika risker som exempelvis ett attentat liknande det Donald Trump utsattes för under hösten någon månad före det amerikanska valet.
– Frågan är bara, kommer vi att köpa då att Trump inte är där på riktigt? Han måste ju säga att det här är ett hologram, säger Nicklas Hermansson.
– I Japan så är en av deras största popsångerskor digital. Hon uppträder som ett hologram. Och det står liksom tiotusentals människor i publiken. Så det går ju att trollbinda på det här sättet också.
Faror med AI-Video
Framtidsspanaren lyfter ett varningens finger för tekniken eftersom det kan användas till andra ändamål än det den är tänkt att göra. Till exempel att man utger sig för att vara någon annan än den man är.
– Det kan vara personer som försöker lura till sig pengar genom bedrägeri. Riskerna finns också att personer manipulerar AI-videor och trakasserar andra. Och framförallt yngre tjejer som råkar ut för det här just nu, säger Nicklas Hermansson.
Porr och jobbmöten
Har du för mycket att göra på jobbet – och för många möten?
I digitala möten kan man redan nu skicka sin avatar, istället för att sitta med på mötet. Flera stora företag har, bara de senaste veckorna, släppt den tjänsten. Och då handlar det inte bara om att avataren ska sitta och nicka och le på mötena.
– Den kan också presentera min PowerPoint-presentation utan att jag behöver vara där, säger Tomas Seo, 50, innovationsstrateg.
– Otroligt!
– Ja, det blir kul!, säger Tomas.
Det finns också möjlighet att skicka en avatar som första kontakt på anställningsintervjuer.
– Alltså kandidatens första träff är en bot som intervjuar dem och gör underlag för om de kommer vidare i urvalsprocessen, säger Tomas.
Ett annat område där AI-avatarer kommer att användas i framtiden är inom pornografin.
– Porr kommer vara en stor grej naturligtvis. Kan man göra någonting så kan man göra porr med det, säger Tomas Seo.
Framtidens AI-avatarer
I framtiden kommer tekniken att vara mer lättillgänglig och användas av fler personer. I nuläget kan vem som helst göra videor som är några sekunder långa bara genom att skriva vad de vill ha.
Redan nu kan tekniken användas till nyhetsuppläsning, som influencers och för informationsspridning. Och Meta har annonserat att influencers kommer kunna göra avatarer direkt i deras plattformar.
– Det är en miljardindustri redan nu med virtuella influencers, säger Tomas Seo.
Batchelor-deltagare som förebild
I Ukraina är presstalespersonen en digital avatar. AI-avatarens namn är Victoria Shi. Hennes röst och utseende är baserad på en verklig person. Rosalie Nombre, en sångerska och tidigare deltagare i ukrainska ”The bachelor”.
Digitala nyhetsuppläsare
Till exempel en tv-kanal på Hawaii och Channel One, har gjort digitala nyhetsuppläsare och reportrar.
– Rent tekniskt så skulle man kunna säga så här att det är väl klart att någon kan hacka en digital programledare. Det kan också vara så att vi kanske inte har samma förtroende för programledarna. Vi har inte liksom inga känslomässigt band till dem vilket gör att vi blir mindre intresserade av dem, säger Nicklas Hermansson.
Techjättarnas ansvar
Nu håller Google på att ta fram ett verktyg som gör att just stillbilder ska märkas så at man ska kunna se om de är riktiga eller inte.
– Men vi kommer aldrig kunna förlita oss på de sociala plattformarna, som sänder ut allt det här innehållet utan ansvariga utgivare. Vi måste ju också komma ihåg att till slut så handlar det om att vi själva har ett ansvar, säger Nicklas Hermansson.
– Frågan är när då revolten mot den här utvecklingen kommer?