Superappen som Facebook och Google inte vågade släppa
Den dystopiska science fiction-världen har blivit verklighet.
Vi har aldrig träffats förut. Ändå vet jag vad du heter, var du bor, när du fyller år, vad du gjorde igår och vad du går igång på. Jag behöver bara titta på dig genom mina solglasögon så dyker dina hemligheter upp på min hornhinna.
Framtiden är här – har du hunnit rensa bort dina lik ur garderoben?
Den vanligaste frågan jag får är om artificiell intelligens kommer att förinta mänskligheten. De flesta som undrar har lyssnat på Max Tegmarks dystopiska sommarprat, men inte på så mycket annat om AI-revolutionen. Mitt svar? Att jag tänker mycket mer på hur artificiell intelligens kommer att förändra samhället och påverka hur vi lever våra liv. Ett läskigt exempel är riskerna med ansiktsigenkänning.
I november 2019 fick New York Times-journalisten Kashmir Hill ett tips som verkade vara för galet för att vara sant. Det New York-baserade företaget Clearview AI påstod sig kunna identifiera vem som helst med hjälp av en porträttbild. Och inte nog med det: de hade byggt en tjänst som de sålt till FBI och ett 100-tal polisstationer runt om i USA. Plötsligt kunde poliserna fånga kriminella som aldrig förr. Allt de behövde var ett foto. Resten löste den magiska AI-appen – med 99 procent träffsäkerhet.
Poliserna var inte ensamma om att fascineras av de nya möjligheterna. Även miljardärer och investerare i Silicon Valley använde den hemliga superappen i smyg. Liksom internationella företag och myndigheter runt om i världen, med syftet att identifiera människor – utan deras medgivande.
Bakom den spektakulära tjänsten står en trio som knappast identifierar sig som experter inom mänskliga rättigheter. Clearview AI grundades av förintelseförnekaren Charles Carlisle Johnson, Rudy Giulianis polare Richard Schwartz och Hoan Ton-That, skaparen bakom sajten ViddyHo som gick ut på att lura användarna att dela med sig av sina Gmail-uppgifter.
För att kunna skapa en app som får makteliten att öppna plånboken har de skrapat internet och sociala plattformar som Facebook och YouTube på fler ansikten än det finns människor. I skrivande stund har det lilla AI-företaget samlat ihop över 30 miljarder bilder. Det låter mycket, och det är det. Men Clearview AI är allt annat än revolutionerande.
Tjänsten bygger på teknik som Facebook och Google experimenterade med redan 2017, men inte vågade lansera eftersom den kan komma att eliminera vårt privatliv för all framtid. Möjligheterna är, som man säger, oändliga för alla de som älskar att hota och hata. Fyllon som får nobben i baren. Stalkers. Pedofiler. Mördare. Allt de behöver är en bild.
Men alla är inte poliser, miljardärer och superkändisar. Då kan man istället använda sajten PimEyes som fungerar på samma sätt som Clearview AI. Den har ”bara” några miljoner ansikten i sin databas, men det är tillräckligt för att jag ska hitta 132 bilder på mig själv, varav några som jag inte visste fanns.
Tur att jag inte har börjat sälja nakenbilder på mig själv på OnlyFans ännu. Den här tekniken är som guds gåva till internetdetektiver som vill veta var kvinnor som säljer sex online bor. Eller de som har sex på internet utan att veta om det, eftersom det är deras dumpade partners som har publicerat videon.
Men det måste inte handla om hot och hat. Det kan lika gärna handla om diskriminering. På alla nivåer. I New York använde Madison Square Garden ansiktsigenkänning för att porta medarbetarna från en advokatfirma som engagerat sig i ett fall mot eventjätten.
Men att ett gäng advokater inte får dricka öl på Manhattans nöjesfält är en sak. Att massövervakning med ansiktsigenkänningsteknik har låg träffsäkerhet, riskerar att förstärka befintliga diskriminerande strukturer och hotar vår integritet och våra mänskliga rättigheter är en annan. Fråga uigurerna i Kina.
Även i Sverige blir den här tekniken allt vanligare. Efter upploppen i samband med Rasmus Paludans koranbränningar har polisen använt ansiktsigenkänning i utredningsarbetet för att effektivisera identifieringen av misstänkta. I dessa fall analyserades bildmaterialet av polisens egna datorer. Men om du inte är utbildad är risken stor att du identifierar fel person. I fallet med FBI, som använt sig av Clearview AI, har 95 procent av användarna inte utbildats i tekniken. Då är risken stor att det slutar som för höggravida Porcha Woodruff som greps av polis när hon skulle skjutsa sina barn till skolan eftersom tekniken felaktigt hade identifierat henne som en biltjuv – på grund av att hon är mörkhyad.
De senaste åren har Clearview AI tvingats böta över 700 miljoner kronor i flera länder där domstolar krävt att företaget ska be om användarnas tillåtelse för att skapa deras ansiktsavtryck. Men trots skandalerna rullar pengarna in. Nyligen hjälpte de Ukraina att identifiera ryska spioner och enligt uppgifter i The New Statesman använder ukrainarna tjänsten till att identifiera döda ryska soldater och kontakta deras släktingar. Nedan är den senaste videon på när en av grundarna, Hoan Ton-That, tillåts bre ut sig om den kontroversiella appen.
Nästa steg är att koppla ihop Clearview AI med ett par smarta glasögon som är uppkopplade mot internet, i stil med Metas och RayBans uppdaterade augmented reality-brillor som nyligen släpptes.
Vi är inte där ännu, men så sent som för två år sedan sa Metas teknikchef Andrew Bosworth att han skulle vilja utrusta AR-glasögonen med ansiktsigenkänning. I den bästa av världar skulle ett par sådana glasögon kunna göra dig till en mer empatisk människa, genom att hjälpa dig att minnas namnet på människor du träffar. När de fyller år. Vad de gillar. Eller hitta din kompis i publikhavet under en Håkan Hellström-konsert.
Men i värsta fall hjälper de även din mördare att veta var du bor.
Fotnot: Kashmir Hills bok ”Your Face Belongs to Us” om Clearview AI släpptes den 19 september.