Ansiktsigenkänning är fel väg för svensk polis
Debattörerna: Rikspolischefens förslag att använda tekniken i realtid har stora risker
Detta är en debattartikel. Det är skribenten som står för åsikterna som förs fram i texten, inte Aftonbladet.
Publicerad 06.30
DEBATT. Något av det sista som Porcha Woodruff förväntade sig, medan hon hjälpte sina barn att göra sig redo för skolan, var att polisen skulle knacka på och arrestera henne för rån och bilkapning.
Woodruff, som bor i Detroit, var då åtta månader gravid, så hon trodde först det hela var ett skämt. Men när polisen förde bort henne och höll henne i 11 timmar (tillräckligt länge att hon fick söka akut vård för vätskebrist så snart hon släpptes) kändes det inte så roligt. Och vad var orsaken till detta familjetrauma?
Att en ansiktsigenkänningsalgoritm hade matchat ett gammalt foto av henne med övervakningskamerabilder på den egentliga förövaren. En förövare som förresten inte var gravid.
Denna historia är tyvärr inte första gången som amerikansk polis råkat i blåsväder för att deras ansiktsigenkänning matchat en oskyldig person med en brottsmisstänkt. Och tyvärr visar både polisens erfarenheter och den forskning som gjorts på algoritmerna att de felar som mest på mörkhyade personer, särskilt kvinnor.
Systemen bidrar helt enkelt till en algoritmisk rasism och sexism. Men de kan också ta fel på vem som helst, då de lätt fallerar när det till exempel är dåligt ljus eller ansikten som inte fångas rakt framifrån.
Det är bara att ta på sig hoodie, solglasögon och ansiktsmask så har algoritmerna nästan ingen chans
Detta har EU greppat i sin nya AI-förordning, där de skriver att ”tekniska brister i AI-system kan leda till biaser (systematiska fel, reds anm) i resultat och medföra diskriminerande effekter” samt att användning av algoritmer i realtid därför ”kan skapa en känsla av konstant övervakning och indirekt avskräcka från utövande av mötesfrihet och andra grundläggande rättigheter”.
Och ändå har svenska rikspolischefen Petra Lundh nu föreslagit en bredare användning av ansiktsigenkänning i realtid för att identifiera grova brottslingar.
Lundh vill alltså att dessa algoritmer ska tillämpas på oss alla, under tiden vi pendlar eller går nerför gatan, i hopp om att identifiera några enstaka brottslingar. Men kommer vi verkligen få fast fler bad guys med hjälp av tekniken?
Ett lyckat resultat är tyvärr väldigt osäkert. Olika system har mycket varierande kvalitet, så det finns en överhängande risk att polisen köper in ett sämre (men bättre marknadsfört) system.
Och även om systemet faktiskt lyckas identifiera brottslingar så kommer den då att medföljas av ovan nämnda oönskade effekter: att oskyldiga felaktigt anklagas, att det blir avskräckande effekter i samhället och att vi alla blir mer paranoida över hur storebror övervakar oss.
Dessutom måste man komma ihåg att inga algoritmer är oövervinneliga. Det är bara att ta på sig hoodie, solglasögon och ansiktsmask så har de nästan ingen chans.
Så om vi inför ansiktsigenkänning i realtid kommer grov organiserad brottslighet förmodligen bara anpassa sig därefter, så att deras verksamhet inte skadas.
Rikspolischefen Lundhs påstående att ”det är inget som hindrar att när det blir lugnare i samhället att vi då också kan skruva tillbaka lagstiftning och annat” klingar då ganska falskt.
Desto mer sannolikt att man inför en integritetskränkande teknik som inte fungerar så bra som man hoppas och som då måste kompletteras med än mer integritetskränkande system.
Ansiktsigenkänning i realtid bör inte införas. Det utgör ett konkret hot mot den personliga integriteten, riskerar att bidra till omfattande diskriminering och är inte tillräckligt pålitligt att rättfärdiga de potentiella fördelar som tekniken i allra bästa fall skulle kunna bidra med.
Bättre då att polisen lägger sina resurser på något vettigare.
Oskar MacGregor, lektor i informationsteknologi
Kristofer Stahre, advokat
Häng med i debatten och kommentera artikeln – gilla Aftonbladet Debatt på Facebook.