A speaker is reflected in the sunglasses of a woman wearing an N95 mask and a protective suit during a protest against the treatment of senior citizens, particularly those of Japanese decent, in care facilities Thursday, Feb. 25, 2021, in Los Angeles. A caravan of drivers placed flowers on a wreath that represented 113 seniors who have died from COVID-19 at Kei-Ai Los Angeles Healthcare Center.  (AP Photo/Ashley Landis)  CAAL106
Du kan inte dölja dig. Algoritmer kan allt enklare avgöra personliga åsikter utifrån ansiktsdrag. Bild: Ashley Landis

Gör inte politik av våra ansikten

Ansiktsigenkänning kan användas på sätt som skadar liberala demokratier och öppna samhällen.

ANNONS

Är personen som sitter i matbutikens kassa konservativ eller liberal? Det är en svår fråga. Be någon att klassa okända personers politiska läggning utifrån deras utseende, och de lyckas knappt bättre än slumpen. I snitt blir det rätt 55 procent av gångerna någon ska kategorisera ett ansikte som antingen konservativt eller liberalt.

Att undersöka detta är ingenting nytt. Enligt två studier från ett forskarteam avgör mormoner tillhörighet med blotta ögonen, eftersom de ser sig som spirituellt annorlunda vilket återspeglas rent fysiskt. Även sexuell läggning och personlighet kan avläsas hyfsat bra genom en okulär besiktning, enligt andra forskare.

ANNONS

I en ny studie, publicerad i tidskriften Nature 11 januari, visar dock psykologen Michal Kosinski från Stanforduniversitetet att algoritmer förändrar synen på medmänniskor.

Kosinski inhämtade en bild vardera från en miljon människor, mestadels kvinnor, från Facebook- och dejtingsidor i Storbritannien, USA och Kanada. Var tredje person var vad Kosinski beskriver som "icke-vit".

För att inte skapa ytterligare en algoritm som kränker människors integritet användes en fritt tillgänglig modell för att tillskriva ansikten politisk hemvist. Resultaten var skrämmande. Om en människa har rätt i 55 procent av fallen hade algoritmen det i över 70 procent.

Det är mycket bättre än vad algoritmer i dag klarar av när det kommer till personlighet, ett långt mer standardiserat och utforskat område. Det tyder på att utvecklingen inom ansiktsigenkänning går rasande fort.

Det finns invändningar. Exempelvis är högerväljare statistiskt sett, åtminstone i anglosaxiska länder, oftare vita, äldre och manliga. Men även när Kosinski tar höjd för detta sänktes modellens träffsäkerhet i snitt bara med 3,5 procent.

Samtidigt tar modellen inte höjd för kontext. Den som till exempel kallar sig liberal i sydsvenska kommuner där Sverigedemokraterna styr, kan i en progressiv vänsterstad som Umeå anses som höger eller konservativ. Ge modellen sådan bakgrundsinformation och träffsäkerheten ökar, spånar Kosinski. Men varför är detta viktigt?

ANNONS

I sin grymmaste form använder stater kategorisering och stereotypisering för att kränka människovärdet. Skälet till att psykologer, kognitionsvetare och sociologer alls studerar hur folk avkodar andra människor går att härleda till insikterna efter Förintelsen. Svenska statens behandling av samer, tornedalingar och romer har närt andra utskott på kunskapsträdet.

Riskerna ökar i mer digitaliserade samhällen. Det finns teknologi som sopar igen ens digitala fotspår, men ansiktet är svårt att anonymisera. Det tydligaste exemplet är Kina, där staten med algoritmer för ansiktsigenkänning bedriver övervakning, tvångsinternering och hjärntvätt av den muslimska minoriteten uighurer.

För att förstå sin omvärld förenklar människor det de ser. Men de verktyg vi i dag har skapat för enklare trafikflöden, banktransaktioner och matinköp kan vändas mot oss.

I värsta fall kan verktygen röja individers psykologiska fundament – vad de tror och röstar på, vem de älskar – utan att vi ser eller vet om det. Det bådar illa för liberala demokratier och öppna samhällen.