FBI's ansigtsgenkendelsesprogram er vidtstrakt og unøjagtigt

kidmograf

Smil: måske bliver du fejlidentificeret.

Sidste år lærte vi om det bemærkelsesværdige omfang af FBI's ansigtsgenkendelsesteknologi med dens adgang til næsten 412 millioner fotos - mange stammer fra kilder, der ikke er relateret til kriminalitet, såsom ID-dokumenter. Efterretningsagenturet har forsøgt at skabe et system, der nøjagtigt kan identificere kriminelle i f.eks. CCTV-optagelser - selvom det ikke dengang var kendt, hvor godt bureauets software fungerede, eller om det rent faktisk forbedrede efterforskningen.



Nu har vi i det mindste lidt mere indsigt i programmet. Det Værge rapporter at en høring i Husets tilsynsudvalg i sidste uge afslørede nogle interessante nye detaljer om spredningen og evnerne af FBI's ansigtsgenkendelsessystemer.

For det første er der en meget god chance for, at du som amerikaner optræder i databasen. Blandt de mange millioner billeder, viser det sig, er ligheder med omkring halvdelen af ​​landets voksne befolkning. Det er muligt, fordi billeder, der stammer fra kilder, der ikke er relateret til kriminalitet, udgør 80 procent af databasen. Så når du sender formularer og billeder til et pas, kørekort eller anden officiel identifikation, hjælper du sandsynligvis med at udvide datasættet.

Måske mere bekymrende er kvaliteten af ​​FBI's anerkendelse. Høringen afslørede, at dens software i øjeblikket fejlidentificerer enkeltpersoner næsten 15 procent af tiden. I modsætning hertil er markedsledende ansigtsgenkendelsesteknologi nu så præcis, at den bruges til at godkende betalinger i Kina, og Baidu hævder at bekræfte en persons identitet korrekt. 99,77 procent af tiden .

Til FBI's forsvar arbejder den sandsynligvis med billeder af langt lavere kvalitet, både i sin database og i de billeder, som den forsøger at udføre genkendelse på, end dem, der er tilgængelige for folk som Baidu. Men fejlprocenter på 15 procent er stadig høje og kan føre til falske kundeemner eller ubegrundede indgreb i privatlivets fred.

getty

Softwaren ser også ud til at identificere sorte mennesker forkert oftere end hvide. Desværre er denne effekt forudsigelig: Vi har tidligere forklaret, at ansigtsgenkendelsessystemer i sagens natur er forudindtaget, fordi de er trænet i datasæt, der underrepræsenterer nogle demografiske forhold.

Men det problem kan have foruroligende konsekvenser. Som Værge noter, sorte mennesker er mere tilbøjelige til at have ansigtsgenkendelsessoftware brugt til at identificere dem , så det virker mærkeligt - endda uretfærdigt - at bruge værktøjer, der tydeligvis er dårligt rustede til at skelne deres lighed.

Disse klumper føjer alle til de bekymringer om privatlivets fred, der allerede har plaget FBI's initiativ til at bygge et system, der nøjagtigt kunne identificere kriminelle. Problemerne er i hvert fald blevet afsløret - nu skal de bare løses.

(Læs mere: The Guardian , Mens det søger efter mistænkte, ser FBI måske på dig , betaler med dit ansigt , er ansigtsgenkendelsessystemer nøjagtige? Afhænger af din race. )

skjule