Zwarte man via etnisch profileren opgepakt, ten onrechte

Een zwarte Amerikaanse man werd eerder dit jaar onterecht gearresteerd omdat software voor gezichtsherkenning hem had aangezien voor een crimineel.

Het zou de eerste keer zijn dat zo’n fout met gezichtsherkenning aan het licht komt, meldt de Amerikaanse mensenrechtenorganisatie ACLU.  De organisatie diende woensdag in een klacht in tegen de politie van Detroit.

 

Enige tijd geleden (nog voordat George Floyd vastgeklemd is) werd de zwarte Amerikaan Robert Williams aangehouden en een nacht vasthouden op het politiebureau. Software voor gezichtsherkenning zag Williams aan als dader van een overval in een juwelierszaak in 2018.

'Computer had het fout'

Een foto van de overvaller werd door software vergeleken met een database met 49 miljoen gezichten. Na een nacht in de cel werd echter duidelijk dat Williams niet dezelfde persoon is als op de foto van de dief. Williams mocht na bijna 30 uur vertrekken, volgens de agenten "had de computer het waarschijnlijk fout".

Williams werd te snel gearresteerd. De Amerikaanse politie mag software voor gezichtsherkenning alleen als aanwijzing gebruiken, niet als een betrapping op heterdaad. Dat gebeurde in het geval van Williams wel.

Vooroordelen in software

De arrestatie is mede opvallend omdat het gaat om een foutieve herkenning van een zwarte man. Er is al jaren kritiek op de racistische vooroordelen die onbedoeld in sommige systemen voor gezichtsherkenning zijn geslopen.

Zulke systemen hebben meer moeite om zwarte mensen van elkaar te onderscheiden, onder andere omdat de systemen ‘getraind’ zijn aan de hand van overwegend foto's van witte mensen. 

Amazon, Microsoft en IBM

Eerder deze maand maakten verschillende makers van software voor gezichtsherkenning bekend de samenwerking met de politie tijdelijk te staken of niet aan te gaan. De bedrijven willen eerst duidelijk wetgeving rond de technologie. Het gaat om Amazon en Microsoft.

IBM stopt volledig met het maken van gezichtsherkenningssoftware wegens zorgen over massasurveillance en etnisch profileren.