Sociale media gebruikt om gewelddadige demonstranten te pakken

7 juli 2020 | Blog, kleverig

7-7-2020 1:34 uur Correctie: In het oorspronkelijke artikel stond dat gezichtsherkenning werd gebruikt om demonstranten te betrappen. Dat is niet waar. Er werd mogelijk gebruikgemaakt van video's van sociale media in combinatie met een Tat-C-databasezoekopdracht. Volgens de meeste bronnen werd er geen gebruikgemaakt van gezichtsherkenning. CyberHoot wilde de feiten rechtzetten voordat er naar deze kwestie werd gevraagd.

De dood van George Floyd, veroorzaakt door een politieagent, leidde tot nationale verontwaardiging en talloze protesten, en de opkomst van de "Black Lives Matter"-beweging. In sommige gevallen werden vreedzame protesten onderbroken door geweld door enkelen die winkelruiten insloegen, plunderden en brandstichting pleegden. In de gevallen van geweld probeerden de wetshandhavers de plunderaars, vernielers en brandstichters te identificeren met behulp van video's op sociale media en mogelijk andere identiteitstechnologieën zoals tatoeageherkenning en mogelijk gezichtsherkenning (hoewel er bij de arrestatie in Philadelphia geen melding werd gemaakt van gezichtsherkenningstools).

CyberHoot schreef in januari 2020 voor het eerst over de grote gezichtsherkenningsdatabase van Clearview AI en in april opnieuw over hoe gezichtsherkenning werd ontwikkeld om te werken met COVID-19-mondkapjes op. Waar het op neerkomt is dat gezichts- en andere identiteitsherkenningstechnologieën (zoals tatoeagedatabases) zich razendsnel vermenigvuldigen. We moeten begrijpen wat dit betekent en regels vaststellen voor het gebruik ervan, evenals eisen voor de bescherming van deze databases, anders riskeren we onze privacy voorgoed te verliezen.

Wat gebeurt er?

Op 30 mei braken er rellen uit in het centrum van Philadelphia, Pennsylvania, met als gevolg schade, plunderingen en het in brand steken van politieauto's. De week daarop werd een 33-jarige vrouw aangeklaagd voor brandstichting, omdat ze naar verluidt twee voertuigen van de politie van Philadelphia in brand had gestoken.

De politie onderzocht deze gewelddadige protesten, inclusief "verschillende video's" van het incident die op sociale media waren geplaatst, wat uiteindelijk leidde tot de arrestatie van deze vrouw. De FBI zag een video waarin de vrouw naar verluidt de politieauto's in brand stak, identificeerde een tatoeage van een gestileerd vredessymbool op haar rechteronderarm en een Vimeo-video waarop dezelfde vrouw een brandend stuk houten politiebarricade van een auto verwijderde en door het raam van een andere auto duwde. Hoe kon de politie de vrouw identificeren op basis van een shirt en een tatoeage?

Nieuwe identiteitstechnologieën

De FBI werkt samen met het National Institute of Standards and Technology (NIST) aan een programma voor tatoeageherkenning genaamd "Tatt-C". Deze technologie omvat het creëren van een openbare database met tatoeages die gebruikt kan worden om software te trainen die tatoeages automatisch herkent, vergelijkbaar met gezichtsherkenningssoftware . De FBI heeft echter niet vermeld dat ze deze database, of de enorme hoeveelheid gezichtsafbeeldingen die erin staat, hebben gebruikt om de vermeende brandstichter te vinden; het is echter belangrijk om te benadrukken dat ze deze technologie zeker hadden kunnen gebruiken om de dader op te sporen. Deze enorme database bevat voornamelijk afbeeldingen van tatoeages van gevangenen, maar ook van tatoeages van mensen in het openbaar. Technologieën zoals Tatt-C en andere biometrische scantools zoals gezichtsherkenning roepen vragen op over privacy, gezien de honderden miljoenen foto's in deze verschillende databases. Het is duidelijk dat deze privacyschendende technologieën bestaan en wereldwijd door wetshandhavers worden gebruikt.

Privacybezorgdheden

In een ideale wereld zullen krachtige toepassingen zoals deze de wetshandhaving helpen bij het identificeren en opsporen van criminelen. Privacyactivisten wijzen er echter op dat niet elk land dat deze technologie gebruikt, te goeder trouw handelt. Van China tot Rusland en misschien zelfs de VS, machtige natiestaten gebruiken deze technologieën om hun burgers, dissidenten en personen van belang te volgen.

Wanneer bedrijven zulke krachtige technologieën gebruiken, moeten we ons afvragen wat er met onze gegevens gebeurt. Wat gebeurt er als deze technologieën in onethische handen vallen of als hackers de gegevens stelen bij een datalek? We weten al dat de volledige klantenlijst van Clearview AI eerder dit jaar is gestolen.

Het gezegde "met grote macht komt grote verantwoordelijkheid" is perfect van toepassing op identiteitsherkenningstechnologie, of het nu gaat om gezichtsherkenning, tatoeages, stemherkenning of iets anders. Het is gemakkelijk voor te stellen dat hackers dergelijke databases aanvallen om de inhoud ervan te misbruiken en criminelen zo een extra wapen te geven om tegen het grote publiek te gebruiken. Het is ook duidelijk dat er maatschappelijke normen moeten worden vastgesteld die de privacy van burgers beschermen en het gebruik van dergelijke technologieën alleen onder zeer beperkte omstandigheden toestaan.

De Grondwet beschermt mensen via het Vierde Amendement tegen onredelijke huiszoekingen en inbeslagname door de overheid. Het Vierde Amendement biedt echter geen garantie tegen alle huiszoekingen en inbeslagname , maar alleen tegen die welke volgens de wet onredelijk worden geacht. Het gebruik van identiteitstechnologie kan worden beschouwd als het opsporen van personen met de bedoeling hen te arresteren. Er moet zorgvuldig worden gehandeld om misbruik hiervan te voorkomen.

Bronnen: NakedSecurity , NIST Tatt-C-artikel

Aanvullende informatie: Gezichtsherkenningstechnologie die zelfs werkt met coronamaskers