Rozpoznávání obličejů ustupuje

Software pro rozpoznávání obličejů se den ode dne zlepšuje a strojové učení a umělá inteligence tento nástroj exponenciálně rozvíjejí. Nedávný pokrok v technologii umělé inteligence umožnil systémům generovat realistické obrazy lidských tváří zcela od nuly. Tyto systémy používají datové sady složené z milionů obrázků skutečných lidí , aby se v průběhu času „naučily“, jak autonomně generovat vlastní originální obrazy. Na každoroční akci Black Hat USA byla tato nová technologie otestována.

Oklamání systému

Společnost Black Hat USA uspořádala v srpnu 2020 virtuální akci, která spojila mnoho odborníků na kybernetickou bezpečnost a technologie. Výzkumníci ze společnosti McAfee ukázali, jak se jim podařilo pomocí technologie umělé inteligence úspěšně oklamat systém rozpoznávání obličeje a přimět ho, aby jednu osobu chybně klasifikoval jako zcela jinou. Jako příklad vědci ukázali, jak na letišti mohla osoba na seznamu osob se zákazem letu oklamat systém rozpoznávání obličeje používaný k ověření pasu a identifikovat ji jako jinou osobu (video naleznete na konci článku). Po akci Steve Povolny, vedoucí pokročilého výzkumu hrozeb ve společnosti McAfee, uvedl:

„Základním cílem bylo zjistit, zda dokážeme pomocí modelů strojového učení vytvořit falešný obraz, který by lidskému oku vypadal jako jedna osoba, ale zároveň by byl systémem rozpoznávání obličeje klasifikován jako jiná osoba.“

Výzkumníci ze společnosti McAfee vytvořili systém strojového učení, do kterého zadali 1 500 fotografií dvou různých osob. Snímky byly pořízeny z živého videa a snažily se přesně reprezentovat platné pasové fotografie obou osob. Systém průběžně vytvářel a testoval falešné snímky obou osob smícháním rysů obličeje obou subjektů. Během stovek trénovacích cyklů systém strojového učení nakonec vygeneroval snímky, které systém rozpoznávání obličeje oklamaly. Platná pasová fotografie jedné osoby byla omylem identifikována jako fotografie druhé cílové osoby. 

Hrozby z reálného světa

Povolný, hlavní výzkumník, zmínil, že scénář útoku na systém ověřování pasů, ačkoli není primárním zaměřením výzkumu, je možný. Vzhledem k tomu, že se nyní akceptují digitální pasové fotografie, může útočník vytvořit falešný obrázek komplice, podat žádost o pas a nechat si obrázek uložit do databáze pasů. Pokud by například později byla na letišti v automatizovaném kiosku pro ověřování pasů pořízena živá fotografie útočníka, byla by tato fotografie identifikována jako fotografie komplice.

„To nevyžaduje, aby měl útočník jakýkoli přístup k pasovému systému; stačí, aby databáze pasového systému obsahovala fotografii komplice, kterou si předložil při žádosti o pas. Pasový systém se jednoduše spoléhá na určení, zda se dva obličeje shodují, či nikoli. Jediné, co dělá, je, že ověřuje, zda je fotografie jedné osoby identifikována s uloženou fotografií v backendu. Takový útok je tedy zcela proveditelný, i když jeho provedení vyžaduje určité úsilí. Je méně pravděpodobné, že by pro útok fungovala fyzická pasová fotografie, která byla zaslána poštou, naskenována a nahrána do této databáze,“

– Steve Povolny, hlavní výzkumný pracovník McAfee

McAfeeho generativní adverzární sítě

Výzkum v oblasti rozpoznávání obličejů zahrnoval použití nástroje „generativní adversarialní sítě“ (GAN) známého jako CycleGAN. GAN jsou neuronové sítě s umělou inteligencí schopné vytvářet data podobná datům, která jsou do nich vstupována. Například GAN může použít sadu skutečných obrazů lidských tváří k autonomnímu generování zcela falešných, ale reálně vypadajících obrazů lidských tváří. GAN používají generativní sítě k vytváření syntetických dat a diskriminační sítě k průběžnému vyhodnocování kvality generovaného obsahu, dokud nedosáhne přijatelné kvality.

Samotná CycleGAN je podle McAfeeho GAN pro převod z obrazu do obrazu: například převod obrázku zeber na obrázek koní. Jednou z vlastností GAN je, že pro převod využívá významné vlastnosti obrazu, jako je umístění očí, tvar hlavy, velikost těla a další atributy.

Rizika CycleGAN

Technologie rozpoznávání obličeje se stále častěji používá a hraje roli v donucovacích orgánech při identifikaci podezřelých na fotografiích nebo videích. Společnost McAfee chtěla provést tento výzkum, aby pochopila potenciální důsledky softwaru pro rozpoznávání obličeje a jak jej lze použít proti nám.

Co mohu jako jednotlivec dělat?

Rozpoznávání obličeje je obtížně regulovatelná technologie. Mnozí se obávají potenciálních obav o soukromí, které tento software přináší. Nástroj se používá způsoby, které si mnozí nedokážou představit; nahrávání fotografií z internetu a jejich kombinování s rozpoznáváním obličeje za účelem vytvoření výkonného identifikačního nástroje. Společnost Clearview AI vytvořila aplikaci, která umožňuje uživatelům (obvykle policii) nahrávat a analyzovat fotografii osoby v rámci jejich aplikace. Během několika minut si žadatel může prohlédnout každou veřejnou fotografii v databázi dané osoby (prohledává více než 3 miliardy obrázků). Tyto nové fotografie se zobrazují spolu s odkazy na místa, kde se tyto obrázky nacházejí online (sociální média).

I když neexistuje mnoho možností, jak podniknout kroky, můžete se obrátit na společnosti jako Clearview AI prostřednictvím odkazů na jejich stránku o ochraně osobních údajů a požádat o smazání vašich údajů. Můžete také napsat svému delegátovi Kongresu a požádat, aby Senát USA schválil komplexní legislativu o reformě ochrany soukromí, která by chránila všechny občany USA, namísto toho, aby každý stát vytvářel směsici různých zákonů o ochraně soukromí. Technologie rychle převyšují naši schopnost regulovat je stávajícími zákony. Je zapotřebí holistický přístup k ochraně soukromí. Čtení tohoto a dalších podobných článků, abyste zůstali informováni, mazání dat tam, kde je nechcete ukládat, a boj za práva na soukromí je to, co musíme udělat, abychom se ochránili.

Co mohu dělat jako majitel firmy?

Povolny dále poznamenal, že organizace zabývající se umělou inteligencí pracující na vývoji technologie rozpoznávání obličeje mohou podniknout kroky ke snížení pravděpodobnosti, že se stanou obětí útoků:

„Testování anomálií, vstupy od nepřátelských stran a rozmanitější tréninková data patří mezi způsoby, jak mohou dodavatelé vylepšit systémy rozpoznávání obličejů. Navíc hloubková obrana s využitím druhého systému, ať už lidského nebo strojového, může poskytnout mnohem vyšší riziko zneužití než jediný bod selhání.“

Stěhování vpřed

Firmy i jednotlivci těží z technologie rozpoznávání obličeje, protože zlepšují zabezpečení ověřování. Software pro rozpoznávání obličeje se široce používá v mobilních zařízeních k zabezpečení zařízení a aplikací v samotných zařízeních. Bezpečnostní experti tvrdí, že technologie rozpoznávání obličeje je lepší než většina špatně vytvořených hesel uživatelů, a proto představuje zlepšení v ověřování a autentizaci. Nicméně je třeba mít na paměti, že hackeři i bezpečnostní výzkumníci hledají způsoby, jak nástroje pro rozpoznávání obličeje podvést, aby získali přístup k účtům, zařízením a aplikacím, které obličeje chrání.

Tím, že si lépe uvědomíte výhody a výzvy spojené s ověřováním rozpoznáváním obličeje a některá jeho využití orgány činnými v trestním řízení, se můžete stát bezpečnějšími.

Zdroj

DarkReading

Další čtení

Software Clearview AI pro rozpoznávání obličeje 

Software pro rozpoznávání obličeje čte skrz COVID masky

Podívejte se na toto krátké video ukazující výzkumný test McAfee: