얼굴 인식 소프트웨어는 머신러닝과 인공지능의 발전으로 나날이 발전하고 있습니다. 최근 인공지능 기술의 발전으로 시스템이 사람 얼굴의 사실적인 이미지를 완전히 처음부터 생성할 수 있게 되었습니다. 이러한 시스템은 수백만 장의 실제 사람 이미지로 구성된 데이터셋을 사용하여 오랜 기간에 걸쳐 스스로 독창적인 이미지를 생성하는 방법을 "학습"합니다. 블랙햇 USA 연례 행사에서 이 새로운 기술의 성능이 검증되었습니다.
2020년 8월, 블랙햇 USA는 수많은 사이버 보안 및 기술 전문가들이 모이는 가상 행사를 개최했습니다. 맥아피(McAfee) 의 연구원들은 AI 기술을 활용하여 얼굴 인식 시스템을 속여 한 개인을 전혀 다른 사람으로 오인하는 방법을 시연했습니다. 예를 들어, 공항에서 탑승 금지 명단에 있는 사람이 여권 확인에 사용되는 얼굴 인식 시스템을 속여 다른 사람으로 식별되도록 하는 방법을 보여주었습니다(본문 끝부분의 영상 참조). 행사 후, 맥아피의 고급 위협 연구 책임자인 스티브 포볼니(Steve Povolny)는 다음과 같이 언급했습니다.
“여기서 기본 목표는 머신 러닝 모델을 사용하여 인간의 눈에는 한 사람처럼 보이지만 얼굴 인식 시스템에서는 동시에 다른 사람으로 분류되는 가짜 이미지를 만들 수 있는지 확인하는 것이었습니다.”
McAfee 연구원들은 두 사람의 사진 1,500장을 입력하여 머신러닝 시스템을 구축했습니다. 이미지는 실시간 영상에서 캡처되었으며, 두 사람의 유효한 여권 사진을 정확하게 표현하고자 했습니다. 시스템은 두 사람의 얼굴 특징을 혼합하여 두 사람의 가짜 이미지를 지속적으로 생성하고 테스트했습니다. 수백 번의 훈련 루프를 거쳐 머신러닝 시스템은 결국 안면 인식 시스템을 속이는 이미지를 생성했습니다. 한 사람의 유효한 여권 사진이 두 번째 대상의 사진으로 잘못 식별된 것입니다.
수석 연구원인 포볼니는 여권 확인 시스템 공격 시나리오가 연구의 주요 초점은 아니지만, 실행 가능하다고 언급했습니다. 현재 디지털 여권 사진이 허용됨에 따라 공격자는 공범의 가짜 이미지를 제작하고 여권 신청서를 제출하여 여권 데이터베이스에 저장할 수 있습니다. 예를 들어, 나중에 공항의 자동 여권 확인 키오스크에서 공격자의 생사진이 촬영된다면, 해당 이미지는 공범의 것으로 식별될 수 있습니다.
"공격자가 여권 시스템에 전혀 접근할 필요가 없습니다. 단지 여권 시스템 데이터베이스에 공범자가 여권 신청 시 제출한 사진이 저장되어 있기만 하면 됩니다. 여권 시스템은 단순히 두 얼굴이 일치하는지 여부를 판단하는 데 의존합니다. 단지 한 사람의 사진이 백엔드에 저장된 사진과 일치하는지 확인하는 것뿐입니다. 따라서 이러한 공격은 충분히 가능하지만, 실행하려면 어느 정도 노력이 필요합니다. 우편으로 발송하여 스캔한 후 데이터베이스에 업로드한 실제 여권 사진이 공격에 효과적일 가능성은 낮습니다."
– Steve Povolny, McAfee 수석 연구원
얼굴 인식 연구에는 CycleGAN이라는 GAN(Generative Adversarial Network) 도구가 사용되었습니다. GAN은 입력 데이터와 유사한 데이터를 생성할 수 있는 인공지능 신경망입니다. 예를 들어, GAN은 실제 사람 얼굴 이미지 세트를 사용하여 완전히 가짜이지만 실제처럼 보이는 사람 얼굴 이미지를 자율적으로 생성할 수 있습니다. GAN은 생성 네트워크를 통해 합성 데이터를 생성하고, 판별 네트워크를 통해 생성된 콘텐츠의 품질을 지속적으로 평가하여 허용 가능한 품질에 도달할 때까지 개선합니다.
맥아피에 따르면 , 사이클GAN 자체는 이미지 간 변환을 위한 GAN(유전자형 인공지능)입니다. 예를 들어 얼룩말 이미지를 말 이미지로 변환하는 데 사용됩니다. 이 GAN의 특징 중 하나는 눈의 위치, 머리 모양, 몸 크기 등 이미지의 중요한 특징들을 변환에 활용한다는 점입니다.
안면 인식 기술은 법 집행 기관에서 사진이나 영상 속 용의자를 식별하는 데 중요한 역할을 하며 그 사용이 증가하고 있습니다. McAfee는 안면 인식 소프트웨어의 잠재적 영향과 그것이 우리에게 어떻게 악용될 수 있는지 이해하기 위해 이 연구를 진행하고자 했습니다.
얼굴 인식 기술은 규제하기 어려운 기술입니다. 많은 사람들이 이 소프트웨어로 인해 발생할 수 있는 개인정보 침해 문제를 우려하고 있습니다. 이 기술은 상상조차 할 수 없는 방식으로 악용되고 있는데, 인터넷에서 사진을 가져와 얼굴 인식 기술과 결합하여 강력한 신원 확인 도구로 활용하는 사례가 늘고 있습니다. 클리어뷰 AI는 사용자가 (주로 법 집행 기관에서) 특정 개인의 사진을 앱에 업로드하고 분석할 수 있는 애플리케이션을 개발했습니다. 사용자는 단 몇 분 만에 데이터베이스에 저장된 해당 개인의 모든 공개 사진(3억 장 이상의 이미지)을 확인할 수 있습니다. 이러한 새로운 사진들은 해당 이미지가 게시된 온라인 공간(소셜 미디어) 링크와 함께 표시됩니다.
당장 취할 수 있는 조치는 많지 않지만, 클리어뷰 AI와 같은 회사의 개인정보 보호 페이지 링크를 통해 연락하여 개인 정보 삭제를 요청할 수 있습니다. 또한, 지역구 국회의원에게 편지를 써서 미국 상원에서 모든 시민을 보호하는 포괄적인 개인정보 보호 개혁 법안을 통과시켜 줄 것을 요청할 수도 있습니다. 각 주에서 제각각 다른 개인정보 보호법을 제정하는 대신, 모든 시민의 개인정보를 보호하는 통합적인 접근 방식이 필요합니다. 기술 발전 속도는 현행 법률로는 따라잡을 수 없을 정도로 빠릅니다. 따라서 개인정보 보호에 대한 총체적인 접근 방식이 요구됩니다. 이 글과 같은 글을 읽고 정보를 얻고, 원치 않는 데이터는 삭제하고, 개인정보 보호 권리를 위해 싸우는 것이 바로 우리 자신을 보호하기 위해 해야 할 일입니다.
또한, 포볼니는 얼굴 인식 기술을 개발하는 AI 조직이 공격의 희생자가 될 가능성을 줄이기 위해 취할 수 있는 조치를 다음과 같이 언급했습니다.
"이상 징후 테스트, 적대적 입력, 그리고 더욱 다양한 훈련 데이터는 공급업체가 얼굴 인식 시스템을 개선할 수 있는 방법 중 일부입니다. 또한, 인간이든 기계든 두 번째 시스템을 활용하는 심층 방어는 단일 장애 지점보다 악용에 훨씬 더 높은 기준을 제시할 수 있습니다."
기업과 개인은 얼굴 인식 기술을 통해 인증 보안을 강화함으로써 이점을 얻습니다. 얼굴 인식 소프트웨어는 모바일 기기와 기기 내 애플리케이션 보안을 위해 널리 사용됩니다. 보안 전문가들은 얼굴 인식 기술이 대부분의 사용자가 허술하게 만든 비밀번호보다 효과적이며, 인증 및 신원 확인에도 도움이 된다고 주장합니다. 하지만 해커와 보안 연구원 모두 얼굴 인식 도구를 위조하여 계정, 기기, 애플리케이션에 접근하는 방법을 찾고 있다는 점을 명심해야 합니다.
얼굴 인식 인증의 이점과 어려움, 그리고 이를 법 집행에 활용하는 방법에 대해 더 잘 알게 되면 보안을 강화할 수 있습니다.
출처
추가 판독값
최신 사이버 보안 동향, 팁, 모범 사례를 알아보고 공유하세요. 또한 주의해야 할 새로운 위협도 알려드립니다.
대부분의 피싱 테스트는 직원들을 속입니다. 하지만 HootPhish는 먼저 인사를 건넵니다! HootPhish는 사람들에게 처음부터 이렇게 말합니다. "이 테스트는..."
더보기
