인공지능 (또는 AI)가 만들고 있습니다 피싱 이메일을 더 똑똑하게, 악성 코드 더욱 교활하게, 그리고 자격 증명 도난 더 쉬워지면서 우리 각자는 공격 및 정보 유출 위험에 더욱 노출됩니다.
범죄자들은 인공지능을 이용해 기존 보안 도구로는 막을 수 없었던 일을 저지르고 있습니다. 마치 평범한 일상 활동처럼 보이도록 공격을 위장하고 있는 것입니다.
무섭지도 않고, 뻔하지도 않아요. 그냥 평범하고 일상적인 일이죠.
이러한 AI로의 전환은 조직이 생각하고 준비해야 하는 방식을 바꿔놓습니다.
예전 피싱 이메일은 쉽게 알아볼 수 있었습니다. 문법 오류, 이상한 형식, 나이지리아 왕자를 사칭하며 은행 계좌 정보를 요구하는 내용 등. 이제는 우리 어머니들조차 그런 이메일을 보면 눈을 흘기며 삭제 버튼을 누르는 법을 터득하셨을 겁니다.
그러다 해커들은 교묘해져서 피싱 이메일에 긴급성과 감정적 요소를 가미하기 시작했습니다. 시사 문제, 환경 재해 또는 인재를 이용해 우리가 클릭하고 싶어하는 링크들로 메일함을 가득 채웠습니다. 하지만 훈련과 인내심을 통해 대부분의 사람들은 이러한 정교한 공격을 피할 수 있게 되었습니다.
그러다가 인공지능이 등장하여 평범함을 이용하고 일상적인 세부 사항에 자연스럽게 녹아드는 방식으로 이메일 공격을 강화했습니다. 바로 이 지점에서 위협이 진화하고 성공을 거두고 있습니다.
AI 기반 피싱 이메일은 일반 피싱 이메일과는 다릅니다. 이러한 이메일은 회사, 팀, 협력업체에 대한 공개 정보를 활용하여 마치 진짜처럼 보이는 메시지를 만듭니다. CEO의 글쓰기 스타일을 모방하고, 팀이 진행 중인 실제 프로젝트를 언급하며, 수신자가 진짜처럼 느끼도록 적절한 시기에 도착합니다. 바쁜 업무 환경과 수많은 이메일 속에서 실수로 클릭하기란 그 어느 때보다 쉽습니다.
하지만 저희 보안 도구는 (AV, XDR, 방화벽, MFA)는 우리의 실수로부터 우리를 보호하기 위해 존재하는 걸까요? 때로는 그렇습니다. 하지만 점점 더 그렇지 않은 경우가 많아지고 있습니다.
AI는 범죄자들이 끊임없이 스스로를 변형하는 악성 소프트웨어를 구축하는 데에도 도움을 주는데, 이는 기존의 악성 코드 서명 스캔 방식이 완전히 무용지물이 된다는 것을 의미합니다.고급 악성코드 탐지 - 시그니처 기반 탐지 vs. 행동 기반 탐지AI 기반 악성코드 공격에서는 악성코드가 나타날 때마다 다른 모습을 하고 있기 때문에 기존의 시그니처 기반 탐지 도구로는 이를 탐지하지 못합니다.
핵심 문제는 이러한 공격이 정교하다는 것이 아닙니다. 핵심 문제는 이러한 공격이 눈에 띄지 않도록 설계되었다는 것입니다.
기존의 안티바이러스 도구는 악당들이 명백히 나쁜 짓을 한다는 전제하에 설계되었습니다. 그들은 알 수 없는 곳에서 침입하고, 한 번에 수천 개의 비밀번호를 시도하며, 식별 가능한 악성 프로그램을 설치합니다. 시스템이 이러한 패턴을 감지하면 경보를 울립니다.
AI 기반 공격자는 탐지를 피하도록 훈련되었습니다. 공격자는 탈취한 실제 계정 정보를 사용하여 로그인한 후, 정상적인 업무 시간 동안 시스템 내에서 활동합니다. 공격자는 서두르지 않고 신중하게 움직이며, 탐지를 피하기 위해 며칠 또는 몇 주에 걸쳐 작은 단계들을 밟아 나갑니다. 각각의 행동은 개별적으로 보면 실제 직원이 하는 행동처럼 보입니다. 눈에 띄는 점이 전혀 없습니다. 공격은 배경 속으로 자연스럽게 녹아듭니다.
규칙 기반 모니터링은 개별적인 위험 신호만 찾을 뿐, 사용자의 전체적인 모습과 평소 행동 방식을 파악하지 못하기 때문에 이러한 문제를 해결하는 데 어려움을 겪습니다. 실제 직원과 해당 직원의 계정 정보를 도용한 공격자를 구분하려면 단순히 목록의 항목을 확인하는 것이 아니라 시간 경과에 따른 패턴을 관찰해야 합니다.
보안 팀들이 행동 분석이라는 새로운 접근 방식으로 전환하고 있습니다. 아이디어는 간단합니다. "이 행동이 알려진 나쁜 패턴과 일치하는가?"라고 묻는 대신, "이 행동이 이 특정 인물의 실제 행동 방식과 일치하는가?"라고 묻는 것입니다.
귀사의 재무 관리자는 매일 아침 8시 15분에 자택 사무실에서 로그인하여 두 시간 동안 보고서를 작성합니다. 주말에는 급여 파일에 접근하지 않으며, 거주 국가 외에서 접속한 적도 없습니다. 이러한 패턴이 깨지는 경우, 비밀번호가 정확하고 기기가 익숙해 보이더라도 다시 한번 살펴볼 필요가 있습니다.
이 접근 방식은 사람들이 일하는 전체적인 맥락을 관찰합니다. 여기에는 사용하는 기기(안드로이드 또는 아이폰? 윈도우 또는 맥?), 접근하는 시스템(제1, 제2, 제3 시스템), 근무 시간, 그리고 발견한 정보를 어떻게 활용하는지 등이 포함됩니다. 기준선에서 벗어나는 부분이 있으면 시스템에서 검토 대상으로 표시합니다.
이러한 사고방식을 적용하는 데 고급 인공지능이 필요한 것은 아닙니다. 이 원칙들은 10명으로 구성된 소규모 팀에서든 10,000만 명 규모의 기업에서든 똑같이 효과적입니다.
실질적인 진전을 이루기 위해 완벽한 보안 운영 센터가 필요한 것은 아닙니다. 이러한 단계들은 모든 조직에 적용 가능하고 효과적이며 확장성이 뛰어납니다.
먼저, 비정상적인 활동에 대한 로그인 알림을 설정하세요. Microsoft 365, Google Workspace, 은행 포털을 포함한 대부분의 비즈니스 도구는 사용자가 새로운 기기나 위치에서 로그인할 때 알림을 제공합니다. 이러한 로그 기능을 활성화하는 데는 (대부분) 비용이 들지 않으며, 계정 해킹으로 인한 피해가 커지기 전에 이를 발견할 수 있는 기회를 제공합니다.
둘째, 항상 요구하십시오. 다중 요소 인증 어디에나 해당됩니다. 이 조치를 반박할 수 있는 현대적인 논리는 없습니다. 만약 임원이 어떤 이유로든 반발한다면, 그들에게 왜 그들만이 해킹을 막을 수 있었던 유일한 보안 조치를 우회할 수 있었는지 당국이나 주주들에게 설명하는 것이 괜찮은지 물어보십시오. 계정 정보 유출은 대부분의 AI 기반 공격의 첫 번째 관문입니다. MFA(다단계 인증)는 비밀번호가 유출되더라도 이러한 위험을 차단합니다. 만약 여러분의 팀이 이메일, 은행 업무, 그리고 중요한 앱에 MFA를 사용하고 있지 않다면, 지금 당장 해야 할 가장 중요한 변화가 바로 MFA 도입입니다.
셋째, 접근 권한 검토 습관을 강화하세요. 분기별로 주요 시스템에서 누가 어떤 권한을 가지고 있는지 확인하십시오. 모든 직원이 사용하는 모든 시스템에 대한 접근 권한이 있는지, 각자의 역할에 맞게 조정되었는지 확인하기 위해 신규 직원 온보딩 및 오프보딩 절차를 검토하고, 분기별 검토 과정에서 참고할 수 있도록 해당 절차를 최신 상태로 유지하십시오. 더 이상 접근 권한이 필요하지 않은 전 직원, 계약직 직원 및 협력업체는 숨겨진 위험 요소입니다. 필요 없는 접근 권한을 제거하는 데는 비용이 들지 않으며, 공격자가 노리는 대상을 제거하는 효과도 있습니다.
이러한 조치들은 막대한 투자나 복잡한 인프라를 필요로 하지 않습니다. 집중적인 관심과 행동에 나서겠다는 결심에서 시작됩니다.
이 세 가지 단계 중 하나를 선택하여 오늘 실행하세요. 그리고 내일도 다시 실행하세요. 앞으로 14일 동안 매일 반복하세요. 이것이 바로 습관을 만드는 방법입니다. 로그인 알림을 설정하고, 다단계 인증(MFA)을 활성화하고, 사용자 접근 권한을 정리하세요. 매일 반복되는 작은 행동들이 지속적인 보안을 만들어냅니다.
모든 보안 문제를 한 번에 해결할 필요는 없습니다. 오늘날의 AI 기반 공격은 정상적인 업무 흐름에 자연스럽게 녹아들도록 설계되어 있기 때문에, 진정한 이점은 미묘하게 이상한 점을 발견하는 데 있습니다. 매일 조금씩 그런 능력을 향상시키면 훨씬 더 속기 어려운 존재가 될 수 있습니다. 이것이 바로 진정한 발전입니다. Hoot Up!
최신 사이버 보안 동향, 팁, 모범 사례를 알아보고 공유하세요. 또한 주의해야 할 새로운 위협도 알려드립니다.
OAuth 토큰은 직원이 퇴사하거나, 비밀번호가 변경되거나, 앱이 오작동하더라도 만료되지 않습니다. 귀사의 보안 프로그램에는 다음이 필요합니다...
더보기
대부분의 데이터 유출은 새벽 3시에 후드티를 입은 해커가 암호를 해독하는 것으로 시작되지 않습니다. 사용자 이름과...
더보기
기사 업데이트: 2026년 5월 6일 현재, 구글 딥마인드, 마이크로소프트, xAI를 포함한 미국의 주요 AI 연구소들은 모두...
더보기
