저자 : 케이티 보케티 | 편집 : 크레이그 테일러
“권력은 부패하는 경향이 있고, 절대 권력은 절대적으로 부패한다.” 로드 액턴은 1887년 왕과 교황에 대해 이렇게 말했는데 , 놀랍도록 시간이 흘러도 변함없이 옳은 말입니다. 하지만 그의 경고는 권력자에게 부패할 만한 성격이 있다는 전제를 깔고 있습니다 . 인공지능은 그렇지 않습니다. 탐욕에 유혹될 필요도 없고, 자만심에 아첨할 필요도 없으며, 무의식적으로 잘못된 판단을 내리는 과정도 없습니다. 인공지능 시대에 맞춰 로드 액턴의 말을 새롭게 해석해 보면 다음과 같습니다. “ 인공지능은 해를 끼치기 위해 부패할 필요가 없습니다. 절대 권력을 쥐어주면, 그저 잘못된 판단을 내리기만 하면 됩니다. ”
인공지능이 오류를 범하게 만드는 데는 수년간의 유혹이나 무제한적인 권력이 필요한 것이 아닙니다. 그저 텍스트 하나면 충분합니다 . 공무원은 시간이 흐르고, 무제한적인 권력이 주어지고, 은밀한 설득이 가해지면 부패할 수 있지만, 인공지능 에이전트는 잘 쓰여진 문단 하나만 있으면 타락할 수 있습니다. 그 문단은 인공지능이 요약해야 하는 이메일 속에 숨겨져 있을 수도 있고, 코딩 도우미가 작업을 시작하기 전에 읽는 README 파일이나 마크다운 파일 안에 숨겨져 있을 수도 있습니다. 또는 기계만 볼 수 있는 웹 페이지의 흰색 바탕에 흰색 글씨로 숨겨져 있을 수도 있습니다. 보안 전문가들은 이를 프롬프트 주입 이라고 부르는데 , 인공지능 에이전트가 사용자의 지시와 단순히 사용자의 말처럼 들리는 지시를 구분하는 데 어려움을 겪기 때문에 이러한 방식이 효과적입니다.
이제 상황을 더 악화시켜 보세요! AI에게 작업에 필요한 것보다 훨씬 광범위한 권한을 부여하세요. 크롬, 엣지, 파이어폭스, 오페라처럼 오랜 기간 보안 강화 작업을 통해 쌓아온 보호 기능이 부족한 기본 브라우저에서 실행하세요. 그러면 단 하나의 잘못된 문장만으로도 컴퓨터가 위험에 처할 수 있습니다.
이번 주 보안 알림은 예상치 못한 곳에서 왔습니다. 바로 여러분이 직접 설치한 브라우저 확장 프로그램입니다.
— 크레이그
브라우저 확장 프로그램은 매우 유용할 수 있습니다. 문법 오류를 수정하고, 쿠폰을 저장하고, 웹사이트의 성가신 팝업 광고나 메시지를 차단할 수 있습니다. 최근 독립적인 보안 연구원들이 AI 데스크톱 연결과 브라우저 확장 프로그램 간의 연관성에 대한 위험성을 조사하고 보고했습니다. 2026년 11월 6일, 해커 뉴스(Hacker News)는 사용자의 데스크톱에 설치된 AI 비서가 컴퓨터에서 임의 코드를 실행할 수 있다는 연구 결과를 보도했습니다.
이번 연구는 Forever Security에서 진행했으며, 연구원 Gal Weizman이 기술적인 부분을 주도했습니다. 좋은 소식부터 전하자면, 아직 실제 공격에 사용된 사례는 없으며, 해결 방법은 브라우저 툴바를 15분 정도 검토하고 정리하는 것만큼 간단합니다.
연구진은 Anthropic의 Claude Dispatch 기능을 테스트했습니다. 이 기능은 휴대폰에서 컴퓨터의 Claude Desktop 앱으로 작업을 전송할 수 있게 해줍니다. Dispatch는 claude.ai 웹사이트에 로그인된 모든 세션을 신뢰했습니다. claude.ai에서 스크립트를 실행할 수 있는 권한이 있는 확장 프로그램을 사용하면 마치 사용자가 직접 입력한 것처럼 데스크톱 앱으로 지침을 보낼 수 있었습니다.
테스트 결과는 다음과 같습니다.
브라우저를 해킹할 필요가 없었습니다. 해당 확장 프로그램은 사용자가 이미 부여한 권한을 이용했습니다. 동일한 접근 권한만 있으면 공격자는 파일을 복사하거나 백도어를 심을 수 있습니다.
이 기능을 사용하려면 몇 가지 조건이 충족되어야 했습니다. claude.ai와 Claude Desktop 모두에 로그인해야 했고, Dispatch 기능이 켜져 있어야 했으며, 앱이 실행 중인 동안 컴퓨터가 절전 모드에서 깨어 있어야 했습니다.
이 교훈은 특정 AI 기능에만 국한되지 않습니다. 실제로 앤트로픽은 2026년 5월 자체적으로 이 문제를 발견한 후 이를 확인했으며, 현재 디스패치는 신규 사용자 접수를 중단하고 서비스 종료를 계획하고 있습니다. 연구진은 클로드 코드 원격 제어 및 클로드 코워크 세션과 같은 다른 원격 AI 도구에서도 유사한 설계 방식이 나타난다고 밝혔습니다. 아직 해당 도구들에 대한 테스트는 진행하지 않았으며, 후속 보고서를 발표할 예정입니다.
이제 AI 에이전트가 사용자를 대신하여 여러 작업을 수행합니다. 파일을 열고, 소프트웨어를 설치하고, 다른 서비스에 연결합니다. AI 에이전트와 통신할 수 있는 모든 것은 동일한 권한을 공유합니다. AI 비서가 실행되는 웹사이트에 접근 권한이 있는 브라우저 확장 프로그램은 단일 웹페이지를 넘어 훨씬 더 광범위한 접근 권한을 갖게 됩니다.
소규모 팀일수록 이러한 문제를 가장 크게 느낍니다. 직원들이 직접 확장 프로그램을 설치하는 경우가 많고, 개인 계정이 업무용 노트북에 연결되는 경우도 있습니다. 실제로 연구원들은 고객사 사무실에서 개인 계정이 집 컴퓨터와 업무용 노트북을 연결하는 사례를 발견했습니다.
브라우저와 데스크톱을 안전하게 유지하기 위한 간단한 체크리스트와 캘린더 알림을 소개합니다.
이번 주에 15분 정도 시간을 내어 팀 툴바 정리를 해보세요. 팀원들이 확장 프로그램 목록을 열고 사용하지 않는 프로그램을 검토한 후 삭제하고, 가장 마음에 드는 확장 프로그램 하나를 공유하도록 하세요. 남겨둔 확장 프로그램들은 공유 승인 목록에 추가합니다. 이렇게 하면 브라우저가 더 깔끔해지고, 팀에 새로운 습관이 생기고, 함께 축하할 만한 작은 보안 성과를 얻을 수 있을 것입니다.
CyberHoot의 긍정적 강화 플랫폼은 짧은 교육 영상과 기만적이지 않은 피싱 테스트를 제공하여 팀이 작은 성공들을 통해 강력한 습관을 형성할 수 있도록 돕습니다.
웃고, 배우고, 신나게 놀아요!
브라우저 확장 프로그램이란 무엇인가요?
브라우저 확장 프로그램은 맞춤법 검사, 비밀번호 자동 완성, 광고 차단 기능 등 브라우저에 추가 기능을 제공하는 작은 부가 기능입니다. 확장 프로그램은 브라우저 내에서 실행되며 사용자가 방문하는 페이지를 볼 수 있습니다.
인공지능 비서 사용을 중단해야 할까요?
아니요. AI 도구는 시간을 절약하고 사람들이 더 많은 일을 할 수 있도록 도와줍니다. 하지만 컴퓨터에 접근 권한이 있는 다른 소프트웨어처럼 생각하고 사용하지 않는 기능은 꺼두세요.
안전한 확장 프로그램을 어떻게 선택하나요?
확장 프로그램은 공식 브라우저 스토어에서 설치하고, 리뷰가 많은 유명 확장 프로그램을 선택하세요. 설치하기 전에 권한을 확인하고, 명확한 이유 없이 업데이트 시 추가 권한을 요구하는 확장 프로그램은 제거하세요.
이런 식으로 공격당한 사람 있나요?
연구진은 실제 공격 사례는 없었다고 보고했습니다. 이번 테스트는 문제점을 조기에 발견하여 공급업체가 해당 위험 요소를 패치하고 사용자가 대응할 시간을 확보할 수 있도록 하기 위한 개념 증명 테스트였습니다.
Dispatch를 사용하는 경우 어떻게 해야 하나요?
기기 간 디스패치 기능이 필요하지 않다면 끄세요. 만약 사용해야 한다면, 연결된 기기를 확인하고 claude.ai에 접근 권한이 있는 내선 번호 중 필요 없는 것은 모두 제거하세요.
해커 뉴스: 악성 브라우저 확장 프로그램이 클로드 디스패치를 이용할 수 있다
Forever Security: Gal Weizman의 브라우저 및 AI 위험 관련 기사 연구
최신 사이버 보안 동향, 팁, 모범 사례를 알아보고 공유하세요. 또한 주의해야 할 새로운 위협도 알려드립니다.
대부분의 피싱 테스트는 직원들을 속입니다. 하지만 HootPhish는 먼저 인사를 건넵니다! HootPhish는 사람들에게 처음부터 이렇게 말합니다. "이 테스트는..."
더보기
