What we learned mapping a year’s worth of AI-enabled cyber threats

원문 업데이트 날짜: 2026-06-03

1) 이 글의 핵심: 무엇이 구조적으로 달라졌는가

Anthropic의 What we learned mapping a year’s worth of AI-enabled cyber threats는 AI가 사이버 공격의 “초기 접근 도구”에 머무르지 않고, 침해 이후 단계의 복잡한 작전까지 지원하기 시작했다는 관찰을 담고 있다. 원문은 2025년 3월부터 2026년 3월까지 악성 사이버 활동으로 차단된 832개 계정을 분석하고, 이를 보안 커뮤니티에서 널리 쓰는 MITRE ATT&CK 전술·기법 체계에 매핑했다.

핵심 결론은 세 가지다. 악성 행위자가 AI를 사용해 더 위험해지고 있고, AI가 여러 공격 단계를 연결하면서 기존의 고위험·저위험 행위자 구분이 약해지고 있으며, MITRE ATT&CK가 AI 에이전트형 공격의 일부 핵심 행동을 아직 충분히 표현하지 못한다는 것이다. 즉 이 글은 “AI로 피싱 메일을 잘 쓴다” 수준의 이야기가 아니라, 공격 수명주기 전체에서 AI가 어디까지 들어왔는지를 보여주는 운영 데이터에 가깝다.

[!NOTE] 원문 근거 포인트

Anthropic은 악성 사이버 활동으로 차단된 832개 계정을 분석 대상으로 삼았고, 기간은 2025년 3월부터 2026년 3월까지다.

분석 결과 일부는 Verizon의 2026 Data Breach Investigations Report(DBIR)에 실렸고, 원문은 더 자세한 해석을 제공한다.

AI 사용은 악성코드 작성 같은 준비 단계뿐 아니라 lateral movement, account discovery, privilege escalation 같은 침해 이후 단계로 확장되고 있다.

MITRE ATT&CK에는 에이전트가 공격 단계를 순차적으로 조율하고 실시간 의사결정을 하는 행동을 충분히 담는 항목이 없다고 지적한다.

[!NOTE] 용어 정리

MITRE ATT&CK: 공격자가 사용하는 전술·기법을 체계화한 보안 지식베이스. 침해 분석, 탐지 룰 설계, 위협 모델링에 널리 쓰인다.

lateral movement: 공격자가 한 시스템에 침입한 뒤 내부 네트워크의 다른 계정·서버·권한으로 이동하는 단계.

post-compromise: 초기 침입 이후 내부 탐색, 권한 상승, 데이터 접근, 지속성 확보 등이 벌어지는 단계.

2) 실무적으로 중요한 이유

첫째, 방어팀은 AI 위협을 “자동 피싱 생성” 정도로만 보면 부족하다. 원문에 따르면 832개 계정 중 560개, 즉 67.3%가 악성코드 작성과 관련된 준비 활동에 AI를 사용했다. 하지만 더 중요한 신호는 54개 계정, 즉 6.5%가 lateral movement 같은 고난도 침해 이후 활동에 AI를 활용했다는 점이다. 비율은 작아 보여도, 이 단계는 피해 범위와 대응 난이도를 크게 키우는 구간이다.

둘째, 위험도 분포가 빠르게 바뀌고 있다. Anthropic의 위험 점수 체계에서 중간 위험 이상으로 분류된 행위자의 비중은 분석 기간 전반 6개월에는 33%였지만, 후반 6개월에는 56%로 증가했다. 이는 단순히 계정 수가 늘었다는 말이 아니라, AI를 활용하는 공격자의 작전 수준이 더 위험한 쪽으로 이동하고 있다는 신호로 읽어야 한다.

셋째, 기존 프레임워크가 공격의 “에이전트성”을 놓칠 수 있다. MITRE ATT&CK는 어떤 기법이 쓰였는지 기록하는 데 강하지만, AI가 여러 단계를 순서대로 엮고, 상황에 따라 다음 행동을 고르고, 사람 개입 없이 실행 범위를 넓히는 행동은 기존 ID로 잘 표현되지 않는다. 탐지 체계가 기법 단위에만 머무르면, AI가 만든 조율 능력을 과소평가할 수 있다.

[!NOTE] 운영 신호(정량·운영 단서)

분석 대상은 악성 사이버 활동으로 차단된 832개 계정이다.

560개 계정, 67.3%가 악성코드 작성 등 공격 준비 활동에 AI를 사용했다.

54개 계정, 6.5%가 lateral movement 지원에 AI를 사용했다.

중간 위험 이상 행위자 비중은 전반 6개월 33%에서 후반 6개월 56%로 증가했다.

account discovery는 8.9% 증가했고, AI-assisted phishing은 8.6% 감소했다는 변화도 제시된다.

3) 실행 설계 관점 해석

이 글에서 가장 중요한 설계 포인트는 탐지를 “콘텐츠 생성 여부”가 아니라 공격 단계 전환 중심으로 봐야 한다는 것이다. AI가 만든 악성코드 조각이나 피싱 문구만 잡는 방식은 초기 단계에는 유효하지만, 계정 발견, 내부 이동, 권한 상승처럼 침해 이후 단계에서 AI가 의사결정 보조 역할을 할 때는 충분하지 않다. 보안 로그는 개별 명령뿐 아니라, 짧은 시간 안에 여러 전술이 어떻게 이어졌는지를 보여줘야 한다.

또한 위험 평가는 행위자의 전문성만으로 판단하기 어렵다. 과거에는 post-compromise 활동을 수행하려면 상당한 기술 지식이 필요했지만, 원문은 AI가 덜 숙련된 행위자에게도 이런 활동을 가능하게 할 수 있다고 본다. 따라서 방어팀은 “이 정도 행위자는 낮은 위험”이라는 정적 분류보다, AI 도구 사용으로 능력치가 상승하는 시나리오를 가정해야 한다.

마지막으로, 프레임워크 자체의 업데이트가 필요하다. ATT&CK에 없는 행동이라고 해서 위험하지 않은 것은 아니다. 에이전트형 오케스트레이션, 실시간 다음 단계 선택, 사람 개입 없는 연속 실행은 탐지 룰·사고 대응 플레이북·레드팀 시나리오에 별도 항목으로 들어가야 한다.

4) 우리 파이프라인 적용 체크리스트

AI 보안 글을 요약할 때는 “피싱/악성코드 생성”과 “침해 이후 작전 지원”을 반드시 구분한다.
원문에 계정 수, 기간, 비율 변화가 있으면 전체 위험도 변화와 연결해 해석한다.
MITRE ATT&CK 같은 프레임워크가 언급되면, 어떤 전술·기법이 포착되고 어떤 행동이 빠지는지 별도 섹션으로 정리한다.
“자율성”이 등장하는 보안 글에서는 단일 행위보다 단계 연결, 실시간 결정, 사람 개입 감소를 핵심 신호로 본다.
방어 관점 적용은 탐지 룰뿐 아니라 사고 대응 플레이북, 레드팀 시나리오, 계정 차단 정책까지 확장해 적는다.

5) 과장 없이 읽기 위한 주의점

832개 계정은 Anthropic이 충분한 세부 정보를 확보해 평가할 수 있었던 하위 집합이다. 따라서 전체 악성 계정 생태계를 대표하는 완전한 통계로 읽으면 안 된다. 다만 같은 기준으로 본 기간 내 위험도 변화와 기법 이동은 AI 기반 공격이 더 깊은 단계로 들어가고 있다는 운영 신호로 볼 수 있다.

또한 MITRE ATT&CK의 한계를 지적한다고 해서 기존 프레임워크가 쓸모없다는 뜻은 아니다. 오히려 기존 전술·기법 매핑 위에 AI 에이전트형 행동을 추가해야 한다는 주장에 가깝다. 방어팀 입장에서는 기존 룰을 버리는 것이 아니라, 단계 연결성과 자동화 수준을 더 잘 보이도록 확장하는 쪽이 현실적이다.

[!NOTE] 공개 텍스트 기반 짧은 인용 “We examine 832 accounts that were banned for malicious cyber activity…”

원문 링크: https://www.anthropic.com/news/AI-enabled-cyber-threats-mitre-attack