앤트로픽 위협보고서, 병렬 AI 오남용 적발

앤트로픽(Anthropic)이 9월 위협 보고서를 통해 예멘 북부의 한 조직이 클로드 코드(Claude Code)를 무기 개발 과정에 끌어들인 사례를 공개했다. 회사는 이 조직이 후티 반군과 연계됐을 가능성이 매우 높다고 평가했고, 관련 계정을 모두 차단했다. 실제 작동하는 무기를 배치했다는 증거는 발견되지 않았다.

무슨 일인가

보고서에 따르면 이 조직은 유도 로켓, 사거리 2,000km를 넘는 탄도미사일, 그리고 극초음속 활공체 개념 설계에 쓰일 소프트웨어를 만들려 했다. 눈에 띄는 대목은 방식이다. 클로드 인스턴스 하나에 일을 순서대로 맡기지 않고, 여러 세션을 동시에 띄워 한쪽은 코드를, 다른 쪽은 자료 조사를, 또 다른 쪽은 결과 검토를 맡겼다. 원래라면 분야별 전문 인력이 나눠 맡을 일을 소수 인원이 AI 병렬 작업으로 흉내 낸 셈이다.

이들은 시험 발사가 실패한 뒤 몇 시간 만에 원격 측정 데이터를 다시 클로드에 넣어 원인을 분석했다. 설계·시뮬레이션·시험·실패 분석이 한 사이클로 돌아간 것이다. 최종적으로는 결과물을 오프라인 실행 파일로 묶어, 계정이 막힌 뒤에도 작업을 이어갈 수 있는 상태를 만들어 두었다.

핵심 짚어보기

이번 사례에서 1인기업이 주목할 부분은 무기 자체가 아니라 안전장치를 피해 간 수법이 '작업 쪼개기'였다는 점이다. 앤트로픽의 필터는 상당수 요청을 막아냈지만, 조직은 최종 용도를 숨기고 과제를 여러 대화로 분산시켜 제한을 우회했다. 개별 요청만 보면 평범한 제어 코드나 시뮬레이션 질문처럼 보였다는 뜻이다.

보고서 전체로 보면 이는 재래식 무기 관련 6건 중 하나다. 중국 연계 3건, 러시아 연계 2건, 예멘 1건이며 기간은 2025년 12월부터 2026년 8월까지다. 보고서는 사이버 공격, 여론 조작, 감시, 사기, 생물학 오남용, 모델 증류(무단 학습 데이터 추출)까지 폭넓게 다룬다.

여기서 읽히는 흐름은 분명하다. AI 기업의 감시 단위가 '요청 한 건'에서 '계정 전체의 작업 패턴'으로 옮겨가고 있다. 병렬 세션을 대량으로 돌리는 사용 방식은 정상적인 자동화 사용자에게도 흔하기 때문에, 앞으로 이상 탐지 기준이 일반 사용자에게도 체감될 가능성이 크다.

1인기업 실전 적용 포인트

• 병렬 에이전트 운영 기록 남기기: 클로드 코드 세션을 3~4개 동시에 돌린다면, 세션별 목적을 한 줄씩 적은 작업 로그(예: docs/sessions.md)를 유지하라. 계정 검토 요청이 왔을 때 정상 업무임을 설명하는 근거가 된다.
• 민감 도메인 요청은 맥락을 숨기지 말 것: 보안 점검·크롤링·금융 데이터 처리처럼 오해받기 쉬운 작업은 프롬프트에 목적(자사 서버 점검, 공개 데이터 수집 등)을 명시하라. 목적을 흐리는 습관 자체가 오남용 패턴과 닮아 보인다.
• 계정 차단 대비 백업 경로 확보: 자동화 파이프라인이 한 계정·한 모델에만 묶여 있으면 오탐 한 번에 업무가 멈춘다. 최소한 핵심 스크립트는 다른 모델로 대체 실행할 수 있게 설정 파일로 백엔드를 분리해 두자.
• 팀 계정 공유 금지: 외주 인력과 한 계정을 나눠 쓰면 누가 무엇을 요청했는지 추적이 안 된다. 사용자별 계정·API 키를 분리하는 것이 사고 시 책임 소재를 가르는 가장 싼 방법이다.

전망과 주의점

앤트로픽은 생물학 연구 사례처럼 정당한 연구와 악용을 구분하기 어려운 경우가 적지 않다고 인정했다. 즉 탐지는 앞으로도 완벽할 수 없고, 그만큼 정책은 보수적으로 조여질 공산이 크다. 병렬·장시간 자동화를 주력으로 쓰는 사용자일수록 '설명 가능한 사용 방식'이 새로운 운영 역량이 된다.

또 하나, 이번 보고서는 AI가 이미 실제 개발 사이클의 한 축으로 들어왔다는 사실을 공식 문서로 확인시켰다. 같은 능력은 1인기업에게 생산성 레버리지이지만, 규제와 이용약관 강화라는 비용도 함께 따라온다는 점을 염두에 둬야 한다.

출처: Clash Report (https://clashreport.com/world/articles/houthis-used-claude-code-to-develop-missile-guidance-software-anthropic-s52mnx4pwpo)