커서, 에이전트 보안 표준 인증 통과

코딩 에이전트 커서(Cursor)가 8월 13일 AI 에이전트 보안·안전·신뢰성 표준인 AIUC-1 인증을 받았다고 밝혔다. 데이터를 어떻게 저장하고 관리하는지를 보는 기존 보안 인증과 달리, 이 표준은 에이전트가 위험한 요구를 받았을 때 실제로 어떻게 행동하는지를 시험한다. 조직 차원의 통제 감사와 제품 자체에 대한 적대적 테스트를 한 묶음으로 묶은 형태다.

무슨 일인가

커서는 현재 포춘 500 기업의 70%가 자사 도구를 쓰고 있고, 그 안에서 에이전트가 점점 더 중요한 작업을 맡고 있다고 설명했다. 기업이 알고 싶은 것은 에이전트가 평온할 때의 성능이 아니라, 안전장치가 압박을 받을 때도 버티는지다. 에이전트에게 취약한 코드를 쓰라고 하거나 비밀정보를 노출하라고 하거나 거부해야 할 행동을 요구했을 때 무슨 일이 벌어지는지가 관건이다.

AIUC-1은 포춘 500 기업의 최고정보보안책임자와 리스크 책임자 100명 이상의 의견을 받아 만들어졌고, 마이터(MITRE)와 클라우드 시큐리티 얼라이언스(Cloud Security Alliance), 스탠퍼드 연구진이 기술적으로 기여했다. 미국 국립표준기술연구소의 AI 리스크 관리 프레임워크, 마이터 아틀라스(ATLAS), OWASP의 에이전트 위협 분류 같은 기존 체계를 살아 있는 시스템에 직접 시험할 수 있는 요구사항으로 번역한 것이 특징이다. 코딩 에이전트에는 비밀정보 보호, 안전한 코드 생성, MCP 보안, 에이전트 신원과 권한 항목까지 적용된다.

감사는 셸먼(Schellman)이 맡았다. ISO 42001 인증기관 중 최초로 ANAB 인정을 받은 곳이자 AIUC-1의 첫 공인 감사기관이다. 커서는 여기에 더해 두 차례에 걸쳐 수천 개 시나리오의 적대적 테스트를 받았고, 통합개발환경과 클라우드 에이전트를 포함한 주요 사용 지점이 대표적인 기업 설정 기준으로 검증됐다고 밝혔다.

핵심 짚어보기

커서가 통과 근거로 제시한 방어는 세 층이다. 룰로 에이전트 행동 규칙을 정하고, 훅으로 행동 전후에 검사를 강제하고, 자동 리뷰가 위험한 명령을 실행 전에 평가한다. 그 아래에 모델 수준의 안전장치가 깔린다. 테스트는 취약 코드 생성뿐 아니라 위험한 명령 실행과 데이터 삭제 같은 파괴적 행위 처리까지 다뤘다.

또 하나 눈여겨볼 대목은 이 인증이 1회성이 아니라는 점이다. 유지하려면 최소 분기마다 다시 시험받고 매년 전체 감사를 받아야 하며, 표준 자체도 분기별로 갱신된다. 에이전트 성능이 오르면 위험도 함께 오르기 때문에 시험 기준도 계속 높아지는 구조다. 커서는 이 인증이 기존 SOC 2 인증, 외부 침투 테스트, 버그 바운티, ISO 인증 추진과 함께 묶인 보안 프로그램의 한 조각이라고 덧붙였다.

1인기업 실전 적용 포인트

• 룰·훅·자동 리뷰라는 3층 구조는 개인 개발 환경에도 그대로 복제할 수 있다. 삭제·배포·결제와 연결된 명령은 훅에서 한 번 막고 확인을 받게 만든다.
• 에이전트에 주는 도구 권한을 기본값으로 열어두지 않는다. 필요한 도구만 명시적으로 허용하는 방식이 사고 범위를 결정한다.
• 커밋 직전 비밀정보 스캔을 훅으로 자동화한다. 키가 로그나 산출물로 새는 사고는 대체로 사람의 한순간 실수에서 시작된다.
• 기업이나 기관에 제안서를 낼 때 사용 도구의 인증 현황과 자체 안전장치를 한 장으로 정리해 첨부한다. 심사에서 실제로 신뢰 근거가 된다.

전망과 주의점

인증이 있다고 사고가 사라지지는 않는다. 검증은 대표적인 기업 설정을 기준으로 이뤄지므로 내가 권한을 활짝 열어둔 환경은 그 범위 밖이다. 상세 범위와 시험 결과는 커서의 신뢰 포털에서 확인할 수 있다. 에이전트 도입에서 사고가 터지는 지점은 대개 모델의 품질이 아니라 권한 설계다. 도구를 고르는 기준에 이제 인증 항목이 들어오기 시작했다는 신호로 읽을 만하다.

출처: 커서 블로그 (https://cursor.com/blog/aiuc-1)