AI 에이전트가 한 일, 조작 드러나는 장부로

AI 에이전트가 실제로 무엇을 했는지를, 누군가 고치면 흔적이 드러나는 방식으로 기록하는 오픈소스 도구 '홈스테드 메모리(homestead-memory)'가 해커뉴스에 소개됐다. 클로드 코드(Claude Code)의 훅(hook) 기능에 붙여 모든 도구 호출을 로컬 파일에 남기며, 제작자는 호출 한 번당 추가 부담이 약 124밀리초라고 밝혔다.

무슨 일인가 / 배경

에이전트 자동화에서 가장 곤란한 실패는 조용한 실패다. 실행 결과는 성공으로 찍히고 도구도 정상 응답을 돌려줬는데, 정작 요청한 일은 일어나지 않은 경우다. 이때 사람 손에는 반박할 기록조차 남지 않는다. 홈스테드 메모리는 이 공백을 겨냥해 나를 믿지 않는 제3자도 직접 검증할 수 있는 에이전트 행동 기록을 목표로 내걸었다. 파이썬 3.10 이상에서 pip로 설치하며, 맥OS 기본 파이썬(3.9)에서는 설치가 안 되므로 uvx로 곧바로 실행하는 방법도 안내한다. 라이선스는 MIT다.

핵심 짚어보기

구조는 해시 체인이다. 각 기록이 직전 기록의 해시를 품고 있어서, 중간 기록 하나를 고치거나 지우거나 순서를 바꾸면 그 뒤의 해시가 줄줄이 어긋난다. 확인 명령을 돌리면 어긋난 지점의 번호를 짚어 주고 오류 종료 코드를 내므로, 테스트처럼 CI(지속적 통합) 파이프라인의 통과 조건으로 걸어 둘 수 있다. 기록에 서명까지 해 두면 체인을 통째로 새로 만든 위조도 잡아낸다.

또 하나의 특징은 도구 실행 '전'의 결정과 '후'의 결과를 모두 남긴다는 점이다. 결과만 있으면 무슨 일이 있었는지는 알 수 있어도, 그 행동이 사전에 허락된 것이었는지는 증명할 수 없다는 논리다. 제작자는 이 설계를 국제인터넷표준화기구(IETF)에 제출된 에이전트 감사 기록(Agent Audit Trail) 초안과 연결했고, 해당 초안 형식으로 내보내는 기능도 넣었다. 이 초안은 유럽연합 인공지능법(EU AI Act) 12조의 기록 보관 요건과 대응하도록 작성됐다.

설치 방식도 보수적이다. 훅 설정을 자동으로 고치지 않고 출력만 해 주며, 사용자가 직접 붙여넣어야 적용된다. 자체 증거 묶음은 Ed25519 서명을 써서 검증하는 쪽이 따로 설치할 것이 없게 했고, 초안 형식 내보내기에는 초안이 지정한 ECDSA P-256 방식을 쓴다.

1인기업 실전 적용 포인트

• 외주 납품의 증빙 자료로: 에이전트로 고객사 코드를 수정했다면 작업 기록과 검증 결과를 함께 넘긴다. 무엇을 어떤 순서로 했는지를 말이 아니라 파일로 보여줄 수 있다.
• 야간 자동화의 사후 점검: 매일 밤 도는 자동화가 '성공'을 보고했는데 결과물이 없을 때, 어느 도구 호출에서 무엇이 실제로 실행됐는지부터 거꾸로 따라간다.
• 지연 비용을 미리 계산하기: 호출당 약 124밀리초라면 도구 호출 200번짜리 작업에서 25초가량 늘어난다. 속도가 중요한 작업은 빼고, 고객 데이터를 만지는 작업에만 거는 식으로 범위를 정한다.
• 기록 파일 자체를 민감 정보로 취급: 도구 입력에 고객 정보나 API 키가 섞일 수 있으니 기록 파일은 공유 폴더나 공개 저장소에 두지 않는다.

전망과 주의점

제작자 스스로 '변조 방지'가 아니라 '변조 탐지'라고 선을 긋는다. 기록이 고쳐지면 드러나지만 고치는 행위 자체를 막아 주지는 않는다는 뜻이다. 연결한 IETF 문서 역시 작업반이 채택한 표준이 아니라 개인이 제출한 초안이어서 앞으로 내용이 바뀔 수 있다. 그럼에도 에이전트에게 실제 업무를 맡기는 순간 '믿어 달라'가 아니라 '확인해 보라'고 말할 수단이 필요해진다는 흐름은 분명하다. 고객 데이터를 다루거나 규제 대응을 준비해야 하는 업종이라면 지금부터 기록 습관을 들여 둘 만하다.

출처: HN (https://github.com/fuckbigtech-ai/homestead-memory)