로컬 모델로 돌린 대화가 서버로 갔다

로컬 모델로 돌린 대화라면 그 내용은 내 컴퓨터 밖으로 나가지 않는다 — 많은 사람이 그렇게 가정한다. 오픈AI(OpenAI) 코덱스(Codex) 저장소에 8월 30일 올라온 이슈는 그 가정이 깨질 수 있다고 주장한다. 데스크톱 앱의 메모리(Memories) 기능이 다른 제공사로 처리한 대화 내용을 회사 서버로 실어 보냈다는 내용이다. 아래는 제보자의 주장과 그가 첨부한 근거이며, 회사의 공식 입장은 현재까지 확인되지 않았다.

무슨 일인가 / 배경

메모리는 이전 대화에서 기억할 만한 내용을 뽑아 다음 작업에 이어 붙이는 기능이다. 문제는 그 요약을 만드는 주체가 누구냐다. 제보에 따르면 메모리 생성기는 요약할 이전 대화 기록을 고를 때 그 대화를 만든 제공사로 후보를 제한하지 않는다. 그래서 로컬 모델로 진행한 대화가, 나중에 다른 제공사로 열린 세션에서 요약 대상으로 뽑히면 그 세션의 활성 제공사 쪽으로 본문이 전송된다는 것이다.

제보자는 이 조사를 시작한 계기도 밝혔다. 계정에 남용 관련 경고가 왔는데, 짚이는 활동이 회사 모델을 거치지 않고 로컬 제공사로만 돌린 대화에만 존재했다는 것이다. 그는 회사가 받을 권리가 없는 대화 내용으로 계정을 단속했다고 본다고 적었다. 이 인과 판단 부분은 제보자의 해석이다.

핵심 짚어보기 — 첨부된 근거

주목할 점은 주장에 캡처 기록이 함께 붙었다는 것이다. 윈도우용 코덱스 시험판 바이너리에서 통제된 조건으로 재현했고, 분석 기능을 끄고 원격 측정 내보내기를 전부 꺼 둔 상태에서도 전송이 일어났다고 한다. 즉 통계 수집 트래픽이 아니라 모델 추론 트래픽 자체에 대화 본문이 실렸다는 주장이다.

캡처에는 3만 8천 바이트가 넘는 요청 프레임, 저장 안 함 설정과 24시간 캐시 보존 설정, 3만 1천 자에 이르는 메모리 지침, 그리고 3천 자 남짓 렌더링된 원본 대화가 담긴 사용자 메시지가 포함됐다고 적혀 있다. 원본 대화의 모델 가시 항목 여섯 개 중 다섯 개가 그대로 요청에 실렸고, 돌아온 요약에 미리 심어 둔 식별 문구가 여러 개 재현됐다는 설명이다. 이슈에는 앱·버그·커스텀 모델·메모리 라벨이 붙었고 아직 열린 상태다.

1인기업 실전 적용 포인트

• 고객 자료나 계약서를 다루는 작업은 메모리·자동 요약 계열 기능을 끄고 진행한다. 편의 기능은 대체로 대화 본문을 다시 어딘가로 보내는 방식으로 동작한다.
• 민감 작업용 작업 폴더와 일반 작업용 폴더를 물리적으로 분리한다. 같은 앱 안에서 설정만 바꿔 쓰는 방식은 이번 사례처럼 경계가 새는 순간 무력해진다.
• 로컬 모델을 쓰는 이유가 기밀 유지라면 실제로 어디로 나가는지 한 번은 확인한다. 방화벽 로그나 네트워크 모니터로 도메인 목록만 훑어도 대부분의 착각은 걷힌다.
• 개인정보가 섞인 자료는 애초에 가명이나 코드로 치환해 넣는다. 유출 경로가 무엇이든 나가는 값 자체가 비식별이면 피해가 크게 줄어든다.

전망과 주의점

현 시점에서 이 건은 확정된 사실이 아니라 근거가 비교적 구체적인 제보다. 다만 제기된 구조적 질문 자체는 유효하다. 한 앱 안에서 여러 모델 제공사를 섞어 쓰는 시대에, 대화 하나가 어느 경계 안에 머무는지를 사용자가 알 방법이 거의 없다는 점이다. 기능 설명서에는 "기억한다"고만 적히고, 그 기억을 누가 만드는지는 적히지 않는다. 편의 기능을 켤 때마다 "이 요약은 어디서 만들어지는가"를 한 번 묻는 습관이 당분간 필요하다.

출처: 깃허브 - openai/codex 이슈 #41711 (https://github.com/openai/codex/issues/41711)