색스 "속도 조절, 허락 말고 그냥 하라"

데이비드 색스(David Sacks)가 앤트로픽과 오픈AI 수장들의 '프런티어 속도 조절' 제안에 정면으로 답했다. 9월 13일 엑스(X)에 올린 글에서 그는 두 회사가 속도를 늦추고 싶다면 누구의 허락도 필요 없으니 그냥 하면 된다고 밝혔다. 이 글은 조회 수 670만 회를 기록했다.

무슨 일인가

발단은 다리오 아모데이(Dario Amodei) 앤트로픽 CEO가 모델 성능 향상 속도를 늦춰야 한다는 글을 올리고, 샘 올트먼(Sam Altman) 오픈AI CEO가 여기에 동의한 일이다. 색스는 이 제안 자체에는 반대하지 않는다는 뜻을 먼저 밝혔다. 시장 점유율, 매출 성장, 모델 역량 어느 지표로 봐도 두 회사가 최전선 AI를 사실상 양분하고 있으니, 속도의 열쇠도 그들이 쥐고 있다는 논리다.

문제 삼은 건 그 조건이다. 색스는 속도 조절을 명분으로 반독점법 예외, 제조물 책임보다 우선하는 규제 승인 절차, 경쟁사를 감시할 평가 기관 지정 등을 요구하는 것은 사실상 규제 포획이라고 규정했다. 평가 기관 METR의 독립성에 대해서도 앤트로픽 투자자·직원과 얽혀 있다며 의문을 제기했다.

핵심 짚어보기

이 글에서 사업적으로 가장 곱씹을 대목은 동기 분석이다. 색스는 속도 조절이 순수한 이타심이 아니라 제조물 책임 리스크 관리이기도 하다고 짚었다. 제품이 대형 사이버 공격에 악용되면 막대한 배상 책임을 질 수 있고, 예측 불가능하게 행동하는 모델은 이미 시장에서 외면받는다는 것이다.

그의 표현을 빌리면, 원시 성능을 조금 내주고 신뢰성과 예측 가능성을 얻는 것은 정렬(alignment)이라 불러도 좋지만 동시에 고객이 원하는 것을 주는 좋은 사업이다. 그는 중국이 국제 합의에 참여할 가능성이 낮다는 점도 함께 고려해야 한다고 덧붙였다.

정리하면 워싱턴의 한 축은 'AI 안전'을 규제 프레임이 아니라 시장과 책임법의 문제로 보고 있다. 규제가 늦게 오거나 약하게 올수록, 안전의 무게는 모델 회사의 제품 설계와 이용약관, 그리고 그걸 쓰는 기업의 운영 책임으로 옮겨간다.

1인기업 실전 적용 포인트

• 모델 선택 기준에 '예측 가능성' 추가: 벤치마크 점수보다 같은 입력에 같은 형식을 내놓는지가 자동화에선 더 중요하다. 핵심 프롬프트 10개를 5회씩 돌려 출력 형식이 깨지는 비율을 직접 측정해 보라.
• 내 자동화의 책임 범위 문서화: 고객 데이터를 AI로 처리한다면 어떤 작업을 AI가 하고 누가 최종 확인하는지 한 장짜리 운영 정책으로 남겨두자. 규제가 느슨할수록 사고 시 책임은 사용자 쪽으로 기운다.
• 권한이 큰 에이전트는 승인 단계 두기: 결제·메일 발송·배포처럼 되돌리기 어려운 동작은 텔레그램이나 슬랙 승인 버튼을 거치도록 설계하라. 시장이 신뢰성을 요구한다는 흐름은 결국 이런 장치를 기본값으로 만든다.

전망과 주의점

색스의 글은 규제 논쟁이 '할 것인가 말 것인가'에서 '누가 판정하고 누가 책임지는가'로 이동했음을 보여준다. 다만 이는 색스 개인의 게시물이며 정부 공식 입장이 확정된 것은 아니다. 글에 언급된 허깅페이스(Hugging Face) 관련 사건의 구체적 내용도 원문에선 확인되지 않는다.

1인기업 입장에선 거대 담론보다 실무 신호가 중요하다. 규제 공백기에는 도구를 쓰는 쪽의 운영 규율이 곧 리스크 관리라는 점, 그리고 모델 회사들이 앞으로 성능보다 신뢰성을 전면에 내세울 가능성이 높다는 점을 기억해 두면 좋다.

출처: X (https://twitter.com/DavidSacks/status/2098973625252708460)