앤트로픽, '모델 바꿔치기' 방지하는 FlashProve 오픈소스 공개

비싼 돈을 내고 대형 모델 API를 호출할 때, 서비스 제공업체가 마진을 남기려고 몰래 저렴한 소형 모델로 바꿔치기하지 않았다는 것을 어떻게 확신할 수 있을까요? 지금까지 이용자는 업체의 말을 맹신하는 것 외에는 방법이 없었습니다.

앤트로픽이 이 블랙박스를 깨기 위해 대형 언어 모델 추론 검증 시스템인 'FlashProve'를 오픈소스로 공개했습니다. 영지식 증명(ZKP)을 활용해 API 답변이 사전에 약속된 특정 모델 가중치에서 생성되었음을 암호학적으로 입증해 주는 기술입니다.

API를 위한 암호학적 정품 인증서

FlashProve의 핵심은 검증 과정의 진입 장벽을 완전히 낮췄다는 점입니다.

모델 제공자는 가중치를 외부에 넘겨줄 필요가 없으므로 기업 비밀을 완벽하게 보호할 수 있습니다. 반대로 이용자는 고가의 GPU 서버를 구축할 필요 없이, 일반 사무용 PC의 CPU만으로 몇 초 만에 결과의 진위 여부를 확인할 수 있습니다.

앤트로픽은 메타의 'Llama 4 Maverick' 모델로 실험을 진행했습니다. 총 매개변수 약 400B, 토큰당 약 17B가 활성화되는 대규모 MoE 구조의 모델입니다.

실험 결과, 단일 H100 환경에서 초당 약 110토큰 속도로 증명을 생성했습니다. 1024토큰 분량의 요청을 기준으로 생성되는 증명 크기는 약 19MB이며, 일반 CPU에서 십여 초 안에 검증을 마쳤습니다.

앤트로픽은 알레산드로 키에사, 자코모 펜지 등 암호학 연구진과 협력해 개발했으며, 증명 생성기와 검증기, 정식 검증 코드 일체를 깃허브에 공개했습니다.

획기적 발전 뒤에 남은 연산 비용의 벽

기존의 오픈소스 방식에 비하면 효율성이 대폭 개선되었지만, 일상적인 대화 서비스에 곧바로 도입하기에는 여전히 비용 부담이 큽니다.

문제는 서버 측의 연산량입니다. 증명을 생성하는 데 일반 추론 작업 대비 약 72~94배에 달하는 GPU 시간이 소모됩니다. 답변을 내놓는 데는 1초면 충분하지만, 속이지 않았음을 증명하기 위해 GPU가 백그라운드에서 1분 넘게 추가로 돌아가야 하는 셈입니다.

그럼에도 400B급 대형 MoE 모델을 암호학적으로 검증 가능한 궤도에 올려놓았다는 점은 고무적입니다. 앤트로픽은 모델 바꿔치기 방지뿐 아니라 대화 탈취 공격을 차단하고, 안전성 평가자가 테스트 중인 모델이 실제 배포된 모델과 동일한지 검증하는 데 유용할 것이라고 설명했습니다.

왜 중요한가

우리는 앤트로픽의 이번 접근이 매우 영리하다고 평가합니다. 서비스 제공자의 도덕적 해이나 정책적 감사에 기대지 않고, 암호학이라는 기술적 장치로 신뢰 문제를 해결하려 했기 때문입니다.

일반 이용자가 일상적인 대화에서 70배가 넘는 연산 비용을 감수할 이유는 없습니다. 하지만 의료 진단, 금융 규제 준수, 법률 자문처럼 결과의 신뢰도가 서비스의 존폐를 가르는 영역에서는 '약속된 모델이 정확히 추론했다'는 보증서의 가치가 충분히 비용을 상쇄하고도 남습니다.

업계 전반에도 작지 않은 파장을 줄 것으로 보입니다. 클라우드 제공업체가 트래픽 몰림이나 비용 절감을 핑계로 백그라운드에서 모델을 은밀히 다운그레이드하던 관행에 강력한 견제 장치가 생겼기 때문입니다.

지금 당장은 연산 오버헤드가 크지만, 영지식 증명 가속 기술은 빠르게 발전하고 있습니다. 앤트로픽이 코드를 전면 오픈소스로 푼 만큼, 하드웨어 제조사와 오픈소스 생태계가 협력해 비용 장벽을 낮추기 시작하면 검증 불가능한 블랙박스 API는 점차 설 자리를 잃을 것입니다.