앤트로픽, '모델 바꿔치기' 방지하는 FlashProve 오픈소스 공개
앤트로픽이 영지식 증명 기반의 대형 모델 추론 검증 시스템 FlashProve를 오픈소스로 공개했습니다. 이용자는 모델 가중치나 GPU 없이 일반 CPU만으로 API 출력이 약속된 모델에서 나온 것인지 검증할 수 있습니다. 다만 증명 생성에 일반 추론 대비 72~94배의 GPU 연산이 소모됩니다.
FlashProve
앤트로픽, LLM 추론 위변조 방지하는 '플래시프루브' 오픈소스 공개
앤트로픽이 AI 모델의 응답이 실제 지정된 모델에서 나왔는지 검증하는 영지식증명 시스템 '플래시프루브(FlashProve)'를 오픈소스로 공개했다. 모델 가중치를 감춘 상태에서 단일 H100 GPU로 400B 규모 Llama 4 Maverick 기준 초당 110토큰 속도로 증명을 생성하며, 일반 CPU에서 수초 안에 검증 가능하다. 일반 추론 대비 70~95배 느리지만 모델 바꿔치기나 데이터 변조를 막는 데 유용하다.