앤트로픽, 클로드에 메시지 스레드 도입…대화 기록 재전송 없애 지연 시간 35% 단축
앤트로픽이 클로드 메시지 API에 '메시지 스레드' 퍼블릭 베타를 출시했다. 장시간 실행되는 에이전트가 매 턴 전체 대화 기록을 재전송할 필요 없이 새 메시지만 전달할 수 있다. 50만~100만 토큰 세션에서 첫 토큰 생성 지연 시간이 약 35% 줄어든다.
앤트로픽이 클로드 메시지 API에 '메시지 스레드' 퍼블릭 베타를 출시했다. 장시간 실행되는 에이전트가 매 턴 전체 대화 기록을 재전송할 필요 없이 새 메시지만 전달할 수 있다. 50만~100만 토큰 세션에서 첫 토큰 생성 지연 시간이 약 35% 줄어든다.