엔비디아, NeMo 스위치야드 공개: 모델 라우팅으로 AI 에이전트 비용 74% 절감
엔비디아가 AI 에이전트용 모델 라우팅 프레임워크 'NeMo 스위치야드'를 발표했다. 모든 요청을 초대형 모델로 보내지 않고 단계별로 최적의 모델에 동적 배분하며, 랭체인 테스트 결과 정확도를 유지하면서도 비용을 74% 절감했다.
엔비디아가 AI 에이전트용 모델 라우팅 프레임워크 'NeMo 스위치야드'를 발표했다. 모든 요청을 초대형 모델로 보내지 않고 단계별로 최적의 모델에 동적 배분하며, 랭체인 테스트 결과 정확도를 유지하면서도 비용을 74% 절감했다.