TPM 과 QPM 측정 기준에 대해 알고싶습니다.

[j5ng]

안녕하세요.

클로바 API 문서에 따르면 모델 별로 TPM, QPM 제한이 있는 것을 확인했는데요

TPM 과 QPM을 측정하는 기준이 있는지 궁금합니다.

1. 요청에 대한 시점을 기준으로 누적을 계산하여 제한?
2. 글로벌 타임 기준 00초~60초 까지 매번 측정해서 제한?
과 같이 예상해볼 수 있을 것 같은데.

정확하게 어떤 기준으로 측정하며 제한하고 있는지 바쁘시더라도 답변 부탁드립니다!

감사합니다.
 

[CLOVA Studio 운영자9]

안녕하세요 @j5ng님, 

말씀주신 것중에 1번에 해당하며, 요청 시점을 기준으로 1분 내 누적 요청 수 및 처리 토큰 수를 계산하는 방식으로 이용량을 제어하게 됩니다.

감사합니다.