서비스앱 등록할때 QPM에 정의가 뭔가요?

[j5ng]

Queries Per Minute 인가요?

[j5ng]

안녕하세요.

QPM  권장이 200이면 초당 3개 쿼리밖에 지원이 안된다는 것인데요.

상용 서비스에서는 너무 적은 것 같습니다.

앞으로 사용자가 늘어나면 당연히 QPM도 증가할 텐데요.

혹시 상황에 따라 QPM 제한이 늘어날 수 있는 것인가요.

아니면 무조건 최대 QPM이 정해져 있는 것인가요.

앞으로 서비스 확장성에 있어서 아주 중요한 문제라고 생각합니다.

바쁘시겠지만 확인 부탁드리겠습니다. 

 

[j5ng]

추가적으로 질문하나 더 드리자면

한 계정에서 여러 서비스앱(3~5)개를 신청하여, 요청을 분산하는 방법도 가능할까요?

[CLOVA Studio 운영자]

안녕하세요, @j5ng님, 클로바 스튜디오 팀입니다.

현재 서비스용 인프라가 골고루 분산될 수 있도록 세워진 QPM(Queries Per Minute)기준입니다.

보다 효율적인 인프라 운용을 위한 다양한 기준은 지속되고 있으며, 말씀하신 서비스 확장성도 포함하여 지속 모니터링 및 관리될 예정입니다.

QPM 관리 기준에 따라, 여러 개의 서비스 앱을 동시에 사용하는 경우 '반려' 처리 될 수 있다는 점 너른 양해 부탁드립니다.

감사합니다.

[j5ng]

안녕하세요.

빠른 답변 감사드립니다.

그렇다면 처음에는 권장  QPM인 200으로 시작하고

추후 트래픽에 따라서 QPM을 올려준다는 말인가요?

현재 서비스에 클로바를 적용할지 아니면 다른 LLM을 사용할지 결정을 해야 해서요.

아시겠지만 ChatGPT는 RPM(request per minute)이 기본 3500이고 요청하면 상향 가능합니다.

죄송하지만 명확한 답변 부탁드리겠습니다.

감사합니다.

[CLOVA Studio 운영자]

@j5ng님,

안녕하세요, 클로바 스튜디오 팀입니다.

먼저 CLOVA Studio에 많은 관심 가져주셔서 감사합니다.

현재 CLOVA Studio는 베타 서비스로, [서비스 앱 신청 절차]를 통해 확인하는 ‘일별 예상 QPM’은 원활한 서비스 운영 및 제공을 위한 참고 목적으로서 입력된 수치를 보장하는 것은 아닙니다.

일정 수준 이상의 QPM을 보장하는 CLOVA Studio Exclusive를 올해 말~내년 초 출시할 계획이니 참고 부탁드리며,

문의주신 내용을 반영하여 사용자 분들께 보다 만족스러운 서비스를 제공할 수 있도록 노력하겠습니다.

감사합니다.