안녕하세요.
플레이그라운드 테스트 앱을 구동하니 한가지 궁금한 점이 있어 문의드립니다.
테스트 한 환경은 다음과 같습니다.
- host: https://clovastudio.apigw.ntruss.com
- path: /testapp/v1/chat-completions/HCX-DASH-001
- headers (기타 키값 제거)
- Content-Type: application/json; charset=utf-8
- Accept: application/json
위와 같은 경로로 질문, 응답을 받고 있고,
질문은 플레이그라운드 계산 기준 대략 311 토큰
어시스턴트 대답 포함시 총 360 토큰 정도로 보입니다.
문의드리고 싶은 사항은 응답 속도에 관한 부분인데요.
테스트 앱으로 진행시 적게는 1.7초 정도, 많게는 11초 정도의 응답 시간이 걸립니다.
테스트 앱이기에 위와 같은 응답 속도인 것인지, 아니면 서비스 앱에서는 보다 빠른 응답 속도를 기대할 수 있을지 문의드립니다.
감사합니다.
