Jump to content

jayahn0104

Members
  • 게시글

    2
  • 첫 방문

  • 최근 방문

Recent Profile Visitors

The recent visitors block is disabled and is not being shown to other users.

jayahn0104's Achievements

Newbie

Newbie (1/14)

  • Week One Done
  • Conversation Starter

Recent Badges

0

Reputation

  1. 안녕하세요, 배경 현재 serviceapp을 등록해 Chat-Completions API HCX-003 모델로 서비스를 개발하고 있습니다. 테스트 중 동시다발적(10명이 동시에)으로 Chat-Completions API request를 수행할 경우 아래와 같이 "429 Too Many Requests" 에러가 발생하는 것을 관측 했습니다. 질문 1) 에러가 발생한 것은 TPM 기준을 초과해서 그런 것인지 문의드립니다. 질문 2) 곧 exclusive 로 전환할 예정인데, 전환후에도 동일한 에러가 발생할지 문의드립니다. 에러 현상 HTTP Request: POST https://clovastudio.stream.ntruss.com/serviceapp/v1/chat-completions/HCX-003 "HTTP/1.1 429 Too Many Requests" [32mhttps://clovastudio.stream.ntruss.com:443 "POST /serviceapp/v1/chat-completions/HCX-003 HTTP/1.1" 429 None [32mhttps://clovastudio.stream.ntruss.com:443 "POST /serviceapp/v1/chat-completions/HCX-003 HTTP/1.1" 200 449 HTTP Request: POST https://clovastudio.stream.ntruss.com/serviceapp/v1/chat-completions/HCX-003 "HTTP/1.1 429 Too Many Requests"
  2. 안녕하세요, Chat-Completions API의 HCX-003 모델을 이용해 서비스 개발 중에 있습니다. Stream 답변인 경우, 허용 가능한 토큰 사이즈를 초과한 경우 응답 결과로 아래의 값이 나옵니다. event:error data:{"status":{"code":"40003","message":"Text too long"}} 하지만 이때 HTTP 상태 코드는 200 이 떨어집니다. HTTP 상태 코드: 200 위 결과를 얻은 cURL도 첨부드립니다. curl --location 'https://clovastudio.stream.ntruss.com/serviceapp/v1/chat-completions/HCX-003' \ --header 'Content-Type: application/json' \ --header 'X-NCP-CLOVASTUDIO-API-KEY: {API-KEY}' \ --header 'X-NCP-APIGW-API-KEY: {APIGW-KEY}' \ --header 'Accept: text/event-stream' \ --data '{ "messages": [ { "role": "user", "content": "년자에 한정하며 외국인은 외국인 등록사실증명상으로 판단함. 실질적 가구원으로 판단하기" } ], "maxTokens": 4095 }' -w '\nHTTP 상태 코드: %{http_code}\n' 이 경우 클로바 API 문서에는 HTTP 상태코드 400이 떨어져야 하는데 현재 HTTP상태코드와 응답값이 상이한 상황입니다. 코드상 400대 에러라면, HTTP 상태코드가 400 오는게 가장 바람직할 것 같습니다. 이 부분 변경해주실 수 있을지 문의드립니다.
×
×
  • Create New...