[Chat-Completions/HCX-003] Stream 답변 HTTP 상태코드와 실제 상태코드 상이한 문제 문의드립니다 (40003 Text to long 에러)

[jayahn0104]

안녕하세요,

Chat-Completions API의 HCX-003 모델을 이용해 서비스 개발 중에 있습니다.

Stream 답변인 경우, 허용 가능한 토큰 사이즈를 초과한 경우 응답 결과로 아래의 값이 나옵니다.

event:error
data:{"status":{"code":"40003","message":"Text too long"}}

하지만 이때 HTTP 상태 코드는 200 이 떨어집니다.

HTTP 상태 코드: 200

 

위 결과를 얻은 cURL도 첨부드립니다.

curl --location 'https://clovastudio.stream.ntruss.com/serviceapp/v1/chat-completions/HCX-003' \
--header 'Content-Type: application/json' \
--header 'X-NCP-CLOVASTUDIO-API-KEY: {API-KEY}' \
--header 'X-NCP-APIGW-API-KEY: {APIGW-KEY}' \
--header 'Accept: text/event-stream' \
--data '{
    "messages": [
        {
            "role": "user",
            "content": "년자에 한정하며 외국인은 외국인 등록사실증명상으로 판단함. 실질적 가구원으로 판단하기"
        }
    ],
    "maxTokens": 4095
}' -w '\nHTTP 상태 코드: %{http_code}\n'

 

 

이 경우 클로바 API 문서에는 HTTP 상태코드 400이 떨어져야 하는데 현재 HTTP상태코드와 응답값이 상이한 상황입니다.

 

 

코드상 400대 에러라면, HTTP 상태코드가 400 오는게 가장 바람직할 것 같습니다.

이 부분 변경해주실 수 있을지 문의드립니다.

 

[CLOVA Studio 운영자]

안녕하세요, @jayahn0104님,

제보 감사드립니다.

현재 스트리밍 요청에 대해서는 HTTP 상태코드를 200으로 처리하고 있습니다.

개선이 가능할지 내부적으로 검토를 진행해보겠습니다.

감사합니다.

[CLOVA Studio 운영자]

안녕하세요, @jayahn0104님,

스트리밍 중에는 정상적인 토큰 전달 과정 중에도 오류가 발생할 수 있기 때문에, HTTP 상태 코드는 200으로 처리됩니다.

이러한 상황과 서비스에 미치는 영향을 고려하여, 현재 상태를 유지하고 있는 점 양해 부탁드립니다.

서비스 개선을 위해 지속적으로 노력하겠습니다.

감사합니다.