StreamingResponse의 마지막 청크가 오지 않는 현상

nexusai · March 22

안녕하세요. 넥서스AI입니다.

StreamingResponse의 마지막 청크로부터 in/out token과output text를 잘 사용중입니다.

그런데 간헐적으로 마지막 청크가 오지 않는 현상이 있습니다.

지금까지 추적된 해당 에러의 요청시간은 2024-03-22 14:59:46.070(Streaming 시작 추정 시각)~ 2024-03-22 14:59:51.514(Streaming 종료 추정 시각) 사이입니다. (한국시간 기준)

API key등 세부 내용이 필요하실 경우 jungsea@nexusai.kr 로 연락 부탁드립니다.

CLOVA Studio 운영자 · March 26

안녕하세요, @nexusai 님,

말씀주신 오류 발생 시간대 및 전후 시간대 응답을 확인하였으나, 모두 정상 응답으로 보이고 있어서,

request ID나 오류가 발생했던 요청 예시를 공유해주실 수 있으실까요?

코멘트로 남기기 어렵다면, 아래 링크를 통해 문의 접수해주셔도 됩니다.

감사합니다.

Recommended Posts