Prompt : Text Too Long

[hong]

장문의 prompt를 입력하고 싶은데, 일정 이상의 텍스트가 들어가면 400 error가 발생을 합니다.

장문의 prompt를 보내는 방법이나 prompt를 분할해서 보내는 방법 있는지 여쭤볼 수 있을까요?

[CLOVA Studio 운영자]

안녕하세요, @hong님,

40003 (Text too long) 에러가 발생한 것이 맞을까요?

HCX 모델의 경우 인풋과 아웃풋을 포함해 4096 토큰을 넘길 수 없습니다.

플레이그라운드 상단의 '계산' 버튼을 누르면 입력된 텍스트의 토큰을 계산 할 수 있으며,

파라미터에서 Maximum tokens를 높게 설정하셨다면 낮추어 주세요.

그 밖에 다른 문의 사항이 있다면 알려주십시오.

감사합니다.

[hong]

4096의 수를 넘는 토큰을 가지는 프롬프트를 사용하고 싶은데 프롬프트를 분할해서 하나 입력하고 history를 남기고 담음 분할 프롬프트를 입력하는 방식으로는 사용하지 못 할까요?

[CLOVA Studio 운영자]

네, @hong 님,

현재 History를 관리하는 기능은 제공하지 않고 있습니다.

더 궁금하신 점이나 도움이 필요한 사항이 있으시면 언제든지 말씀해주세요.

감사합니다.