Clova Studio Output 글자 수 제한

[노지랑]

clova studio 에서 서술형으로 요약하는 걸 사용하고 있는데, 글자 수 제한을 걸고 싶어서 prompting을 해봤는데, 글자 수 제한을 잘 못하는 것 같아요..

다른 방법으로 글자 수를 제한 하는 방법이 있을까요??.....ㅠ  (max_token은 요약이 끊겨서 X)

 

input글자수 / 글자 제한-> output글자수    

1237           /     500          ->      494
1237          /      500          ->     1180
1237          /      500          ->     592
1237          /      400          ->    1030

1969          /     300           ->    843
1969          /     500            ->    884
1969          /     700            ->    740

[CLOVA Studio 운영자]

안녕하세요, @노지랑님

클로바 스튜디오를 이용해주셔서 감사합니다.

토큰 기반의 언어모델의 특성상 정확한 글자수 기준으로 처리하는 것은 어려운 것으로 보고 있습니다.

하지만 HyperCLOVA X 모델의 경우 시스템 프롬프트를 이용하면 적당한 길이감으로 출력될 수 있도록 제어할 수 있습니다.

아래는 제가 시도해본 결과 입니다.

▼ 200자 이내로 요청한 경우, 실제 결과는 공백 포함 144자입니다.

▼ 400자 이내로 요청한 경으, 241자로 요청.

▼ 700자 이내로 요청한 경우, 392자로 출력.

 

시스템 프롬프트에 적절한 예제를 구성하시거나, 길이감을 더욱 잘 따르도록 튜닝을 시도해보시는 것도 도움이 될 수 있을 것 같습니다.

감사합니다.