토큰값 문의

[ak68]

제가 임의로 생성한 1개의 API 를 가지고 GPTs 와 Clova 두개를 테스트 중에 있습니다.

GPTs 에서 테스트 성공한 케이스를 Clova 에 적용하고 있습니다.

몇개의 예제를 보고 스킬을 만들고 시나리오 작업 도중 다음과 같은 에러가 발생했는데요.

허용 토큰 수를 늘리려면 어떻게 해야 하는지 문의드립니다.

오류

문의 채널에 말씀해주세요. (에러 원인 : 토큰 수 초과 )

[CLOVA Studio 운영자6]

안녕하세요 @ak68님,

 

스킬 트레이너 시나리오 작업 중 토큰 수는 총 4096으로 제한되어 있으며, User query, 모델의 사고 과정(생각 및 액션 등), 스킬 정보(API Spec, Manifest), API 응답(관찰 결과) 등이 모두 합산됩니다. 토큰 수 계산은 CLOVA Studio > 익스플로러 > 토큰 게산기(HCX)에서 이용하실 수 있습니다. 

허용 토큰 수를 늘리는 것은 불가능 하지만, 토큰 수를 절약할 수 있는 방안을 안내드립니다. 하기 가이드 링크 접속 후 <API Spec 확장 기능> 참고 바랍니다.

https://guide.ncloud-docs.com/docs/clovastudio-skill#api-spec-작성 

참고로 위 방안은 API 응답이 너무 길어서 토큰 수 초과되는 경우에 한하여 적용 가능합니다. 

 

추가적으로 궁금한 사항 있으시다면 남겨주십시오.

감사합니다 :)