Didim365

안녕하세요. 두가지 문의 드립니다. 1. max tokens 를 높게 설정했음에도 답변이 끊겨 출력되는 문제 위와 같이 - 출장 이 부분에서 문장을 완성하지 않고 끊겨버립니다. stream 기능은 사용하지 않고 있습니다. 첫번째 사진의 max tokens 는 2048, 두번째는 3500 을 사용했습니다. 2. too many request (429) 에러의 기준 가이드 문서에서 위 에러에 대한 설명은 찾을 수 없어 문의 드립니다 현재 테스트앱을 발행해 이것 저것 테스트 해보고 있는데요, 4~5건의 request 를 보낼 때마다 429 에러가 반환됩니다. 테스트앱의 max request 때문인건가요? 맞다면 max 값이 몇인지 궁금합니다. 서비스 앱을 발행해서 사용하면 위 에러는 발생하지 않을까요?

input text 는 'hello' 입니다. 테스트를 위해 작성한거라 짧은 토큰을 발생시킵니다. 기존에 됐던게 업데이트 후 안되는거라서요... 4096 -> 2048로 수정하면 Text Too Long이 아니라 답변이 잘 옵니다.

안녕하세요. 기존 HCX-002 로 Chat Completion API 사용했을 땐 maxTokens를 4096으로 해도 리스폰스를 잘 받았었는데요, HCX-003 출시와 동시에 테스트 해보니 (HCX-002도 동일) 4096 Tokens 를 입력 했을 땐 Text Too Long 이라는 에러 리스폰스를 받습니다. 가이드에는 4096 Tokens를 사용 가능하다고 나와 있는데 변경 사항이 생긴걸까요? 'messages': self.input_text, 'maxTokens': 4096, 'temperature': 0.1, 'topK': 0, 'topP': 0.8, 'repeatPenalty': 5.0, 'stopBefore': [], 'includeAiFilters': 'True'