hong

error code는 42901입니다

제한 토큰이 넘지 않게 잘라서 사용하고 있는데 60번째가 넘어가면 error를 추출하네요. 원인이 뭘까요?

4월 말까지만 해도 RAG 코드 내에서 참고자료를 이상 없이 임베딩을 잘 하던 텍스트들을 갑자기 어느 순간부터 error를 추출하고 있습니다. 과정은 임베딩 api를 불러오고 300토큰이 안 넘는 문장을 반복문으로 임베딩하는데 일부만 error가 발생합니다. 전과 달리 임베딩이 불가능한 단어가 업데이트 된 것이 있는지 여쭤보고 싶습니다. 아니면 다른 문제점이 있을까요?

4096의 수를 넘는 토큰을 가지는 프롬프트를 사용하고 싶은데 프롬프트를 분할해서 하나 입력하고 history를 남기고 담음 분할 프롬프트를 입력하는 방식으로는 사용하지 못 할까요?

장문의 prompt를 입력하고 싶은데, 일정 이상의 텍스트가 들어가면 400 error가 발생을 합니다. 장문의 prompt를 보내는 방법이나 prompt를 분할해서 보내는 방법 있는지 여쭤볼 수 있을까요?