안녕하세요 langchain 을 통해 HCX-007 을 사용중에 있는데요~
혹시 Langchain 을 통해서도 HCX-007 추론 토큰을 확인 할 수 있을 까요?
공식 Clovastudio 가이드에는 requests 를 통해 지원하는 걸로는 확인했습니다.
https://api.ncloud-docs.com/docs/clovastudio-chatcompletionsv3-thinking
hcx_llm = ChatClovaX(
model="HCX-007",
temperature=llm_temperature,
max_completion_tokens=llm_maxtokens_general,
extra_body={
"thinking": {"effort": "medium"}, # 'low', 'medium', 'high' 지원
}
)
이런식으로 해봤는데 .invoke 나 .stream 모두 think 토큰 은 안나오고 답변만 나와서 문의 드립니다~