안녕하세요.
Explorer의 HCX tokenizer 작동 관련하여 문의드립니다.
Tokenizer의 테스트 앱 생성 후 modelName에 hcx-002 입력하여 실행했을 때, 어제 오후까지는 정상적으로 동작했던 것 같은데, 현재는 Status 40000 (Message = ':')를 반환하네요
새로 생성해서 시도해봐도, modelName을 다른 모델(lk-d2)로 변경해서 실행해보아도 동일합니다.
확인 부탁드립니다.
테스트 앱 생성 시 제공되는 아래의 코드를 사용해도 동일하게 오류가 발생합니다. (requestId 외의 민감정보는 mask하였습니다.)
# -*- coding: utf-8 -*-
import base64
import json
import http.client
class CompletionExecutor:
def __init__(self, host, api_key, api_key_primary_val, request_id):
self._host = host
self._api_key = api_key
self._api_key_primary_val = api_key_primary_val
self._request_id = request_id
def _send_request(self, completion_request):
headers = {
'Content-Type': 'application/json; charset=utf-8',
'X-NCP-CLOVASTUDIO-API-KEY': self._api_key,
'X-NCP-APIGW-API-KEY': self._api_key_primary_val,
'X-NCP-CLOVASTUDIO-REQUEST-ID': self._request_id
}
conn = http.client.HTTPSConnection(self._host)
conn.request('POST', '/testapp/v1/api-tools/chat-tokenize/hcx-002/appIdMasked', json.dumps(completion_request), headers)
response = conn.getresponse()
result = json.loads(response.read().decode(encoding='utf-8'))
conn.close()
return result
def execute(self, completion_request):
res = self._send_request(completion_request)
if res['status']['code'] == '20000':
return res['result']['messages']
else:
return 'Error'
if __name__ == '__main__':
completion_executor = CompletionExecutor(
host='clovastudio.apigw.ntruss.com',
api_key='API_KEY_MASKED',
api_key_primary_val = 'GATEWAY_KEY_MASKED',
request_id='ac8b59a45b9c4f4c9ae8fb590f5812d3'
)
request_data = json.loads("""{
"messages" : [ {
"role" : "user",
"content" : "hello"
} ]
}""", strict=False)
response_text = completion_executor.execute(request_data)
print(request_data)
print(response_text)
( + 또한 tokenizer를 위한 서비스 앱이 혹시 추후 공개될 예정인지도 궁금합니다.)
