Tokenizer Test App 작동 관련하여 문의드립니다.

[주식회사 스켈터랩스]

안녕하세요.

Explorer의 HCX tokenizer 작동 관련하여 문의드립니다.

Tokenizer의 테스트 앱 생성 후 modelName에 hcx-002 입력하여 실행했을 때, 어제 오후까지는 정상적으로 동작했던 것 같은데, 현재는 Status 40000 (Message = ':')를 반환하네요

새로 생성해서 시도해봐도, modelName을 다른 모델(lk-d2)로 변경해서 실행해보아도 동일합니다.

확인 부탁드립니다.

 

테스트 앱 생성 시 제공되는 아래의 코드를 사용해도 동일하게 오류가 발생합니다. (requestId 외의 민감정보는 mask하였습니다.)

# -*- coding: utf-8 -*-

import base64
import json
import http.client


class CompletionExecutor:
    def __init__(self, host, api_key, api_key_primary_val, request_id):
        self._host = host
        self._api_key = api_key
        self._api_key_primary_val = api_key_primary_val
        self._request_id = request_id

    def _send_request(self, completion_request):
        headers = {
            'Content-Type': 'application/json; charset=utf-8',
            'X-NCP-CLOVASTUDIO-API-KEY': self._api_key,
            'X-NCP-APIGW-API-KEY': self._api_key_primary_val,
            'X-NCP-CLOVASTUDIO-REQUEST-ID': self._request_id
        }

        conn = http.client.HTTPSConnection(self._host)
        conn.request('POST', '/testapp/v1/api-tools/chat-tokenize/hcx-002/appIdMasked', json.dumps(completion_request), headers)
        response = conn.getresponse()
        result = json.loads(response.read().decode(encoding='utf-8'))
        conn.close()
        return result

    def execute(self, completion_request):
        res = self._send_request(completion_request)
        if res['status']['code'] == '20000':
            return res['result']['messages']
        else:
            return 'Error'


if __name__ == '__main__':
    completion_executor = CompletionExecutor(
        host='clovastudio.apigw.ntruss.com',
        api_key='API_KEY_MASKED',
        api_key_primary_val = 'GATEWAY_KEY_MASKED',
        request_id='ac8b59a45b9c4f4c9ae8fb590f5812d3'
    )

    request_data = json.loads("""{
  "messages" : [ {
    "role" : "user",
    "content" : "hello"
  } ]
}""", strict=False)

    response_text = completion_executor.execute(request_data)
    print(request_data)
    print(response_text)

 

( + 또한 tokenizer를 위한 서비스 앱이 혹시 추후 공개될 예정인지도 궁금합니다.)

 

[CLOVA Studio 운영자9]

안녕하세요 @주식회사 스켈터랩스님, 

현재 클로바 스튜디오에서 API 호출 시 URL은 대/소문자를 구분하고 있으며, 제공중인 모델명은 모두 대문자입니다.

혹시 HCX-002 (chat-tokenize), LK-D2 (후자의 경우 tokenize) 로 입력해서도 같은 현상이 발생하는지 확인 부탁드려도 될까요?

토큰계산기를 포함한 익스플로러 상 API 도구의 서비스 앱 발급 건과 관련해서는 해당 기능 제공을 위해 내부 논의를 진행중인 점 참고 부탁드립니다.

감사합니다.