서비스 api키 문의

[insighter]

안녕하세요 현재 HCX-003 모델 서비스앱 api를 발급받아서 사용중입니다.

궁금한게 스튜디오에서 system prompt를 포함해서 플레이그라운드 테스트 앱을 등록하고

해당 작업 내용을 선택해서 api키를 받는 형태인데

그럼 로컬에서 해당 key를 사용하는 api 호출은 테스트 앱에 저장된 system prompt가 자동으로 들어가는건가요?

아니면, 요청보낼때 data-messages에 지정하는 대로 들어가는건가요??

 

그리고 내부적으로 HCX-003 모델이 업데이트되는 경우가 한번씩 있는 것 같습니다.(기존에 할루시네이션이던 답변이 일정시간이 지난뒤 올바른 대답을 함, ex.현재 대통령 누군지 질문 하는 케이스)

이 경우 기존에 받은 api키를 새로 발급받을 필요는 없을까요?

[CLOVA Studio 운영자]

안녕하세요, @insighter님,

CLOVA Studio의 Chat Completions API는 Stateless (무상태) 특성을 갖고 있으며, 따라서 테스트 앱 등록 시 입력된 프롬프트는 따로 저장되거나 특정 테스트/서비스 앱에 자동으로 입력되지 않습니다 (시스템 프롬프트 포함).

특정 프롬프트를 기준으로 테스트/서비스 앱을 발급하는 이유는 서비스 앱 신청 시 이용 목적 등의 서비스 관련 정보를 확인하기 위함이며, 매 요청을 보낼 때 data > messages에 작성한 프롬프트만을 대상으로 처리됩니다.

따라서 다른 모델을 이용하지 않는 경우 신규 API 키를 발급받을 필요는 없습니다.

참고로 HCX-003 모델은 출시 이후 별도의 변경 사항이 없습니다. 언어 모델은 특성상 외부 데이터를 알 수 없기 때문에, 관련 질의에 대해 할루시네이션이 발생할 수 있습니다.이를 보완하려면 Function calling 등을 활용해 외부 API를 호출하는 방법을 검토해 보시기 바랍니다.

감사합니다.