Clova Studio LK-D2 프롬프트 엔지니어링

[TWC_AI]

안녕하세요.

Clova Studio 일반모드, LK-D2 모델로 대화 요약 테스트를 했는데 대화에 있는 내용으로 나오게만 하고 싶습니다. 파라미터 조정, 프롬프트엔지니어링을 하더라도 대화에 없는 내용이 포함되어 요약되는데 이런 경우 어떻게 해결할 수 있을까요? 테스트한 파라미터, 프롬프트, 입력값, 결과값은 아래에 있습니다.

[파라미터]

        'start': '\n\n문의내용:',
        'restart': '',
        'includeTokens': True,
        'topP': 0.01,
        'topK': 0,
        'maxTokens': 240,
        'temperature': 0.01,
        'repeatPenalty': 5.0,
        'stopBefore': ['[대화]'],
        'includeAiFilters': True

 

[프롬프트]

다음 작업을 수행한다.: 1. [대화]에서 'USER'의 문의내용과 'AGENT'의 안내내용을 30자 이내로 요약\n2. 대화에 찾는 정보가 없다면 작성하지 말것 \n[대화]:\nUSER: 문의부탁드립니다.,AGENT: 무엇을 도와드릴까요?,USER: 아이디 1개 생성 입니다,AGENT: 네, 고객님아이디 1개 생성 관련하여 솔루션 담당자가 유선 연락 드릴 수 있도록 하겠습니다.USER: 넵AGENT: 다만 현재 점심시간이 걸려있어, 오후 1시 반 이후 연락이 가능할 것 같습니다.AGENT: 추가적으로 문의 하실 사항이 있으십니까?,USER: 넵,AGENT: 고객님 추가 문의 사항이 없으시면 상담을 종료 하겠습니다.\n문의내용:\n- 아이디 생성 문의\n- 자이언트네트워크그룹\n안내내용:\n- 솔루션 담당자가 유선 연락 예정\n- 점심시간으로 인해 오후 1시 반 이후 연락 가능\n\n[대화]

 

[입력값]

AGENT: 김덕향 010 xxxx xxxx
AGENT: 안녕하세요. 보호자님, 상담을 도와드릴 어바웃펫 상담사 "비앙카" 입니다. 👧🏻
USER: 어펫데이 안하나요
AGENT: 현재 예정인 어펫데이는 확인 되지 않습니다.
USER: 메월 첫째 금토일아닌가요 ㅠ
USER: 아
AGENT: ㅠㅠ 추가 다른 문의 사항은 없으신가요?
AGENT: 보호자님, 긴 부재로 문의 건이 많아 부득이하게 
상담 종료 진행되는 점 너그러운 마음으로 양해 부탁드릴게요. 🙏

 

[결과값]

문의내용:
- 펫보험 가입 여부 및 보장 내역 조회
- 반려동물 등록번호 변경 요청
- 보험료 납부 방법 변경(카드결제)
- 동물병원 진료내역서 발급방법 안내
- 반려견 사진 업로드 오류 해결방안 제시
- 기타 서비스 이용 중 불편사항 접수
안내내용:
- 해당 부서에서 순차적으로 답변 드리겠습니다.
- 더 궁금하신 사항 있으신가요?
- 감사합니다. 좋은 하루 되세요.

 

[CLOVA Studio 운영자]

안녕하세요, @TWC_AI 님,

주어진 텍스트만을 참고하여 답변하는 것을 원하시는 경우, Repetition penalty를 1.2 정도로 낮추는 것을 권장드립니다.

해당 파라미터는 같은 토큰이 반복되는 것을 제어하는 설정 값으로, 5.0으로 설정되어 있다면, 주어진 텍스트 외의 답변을 할 가능성이 높아집니다.

▼ Repetion penalty를 1.2로 낮추어서 나온 결과입니다.

 

▼ 지시문을 더욱 잘 수행하는 HCX 모델을 이용해보시는 것도 추천드립니다 🙂

 

감사합니다.