대화내용 기억에 관련하여

[SiSAFER]

안녕하세요.

아래와 같이 API 호출시에 대화 내용을 기억하고 이어서 대화의 흐름에 따라서 답변을 제공하는게 안되는 것 같아서 문의 드립니다.

어떻게 해야지 이전 대화 내용을 기억하고 흐름에 맞게 답변을 할 수 있나요??

curl --location --request POST 'https://clovastudio.stream.ntruss.com/testapp/v1/chat-completions/HCX-003' \
--header 'Authorization: Bearer {API Key}' \
--header 'X-NCP-CLOVASTUDIO-REQUEST-ID: {Request ID}' \
--header 'Content-Type: application/json' \
--header 'Accept: text/event-stream' \
--data '{
  "topK" : 0,
  "includeAiFilters" : true,
  "maxTokens" : 256,
  "temperature" : 0.5,
  "messages" : [ {
    "role" : "system",
    "content" : "test"
  }, {
    "role" : "user",
    "content" : "바나나"
  }, {
    "role" : "assistant",
    "content" : "바나나는 열대과일 중 하나로, 맛이 달콤하고 영양이 풍부한 과일입니다."
  }, {
    "role" : "user",
    "content" : "그러면 얼마야?"
  }, {
    "role" : "assistant",
    "content" : "바나나의 가격은 구매 장소, 브랜드, 중량 등에 따라 다를 수 있습니다."
  }, {
    "role" : "user",
    "content" : "어디서 살 수 있어?"
  }, {
    "role" : "assistant",
    "content" : "바나나는 다양한 장소에서 구매하실 수 있습니다."
  } ],
  "stopBefore" : [ ],
  "repeatPenalty" : 5.0,
  "topP" : 0.8
}'

 

[CLOVA Studio 운영자]

안녕하세요, @SiSAFER님,

대화 내용을 기억하는 구현 방법에는 여러 가지가 있겠지만,
가장 간단하게 시도할 수 있는 방법은 시스템 프롬프트에 관련 정보와 지시 사항을 명확히 작성하는 것입니다.

이때, 주어진 지시 사항을 최대한 벗어나지 않도록 Repetition penalty를 1.2 정도로 설정하는 것을 권장합니다. (단, 작업에 따라 다소 조정될 수 있습니다.)

감사합니다.