CLOVA Studio 운영자

안녕하세요, @twc님, 어떤 API 사용중에 발생한 것인지 알 수 있을까요? 그리고 괜찮으시면 request 내용도 알려주시면 도움이 될 것 같습니다. 감사합니다.

안녕하세요, @김재복님, ▼ 테스트앱을 생성하신 후, 플레이그라운드 화면 내 우측 상단에 위치한 ‘공유’ 버튼을 눌러 ‘공유 URL’을 생성해주세요. ▼ 그 이후에 서비스앱 신청 화면에서 신청할 작업에 생성해두신 ‘테스트앱’을 확인하실 수 있습니다. 테스트 앱은 테스트를 위한 임시 API입니다. 사용 제한이 있으며, 실서비스 구현을 위해서는 반드시 서비스 앱 신청을 완료해야만 합니다. 감사합니다.

안녕하세요, @wyatt님, 답변이 늦어져 죄송합니다. 저희쪽에서 확인 한 결과 outputText로 "" 빈 스트링 값이 나왔습니다. 다른 인풋으로 테스트 했을 때는 결과가 나오는 경우도 있어서 빈 스트링이 정상적인 인퍼런스 결과인 것으로 봐야 할 것 같습니다. 빈 스트링으로 나온 이유에 대해서 파악을 위해서는 데이터셋을 받아서 분석해봐야 할 것 같습니다. 번거로우시겠지만 아래 링크에서 로그인 후 문의 및 데이터셋 전달이 가능하시면 원인 파악을 해보도록 하겠습니다. https://www.ncloud.com/support/question/service 감사합니다.

@powerwarez님, 안녕하세요, 이용에 불편을 드려 죄송합니다. 정확한 실패 사유 확인을 위해서는 자세한 작업 정보가 필요하여 문의 채널로 안내드렸습니다. 본 오류는 문의 채널을 통해 안내드리도록 하겠습니다. 감사합니다.

안녕하세요, @powerwarez님, 정확한 내용 확인을 위해 번거로우시겠지만 아래 링크에서 로그인 후 문의 남겨주시면 원인 확인 후 답변 드리겠습니다. https://www.ncloud.com/support/question/service 감사합니다.

안녕하세요, @hel2o님, 클로바 스튜디오를 이용해주셔서 감사합니다. 1. 하이퍼클로바 언어모델은 시퀀스 기반으로 다음에 나올 단어를 예측해서 답변을 합니다. 그래서 입력값에서부터 실행을 하기때문에, 첨부 주시는 것처럼 이어써지는 현상이 발생할 수 있습니다. 이 경우에는 '코드:' 처럼 실행해야할 조건을 명시해두고 실행을 하는 것이 크게 도움이 될 수 있습니다. 예제에도 '코드:' 형태로 적어주시고, 입력값 뒤에도 '코드:'를 적은 뒤, 실행하는 것입니다. 2. Stop sequence에 ###라고 적었다면, 예제와 예제 사이에도 ###를 넣으셔야 합니다. 위에 첨부 이미지에서는 예시와 예시 사이에 ###가 보이지 않습니다. ###를 넣어보시고 실행해보세요. 3. 현재 클로바 스튜디오에서는 단어 필터링 기능을 제공하지 않고 있습니다. 특정 단어 필터링의 경우 후처리로 별도로 구현하셔야 할 듯 합니다. 감사합니다.

@albeniz 님, 네 맞습니다. 튜닝 진행 시 데이터셋의 completion을 원하시는 포맷으로 작성하시면, 해당 포맷에 모델이 최적화 되며, 해당 포맷 형태로 출력을 합니다. 말씀대로 "문장: 무향으로 자극없이... 키워드: 모이스쳐 프리미엄 워시, 무향, 보송함" 형태로도 가능할 것이며, "keywords":[] 형태로도 가능할 것입니다. 다만, 6월29일 정기 배포를 통해 튜닝의 성능이 더욱 개선될 예정이라, 해당 작업의 경우 배포 이후에 진행하시는 것을 추천드립니다. 감사합니다.

@알아가는중입니다님, 시스템 구조적으로 특정 케이스에서 오류 응답을 내려주고 있는데, 이를 개선하여 6월 29일 이후에는 해당 현상이 발생하지 않을 것으로 보입니다. 감사합니다.

안녕하세요, @albeniz님, 모델의 생성 결과를 특정 포맷으로 받는 것을 생각하시는게 맞을까요? 아래 이미지와 같이, result 영역의 포맷을 예제로 넣으신 후, 진행하실 수 있을 것 같습니다. 현재 플레이그라운드와 API에서는 text 형태로 전달을 하기 때문에, 분리를 하는 것은 후처리로 진행하셔야 할 듯 합니다. 감사합니다.

안녕하세요, @hel2o님, 클로바 스튜디오 담당입니다. 플레이그라운드에서 작업을 만드신 후 테스트 앱 발급을 통해 curl, phython 형식으로 API를 확인하실 수 있습니다. API 연동을 통해 필요하신 json 형식으로 활용가능하실 것으로 보입니다. 테스트앱 생성 가이드 https://guide.ncloud-docs.com/docs/clovastudio-playground01 Completion API 가이드 https://api.ncloud-docs.com/docs/ai-naver-clovastudio-completion 감사합니다.

안녕하세요, @이야기꾼님, 클로바 스튜디오에 많은 관심을 가져주셔서 감사합니다. 열심히 준비중이며, 곧 좋은 소식 안내드리겠습니다.

안녕하세요, @알아가는중입니다님, 서비스 이용에 불편을 겪으셨을텐데요. 6월29일 배포를 통해, 정상적으로 이용 가능할 것으로 보입니다. 배포 이후에도 지속적으로 문제가 발생할 경우, 아래 링크를 통해 문의 접수 부탁드립니다. https://www.ncloud.com/support/question/service 감사합니다.

안녕하세요, @crispy님, 클로바 스튜디오를 이용해주셔서 감사드립니다. 현재 1tps를 지원하고 있습니다. 따라서 1초에 1번으로 이용하는 것으로 처리 부탁드립니다. 테스트앱과 서비스앱의 tps는 다르게 적용되어있습니다. 감사합니다.

안녕하세요, @이야기꾼님, 현재 슬라이더를 통해 세부 조절하는과 숫자 영역 선택 후 입력 필드 입력을 지원하고 있습니다. 알수 없는 이유로 웹에서 발생하는 오류로 보이며, 현재 저희쪽에서 살펴보고 있으나 재현이 되지 않아서 원인 파악이 어려운 상황입니다. 오류가 발생하는 경우, 번거로우시겠지만 플레이그라운드를 다시 띄워서 작업 부탁드립니다. 혹시라도 문제 현상이 지속적으로 발생하는 경우, 재현 절차와 함께 회신 주시면 해결에 도움이 될 것 같습니다. 감사합니다.

안녕하세요, @albeniz님, 클로바 스튜디오 담당입니다. 튜닝은 현재 Text과 Completion 형태의 데이터셋만 지원하고 있습니다. 예를들어, 제품아이디|피부|피부자극|가격 등의 여러 속성이나 자연어로 구성된 질문을 Text로 구성하시고, 해당 속성에 해당하는 제품ID를 Completion으로 구성하는 방식입니다. 단, 생성모델 특성상 정확한 제품ID내에서 선택되는 것에는 한계가 있을 수 있으며, 자세히는 튜닝 테스트를 해봐야 알 수 있을 듯 합니다. 감사합니다.

안녕하세요, @albaam님, 우상단 프로필 영역 > 내 작업 메뉴 > 익스플로러 탭의 프롬프트에서 작업하신 항목의 오른쪽에 있는 더보기(...) 메뉴를 선택하시면 삭제 버튼을 확인하실 수 있습니다. 작업 삭제를 한 경우, 작업을 되돌릴 수 없으니 이 점 유의 부탁드립니다. 감사합니다.

바쁘다 바빠 현대사회! 대부분 사람들은 이와 유사한 경험을 한 적이 있을 것입니다. 길고 복잡한 글이나 문서를 읽어야 하지만 시간이 부족한 경우 말이죠. 만약 긴 글을 간략하게 요약해서 파악할 수 있다면 어떨까요? 아마 더 많은 문서를 이전보다 빠르게 훑어볼 수 있어 업무 생산성을 높일 수 있을 것입니다. 오늘은 요약 API를 소개해 드리겠습니다. 이 API는 하이퍼클로바 언어 모델을 기반으로 문서에서 핵심 내용을 추출하여 요약문을 생성할 수 있습니다. 이 기능을 활용함으로써, 기업은 대량의 문서를 빠르게 분석할 수 있으며, 사용자는 여러 뉴스나 기사를 빠르게 습득할 수 있습니다. 또한 교육 분야에서는 핵심 내용을 강조하여 학생들이 쉽게 이해할 수 있도록 활용할 수 있습니다. 그뿐만 아니라, 요약 기능은 수 많은 문서를 손쉽게 처리할 수 있어 리서치 시간을 획기적으로 줄여줄 것입니다. 이전에는 몇 시간을 소비하여 문서를 훑어봐야 했지만, 요약 API를 활용하면 수 시간을 아낄 수 있을 것입니다. 요약 API 활용하기 사용법은 매우 간단합니다. 클로바 스튜디오의 익스플로러 메뉴에서 ‘요약’ API를 선택하고, 테스트 앱 생성을 생성한 후, curl과 python 코드를 활용하여 요약을 요청하는 방식입니다. ▼ 요청 바디에는 요약할 글을 입력하면, API는 핵심 내용을 추출하고 요약된 결과를 반환합니다. 문단을/주제/단위로/구분하기 요약 API는 긴 분량의 문서에서 문단을 나누면서 요약을 수행합니다. ▼ 긴 분량의 문서를 주제 단위로 단락을 구분해주고, 각각의 단락을 요약함으로써 긴 문서도 요약이 가능한 것이죠. ▼ 문장 간 유사도를 계산하여 주제 단위로 단락을 구분합니다. 이때, 문단을 나누는 데 필요한 설정값도 지원됩니다. 예를 들어, SegCount 설정값은 문단을 나눌 개수를 조절할 수 있습니다. SegCount 값을 -1로 설정하면, 모델이 자동으로 문단 나누기를 수행합니다. 또한, segMaxSize와 segMinSize를 이용하여 한 단락 안에 포함할 글자 수를 제어할 수 있습니다. 이러한 설정값을 적절히 활용하면, 요약문 분량을 제어할 수 있기도 합니다. 문단을 나누면서 요약을 수행하기 때문에 문서의 뒷부분이 요약에서 누락되지 않습니다. ▼ 요약의 결과를 살펴볼까요? 문서의 전반적인 주요 내용을 골고루 담고 있는걸 볼 수 있죠. 이전에는 생성 모델이 원문에 없는 내용을 추출하거나 왜곡하는 등의 문제가 있었지만, 하이퍼클로바 요약 모델은 원문을 근거로 추출하도록 학습되어, 원문에 없는 내용이 발생하는 경우가 크게 줄어들었습니다. 이렇게 활용해보시는 건 어때요? ▼ 회의록의 내용을 파악하여 핵심 요약 결과를 생성할 수 있습니다. ▼ 이메일에서도 중요한 내용을 추려서 쉽게 파악할 수 있습니다. 우리는 웹 환경에서 시간을 많이 소비하고 있습니다. 하이퍼클로바의 요약 API는 이러한 시간 소비 부분을 획기적으로 줄여줄 것입니다. 앞으로 요약 API가 다양한 방법으로 우리들의 업무 생산성을 향상할 수 있기를 기대해 봅니다.

안녕하세요, @albeniz님, 클로바 스튜디오의 튜닝 기능을 이용하시면, 데이터셋에 최적화된 형태로 모델을 학습시킬 수 있습니다. 튜닝 가이드 참고 부탁드립니다. https://guide.ncloud-docs.com/docs/clovastudio-tuning01 감사합니다.

안녕하세요, @살구맛님, 클로바 스튜디오에 많은 관심 가져주셔서 감사드립니다. 원하는 출력 포맷으로 예제들을 구성하시면, 해당 포맷에 맞추어 출력을 하게 됩니다. 단, task를 복잡하게 구성하는 것보다는 출력 형식을 최대한 단순화 시키는 형태를 제안드립니다. 각 항목의 <ANSWER>를 분리해서 진행하시는 것을 권장합니다. 활용 예제 살펴보기: https://guide.ncloud-docs.com/docs/clovastudio-classification 튜닝 기능을 이용하시면, 원하시는 작업에 더욱 최적화된 결과를 얻으실 수 있습니다. 단, 이 경우에도, 말씀하신 형태로 데이터셋을 구성하면, 한번에 생성을 할 수는 있으나, 품질이 떨어질 수 있습니다. 튜닝 가이드 살펴보기: https://guide.ncloud-docs.com/docs/clovastudio-tuning Multiple은 플레이그라운드에서만 제공하고 있습니다. 1개 input에 대해서 여러 결과를 얻고 싶으시다면, 테스트 앱 발급을 하신 후 원하시는 개수만큼 n회 실행하는 형태로 구현 부탁드립니다. '이전입력내용 기억기능'이 히스토리를 말씀하시는거라면 클로바 스튜디오 내에서는 히스토리를 제공하지 않고 있습니다. API 응답 이력을 직접 참고 하셔야 할 것 같습니다. 감사합니다.

네, @aimento님, 프롬프트마다 차이는 있겠지만, 기본적으로 생성모델이다 보니, 매번 출력 시마다 결과가 다를 수 있습니다. 우선 반복 현상이 발생하지 않아서 다행인데요. 앞서 답변드린 내용으로 한번 적용 부탁드립니다. 반복 형상의 경향을 줄일 수 있을 것이라 생각합니다. 감사합니다.

안녕하세요, @aimento 님, - Stop sequence를 ### 처럼 지정하시면, 예제의 패턴과 유사한만큼만 출력이 됩니다. - max token을 1024처럼 설정하는 것을 권장하지 않습니다. 확률 시퀀스 기반의 모델이다보니, 출력이 길어질수록 앞서 입력한 프롬프트의 영향 범위에서 점점 멀어지기 때문에 품질이 떨어질 수 있습니다. 품질 보장을 위해 200~300토큰 정도로 설정하시길 권장드립니다. 감사합니다.

안녕하세요, @GSON님, LK-D와 LK-D2는 학습 기법이 다른 모델로 토큰 수 카운팅은 다를 수 있습니다. 감사합니다.

언어 모델 실험을 위한 최적의 장소, 플레이그라운드 AI 모델의 성능을 높이는 방법은 프롬프트 엔지니어링, 튜닝 등 여러 가지가 있습니다. 그중에서도 튜닝은 사용자 데이터를 활용하여 모델을 최적화하여 높은 정확도와 효율성을 달성하는 데 중요한 역할을 합니다. 하지만 이를 위해서는 학습 및 검증을 비롯한 다양한 테스트가 필요하죠. 그래서 저희는 튜닝 모델을 다양한 방식으로 테스트해볼 수 있는 신규 기능을 준비했습니다. 그럼, 지금부터 플레이그라운드로 튜닝 모델을 불러와서 활용하는 방법을 안내해 드리겠습니다! 이번 기회를 통해, 또 다른 성능 향상을 경험하실 수 있을 거예요. 멀티턴 대화하기 ▼ 이전에는 튜닝 상세 페이지에서 인퍼런스 테스트를 통해 응답 결과를 확인하셨을 것입니다. 그러나 대화 작업의 경우 단답 형태(싱글턴)로만 결과를 얻어야만 해서, 대화를 이어갈 수가 없었죠. 이제 플레이그라운드로 불러오면 멀티턴 대화를 해볼 수 있습니다. ① 모델 목록에서 불러오려는 튜닝 작업을 선택해주세요. ② Inject start text에 모델의 출력 앞에 붙일 단어를 입력해주세요. 줄바꿈해서 출력이 될 수 있도록, ↵를 앞에 붙였습니다. ③ Inject restart text에는 모델의 출력 뒤에 붙일 단어를 입력해주세요. 줄바꿈해서 사용자의 다음 발화를 입력할 수 있도록 ↵를 앞에 붙였습니다. ④ 이제 자연스러운 멀티턴 대화를 진행할 수 있습니다. 파라미터 조절하기 플레이그라운드에서 튜닝 모델을 불러온 후 파라미터 조절을 해보세요. 미세한 조정만으로 최적의 성능을 내는 설정값을 탐색할 수 있습니다. 과거에는 튜닝의 파라미터 값이 고정되어 있었지만, 이제는 그러한 제한이 없어져 더욱 다양한 성능 향상을 끌어 낼 수 있습니다. 사례를 하나 소개해드릴게요. ▼ 영문 뉴스를 한글로 요약한 데이터셋을 준비했습니다. 우측 Completion을 보면 요약문은 2~3줄 정도의 분량을 유지하고 있습니다. ▼ 하지만 어째서인지 우리가 예상한대로 요약 결과가 출력되지 않았습니다. 오히려 번역과 유사한 결과를 보여주었죠. ▼ 이 문제를 해결하기 위해 플레이그라운드로 요약 작업을 불러온 후 파라미터를 조절해보겠습니다. ▲ 이제 영어 원문에 대한 한글 요약을 제대로 출력해주고 있네요. 파라미터를 조절함으로써 정확도를 높일 수도 있습니다. ▼ 다음은 '가파라서’라는 오타를 잡아내지 못했던 상황인데요. ▼ 플레이그라운드로 불러온 후, temperature와 repetition penalty를 조절해서 올바른 결과를 도출했습니다. 플레이그라운드에서는 사용자가 중간에 개입을 할 수 있으므로, 초기 결과 이후에도 더 나은 결과를 도출할 수 있습니다. ▼ 이 문장에서는 '어제밤부터'와 '별동별'에 맞춤법 오류가 두 개 존재합니다. 하지만 어째서인지 하나만 수정되었습니다. ▼ 이후 문장에 쉼표(,)를 입력하여 모델이 다음 문장에 대해서도 체크하도록 함으로써, 다음 오류도 발견할 수 있었습니다. 물론 데이터셋을 보강하여 문제를 해결해야 하지만, 다양한 방법으로 언어 모델을 테스트하면서 보완해야 할 영역을 찾아갈 수 있을 것입니다. 클로바 스튜디오는 여러분의 AI 업무를 원활히 수행하실 수 있도록 끊임없이 기능을 개선하고 있습니다. 더욱 향상된 서비스를 제공하겠습니다. 많은 관심과 기대 부탁드립니다!

안녕하세요, @aimento님, 프롬프트를 어떻게 구성하였는지, 작업 유형에 따라 이런 반복 출력이 발생할 수 있습니다. 우선 몇 가지 방법을 안내 드려보겠습니다. Repetition penalty를 살짝 높이면, 반복 출력에 대한 패널티를 주어서, 동일한 문장이 나오지 않게 할 수 있습니다. 프롬프트에 예제가 1개만 보여지고 있는데요, 예제를 몇 개 더 구성하는 Few-shot learning 형태로 구성하시면, 모델의 결과를 더욱 원하는 형태로 나오게 할 수 있습니다. 예제를 몇 개 더 구성해주세요! Inject start text에 '↵(엔터)지문:' 형태로 구성하여서, 모델이 '지문:' 이후부터 출력하도록 하는 것이 품질상 더 좋을 수 있습니다. 감사합니다.