무작위성의 미로에서 길 찾기: HyperCLOVA X의 Seed 파라미터로 일관된 답을 얻는 법

[CLOVA Studio 운영자]

 

랜덤한 확률의 주사위를 던지는 일

초대규모 AI, 하이퍼클로바는 확률 기반이기 때문에, 확률적으로 다양한 갈래의 가능성을 만들어내는 특성이 있습니다.

언어모델의 이러한 무작위성으로 인해, 실행할 때마다 다른 출력이 나오는 것이죠.

 

▼ 고래와 달에 대한 짧은 시를 써줘.”라는 요청에 매번 다른 결과가 출력됩니다.

 

무한한 확률적 가능성의 흐름 속에서, 일관된 결과를 만들어 내는 일

그러나 때로는 일관된 결과가 필요한 경우가 있습니다. 

동일한 응답을 유지해야 하는 번역, 추출, 분류 등의 작업을 예로 들 수 있겠죠.

 

▼ 예를들어, 번역과 같은 작업은 다양한 출력 결과가 필요하지 않을 수 있습니다.

이를 위해 클로바 스튜디오의 새로운 기능인 Seed 파라미터를 사용할 수 있습니다.

모델은 'seed'라 불리는 파라미터를 활용하여 실행할 때마다 일관된 출력을 얻을 수 있습니다.

이를 통해 사용자는 특정 시나리오나 조건에서 일관성 있는 모델의 결과를 얻을 수 있어, 결과의 예측 가능성과 안정성을 확보할 수 있습니다.

 

이는 글쓰기 작업에서도 중요한데, 일관된 톤이나 예측된 결과를 유지하면서 문장을 생성할 수 있을 수 있겠죠.

 

▼ Seed 값를 ‘286’으로 직접 입력해서, 매번 동일한 출력 결과를 얻어낼 수 있습니다.

 

Chat Completions API의 Seed Parameter

기능에 대해 소개하겠습니다.

▼ Seed의 기본 설정은 ‘랜덤’입니다.

Chat Completions API을 이용하는 경우, Seed를 0으로 지정하시면, 일관성 수준을 랜덤으로 적용됩니다.

랜덤으로 적용될 경우, 결과 응답으로 해당 출력 결과의 Seed 값이 함께 전달됩니다.

 

▼ Seed 직접 입력을 원할 경우, ‘직접 입력’ 메뉴를 클릭 후 숫자를 입력해 주세요.

숫자의 범위는 1 부터 4,294,967,295 까지 입니다.

이제 Seed 값을 입력 후 실행하면, 해당 값에 해당하는 결과가 나오게 됩니다.

 

결과를 재현하는 일

그동안은 지나간 출력을 다시 재현하기가 어려웠는데요.

Seed 파라미터는 특정 결과를 재현하고 디버깅하는 데에도 유용하게 쓰일 수 있습니다.

 

▼ 코드 작업 결과를 재현하여, 자세한 분석이 가능합니다.

▼ 결과와 함께 출력된 Seed 값을 이용해서, 재현을 할 수 있습니다.

Seed 값을 요청하면 하이퍼클로바 모델은 최대한 일관성 있는 답을 하도록 최대한 노력할 것입니다.

하지만 결괏값의 완전성은 보장하지 않습니다.

언어 모델의 특성상 매우 미세한 변화만으로도 결과가 달라질 수 있기 때문입니다.

 

무작위성의 미로에서 길 찾기

그럼에도 불구하고, Seed 값을 통해 얻어지는 결과의 방향성과 예측 가능성은 확률적 가능성의 미로 속에서 중요한 지침이 될 것입니다.

작업자에게 예측 가능하고 안정적인 결과를 제공하여, 효율적인 작업 수행이 가능할 것이며,

특정 시나리오에서 동일한 출력을 재현하고자 할때 중요한 역할을 할 것입니다.

 

앞으로도 클로바 스튜디오는 고객 여러분께 더욱 좋은 기능을 제공하기 위해 노력하겠습니다.