프롬프트, 질문, 답변에 특정 키워드가 포함되면 아예 답변 생성을 하지 못하고 오류가 발생합니다.
발견한 문제 키워드 : 518, 5.18
프롬프트, 질문에 포함되어 있지 않더라도 답변에 문제 키워드가 포함시 답변이 출력되다가 중간에 끊기면서 오류를 반환합니다.
욕설이나 성적인 키워드 등의 필터링은 이해하지만 518 민주화운동 같은 키워드를 민감키워드로 분류하는건 분류기준을 의심하게 됩니다.
답변 생성시 문제를 일으킨 내용도 전화번호 중 ***-518*-*** 같은 518이 포함된 번호가 있어서 문제가 발생한 것 이었습니다.
6~7월 중 어느일정 기점으로 관련 오류가 폭증해서 고객센터에 관련해서 문의해도 AI윤리규칙을 준수한다고 답변만 하지 어떤 부분이 문제가 되는지 알려주질 않습니다.
네이버클라우드 측에서 민감키워드로 지정한 리스트를 요청하면 공유해준다던지 공지를 하지 않는다면 사용자 입장에서는 원인파악이 어려운 상황입니다.
정치적인 민감키워드를 공지하거나 옵션으로 필터링하지 않는 등의 방안 검토 부탁드립니다.
"특정 주제와 관련된 사항은 출력을 제공하지 않습니다. 요청 내용을 수정해주세요."
