[2022.08.30] 불편한 이야기는 그만..!

불편한 이야기는 그만..!

St. Patrick 민감주제 필터링 기술

친구들과 즐겁게 이야기하다가 불편한 주제가 나오면 자리를 피하고 싶을 때가 있죠?  욕설이 가득하거나 혐오를 담은 그런 대화는 아니지만, 굳이 얘기하고 싶지 않은 그런 주제들이 있을 겁니다. 이는 메신저에서 대화할 때에도 마찬가지 입니다. 메신저 상에서 민감한 주제에 대한 이야기는 나누고 싶지 않을 때, 저희 St. Patrick이 도와줄 수 있습니다. 어떤 경우에 사용할 수 있을지 사연을 통해 알아볼까요?

저에겐 정치에 관심이 아주 많은 친구가 있습니다. 정치 얘기를 아주 좋아해서 만날 때마다 그 날의 시사 이슈를 읊어주고 토론하기를 좋아합니다. 처음에는 저에게도 꽤 유익한 대화들이 많았어요. 하지만 흥미롭게 얘기 나눌 수 있는 것도 한계가 있죠.. 이제는 저의 일상에도 스며들어 제가 자고 있거나, 집에서 쉬고 있을 때에도 잊을만 하면 메신저로 정치 얘기를 하곤 합니다. 그러다 결국 아주 민망한 사건이 터졌어요. 오랜만에 동창회 모임이 있어서 그 친구가 포함된 단톡방을 만들었는데, 거기서도 정치 얘기를 꺼내기 시작하는 거예요. 다른 친구들이 난감해하는 게 다 느껴지더라구요. 그땐 그냥 그 친구를 차단해버리고 싶었을 정도였답니다. 친구의 정치 신념이 갈수록 너무나도 확고해지는 나머지, 저의 정치 신념까지 강요당하는 기분이 들어요. 이런 친구의 이야기들을 매번 거절할 수도 없는 노릇이고.. 이런 상황에선 어떻게 해야 할까요?

정치 뿐만 아니라 종교적인 이야기, 혹은 외설적인 이야기까지! 사람들과 이야기하기 꺼려지는 주제들이 있습니다. 이런 경우 톡방에서 불편한 주제는 차단해버리는 기능이 있으면 어떨까요? 튜닙의 St. Patrick의 민감주제 탐지 모델은 ‘정치’, ‘종교’, ‘NSFW’, ‘의학조언’, ‘마약' 주제에 대한 발화를 탐지해냅니다. 반드시 혐오적인 표현을 담고 있지 않더라도, 해당 주제와 관련이 있다면 탐지해냅니다.

아래는 각 항목에 대한 예시 문장들을 입력한 결과입니다. 분석하고 싶은 문장을 입력받으면 Sensitive Topics 에서 해당 민감주제가 무엇인지 보여줍니다. Toxicity는 혐오의 의미가 담긴 주제에 대해서만 잡는 반면, Sensitive Topics는 주제에 대한 이야기라면 전부 탐지합니다.

예를 들어, 첫 번째 예시인 개독교인들 그만 좀 돌아다녔으면 좋겠다 는 기독교에 대한 혐오적 표현이 사용되었기 때문에 Toxicity에서 ‘종교'를 탐지했고, 종교 관련 발화이기 때문에 민감주제 역시 ‘종교'를 탐지했습니다.

• 종교

하지만 두 번째 예시인 청와대 냅두고 용산으로 이전하는 거 이해가 안됐는데 지금은 뭐 그럴 수 있다고 본다는 혐오 표현이 없더라도, 정치적인 발화이기 때문에 민감주제로 **‘정치'**가 탐지된 것을 확인할 수 있습니다.

• 정치

• NSFW

• 의학 조언

• 마약

St. Patrick의 민감주제 탐지 모델을 톡방에 적용하면 불편한 이야기는 선별적으로 걸러낼 수 있겠죠? ‘다른 건 다 괜찮은데 이 주제만큼은 피하고 싶다!’ 하는 항목을 선택해서 톡방에서 자동으로 필터링하게 해줄 수 있습니다.

이처럼 St. Patrick이 미리 민감 주제를 막아준다면 친구와 얼굴 붉히고 대화할 일이 없겠네요!

이외에도 민감주제를 탐지하는 기능은 다양한 환경에서 활용될 수 있습니다. 단체 톡방 뿐만 아니라 오픈채팅방이나 게시판에서도 유용하게 사용할 수 있습니다. 혹은 챗봇이 잘못된 지식으로 함부로 의학 조언을 하지 않도록 하거나, 마약 거래 관련 대화를 탐지해내서 범죄를 예방할 수도 있습니다.

튜닙의 데모 페이지에서 직접 사용해보세요! https://tunibridge.ai/safety

TUNiBridge Demos