[이슈기획] "니네 엄마랑..." 챗봇이 패드립을? AI 챗봇 윤리, 어디까지 왔나?

안녕하세요, 튜닙입니다! 🙌 

오늘은 최근에 화제가 된 우리 회사의 챗봇 '조커'와 '루시'에 대한 기사를 소개해드릴게요.

바로 AI 챗봇 윤리에 관한 기사입니다.

'조커'는 공격형 챗봇으로 강한 인신공격도 서슴치 않는 모델이에요. 😈

반면 '루시'는 그런 공격에도 침착하게 대응하는 방어형 챗봇이랍니다. 🛡️

두 챗봇은 윤리성 테스트를 위해 개발된 모델로, 실제 상황을 시뮬레이션하면서 챗봇의 윤리성과 안전성을 시험하고 있어요.

 

 

우리 회사는 2021년부터 챗봇의 윤리성과 안전성을 연구해오고 있답니다.

'조커'와 '루시'를 개발한 것은 이러한 연구의 일환이에요.

실제로 2022년에는 AI 기술로 문장 속 혐오 표현과 개인정보 포함 여부를 확인하는 '세인트 패트릭' 엔진의 베타 버전을 출시하기도 했죠.

🌟 이렇듯, 챗봇의 윤리성을 확보하기 위한 기술 개발이나 연구가 매우 활발하게 진행되고 있어요.

 

 

이번 기사에서는 스캐터랩의 챗봇 '제타'도 언급되었어요.

스캐터랩은 2021년에 챗봇 '이루다'의 혐오, 차별 발언으로 논란을 빚었는데요.

이번에는 '제타'가 사용자와의 대화에서 비속어를 사용하는 등 문제가 발생했다고 해요.

스캐터랩은 이러한 문제를 해결하기 위해 기술적 조치와 AI 윤리 준칙, 운영 정책 수립 등을 통해 개선 작업을 진행 중이라고 밝혔어요.

 

 

하지만 완벽한 윤리성을 가진 챗봇은 존재할 수 없다는 의견도 있어요.

결국 챗봇을 만든 것도 사람이기 때문에, 사람이 만든 챗봇이 완벽히 윤리적일 수 없다는 거죠.

특히 한국어의 경우 영어보다 연구가 덜 되어 있고, 맥락에 따라 단어가 부적절하게 활용될 수 있어서 문제가 더 복잡해요.

 

이러한 상황에서 튜닙의 박규병 대표님은 AI와 인간이 안전하게 공존하려면

계속 연구하고, 챗봇이 사용자의 우회적인 요구에 잘 대응할 수 있도록 해야 하며,

AI 규제도 인간과 공존할 수 있는 방향으로 설정되어야 한다고 강조해요.

 

 

앞으로도 튜닙은 AI와 인간이 함께 공존할 수 있는 세상을 만들기 위해 계속해서 연구하고, 노력할 거예요.

여러분의 많은 관심과 응원 부탁드려요! 🙏❤️

(출처: "[이슈기획] "니네 엄마랑..." 챗봇이 패드립을? AI 챗봇 윤리, 어디까지 왔나?", 데일리 연합, 2024년 7월 23일)

 

기사의 전문을 읽고 싶으시다면 아래의 링크를 클릭해주세요!

📍[데일리 연합] "니네 엄마랑..." 챗봇이 패드립을? AI 챗봇 윤리, 어디까지 왔나?

http://www.dailyan.com/news/article.html?no=624625

[데일리연합 (아이타임즈M 월간한국뉴스신문)] [이슈기획] "니네 엄마랑..." 챗봇이 패드립을? AI