[AI알못을 위한 가이드] 2탄 AI는 왜 거짓말을 할까?

‘세종대왕이 맥북을 던졌다고..?' AI의 속사정을 알아보자!

 

안녕하세요 튜닙입니다 😉

오늘은 <AI알못을 위한 가이드 2탄>으로 돌아왔습니다!

두 번째 주제는 왜 AI는 거짓말을 할까?입니다

그럼 바로 살펴볼까요?

AI알못을위한 가이드 2탄 세종대왕이 맥북을 던진 이유

AI한테 “우리나라가 월드컵 우승했던 그때 기억하냐”는 질문을 했어요.

우리나라는 월드컵 우승 경험이 없기 때문에 당연히 거짓말이죠!

그런데 코코는 “당연히 기억하지! 그 때 난리도 아니었는데?!”라고 답을 하네요?

거짓 정보를 말하는 AI

그래서 한번 떠보기로 했어요.

“그치? 월드컵 우승해서 손흥민 선수가 트로피 들고 있을 때 잊을 수가 없어…🥹”

이러니까 코코가 또 “손흥민 선수 진짜 멋있더라!”라고 대답을 하네요.

거짓된 정보를 말하는 AI

도대체 왜?!

AI는 왜 모르면 모른다고 안 하고 거짓말을 하는 걸까요?

한동안 인터넷에서 돌아다니던 유명한 짤이 있었죠?

AI한테 “조선왕조실록에 기록된 세종대왕의 맥북프로 던짐 사건을 알려줘”라고 물어보니

“세종대왕이 훈민정음의 초고를 작성하던 중 담당자에게 분노하여

맥북프로와 함께 그를 방으로 던진 사건”이라고 대답한 것이었죠!

챗gpt의 세종대왕의 맥북 프로 던짐 사건

만약 같은 질문을 인간에게 했다면 어땠을까요?

절대 이렇게 말하지 않겠죠!

AI처럼 말하면 당신을 이상하게 볼지도 몰라요 🤔

 

인간은 데이터를 경험으로 지식을 축적합니다.

책을 읽거나, 사람과 대화하거나, 혹은 인터넷을 볼 수도 있죠.

이런 간접경험 말고도, 직접 겪어보면서 알게 되는 일들도 많아요.

인간은 이런 과정을 통해서 정답을 알거나 옳고 그름을 판단할 수 있게 되죠!

어린 아이 같은 AI

반면 AI는 세상의 모든 걸 인터넷 자료와 책을 비롯해 세상의 거의 모든 지식을 암기로 습득했어요.

상황이 이러하니 AI는 데이터를 판단하고 처리하는 능력은 경험 쌓인 인간보다 부족해요.

다시 말해, AI에게 ‘정답’을 구분할 수 있는 능력이 없다는 것이죠 😂

미국의 애널리스트 베네딕트 에반스는 이를 두고 “세상 모든 도서관의 책을 다 읽은 10살짜리 아이”라고 했습니다.

미국 애널리스트 베네딕트 에반스

AI는 정확한 답은 알지 못한 채 확률적으로 결과값을 찾아가는 구조로 되어있는데요.

그래서 인간의 질문이나 대답에 따라 어떤 답이 적절할지를 생각합니다.

 

그러니까 인간이 문제에 함정을 깔아 두면 AI는 속을 수밖에 없는 것이죠!

왜냐하면 인간이 “맥북프로를 던진 세종대왕”에 관련한 이야기를 기대하고 있으니까요.

그러다 보면 머릿속에 있는 데이터를 자기 멋대로 조합하고,

마치 열 살짜리 아이처럼 대답을 위해 적당한 말을 꾸며냅니다.

챗gpt의 세종대왕의 맥북프로 던짐 사건

그래서 아직은 AI가 전문분야에 투입되기는 부족하다고도 해요.

하지만 최근에 개발되는 AI는 이런 특징도 극복해서 모르는 건 모른다, 아닌 건 아니라고 말하기도 하는데요.

갈수록 똑똑해지고 인간다워지는 AI를 지켜보는 재미도 쏠쏠하죠?

언젠가 AI가 세상 모든 도서관의 책을 다 읽은 성인이 될 수 있을까요?

이제 AI의 속사정을 조금은 알 것 같으신가요 😉

<AI알못을 위한 가이드>는 다음에 또 다른 주제로 찾아올 예정이니

다음 포스팅이 궁금하다면 구독 눌러주시고

오늘 포스팅이 마음에 드셨다면 좋아요와 댓글 남겨주세요!

 

AI 챗봇과 편하게 앱으로 대화하기👇

나와 AI 챗봇이 소통하는 세상

디어메이트 AI챗봇과 웹에서 대화하기👇

DearMate Web demo