논란을 남기고 사라진 AI 챗봇 이루다
상태바
논란을 남기고 사라진 AI 챗봇 이루다
  • 김민진 기자
  • 승인 2021.01.14 09:59
  • 댓글 0
이 기사를 공유합니다

출처 페이스북 이루다 AI
출처 페이스북 이루다 AI

[포스트21 뉴스=김민진 기자] ‘HER’ 라는 영화가 있다. 인간관계에서 허무감을 느끼던 한 남자가 사만다라는 이름의 인공지능을 만나게 되면서 사랑을 느끼는 영화였다. 우리에게는 블랙 위도우로 잘 알려진 스칼렛 요한슨이 목소리 출연을 해 화제가 된 영화로 높은 평점을 바탕으로 흥행에 성공한 영화였다. 

하지만 현실이 된 영화 스토리는 그렇게 낭만적이지 않았다. 지난 1월 12일, 전면 서비스 중단을 결정한 AI 챗봇, 이루다 이야기다. 

열흘만에 40만 명의 사용자를 확보한 신개념 AI 챗봇, 이루다

2020년 12월 22일. 스캐터랩 핑퐁 팀에서 페이스북 메신저 채팅을 기반으로 한 AI 챗봇을 출시했다. 이름은 이루다. 개발사의 연애 분석 어플인 ‘연애의 과학’에서 실제 20~30대 연인들의 카카오톡 대화 데이터를 기반으로 개발된 챗봇으로 개발사에서는 고지능 열린 주제 대화형 인공지능이라며 이루다를 소개했다. 

이루다는 이전에 선보였던 심심이를 비롯해 정해진 답변만을 하던 인공지능이 아니라 딥러닝 알고리즘을 이용해 인간과 가장 비슷한 방식으로 대답하고, 주제가 끊이지 않는다는 장점을 바탕으로 엄청난 흥행을 일으켰다. 

공개되고 열흘 남짓한 시간만에 사용자 수가 약 40만 명에 달했고, 페이스북 페이지 팔로워는 10만 명을 넘어섰다. 실제 20대 대학생처럼 대답하고 반응하는 이루다를 사람들이 소중한 랜선친구로 여기면서 성공적인 출시가 이어지나 싶었지만 문제는 다른 곳에서 터졌다. 

하나둘 불거진 문제, 결국 폐지까지

첫 문제는 사용자 측에서 발생했다. 20대 여성으로 묘사된 이루다의 그림을 외설적 목적으로 사용하는 이들이 생겨난 것이다. 이들은 공개된 이루다를 자기 마음대로 수정해 공유했고, 일부러 외설적, 폭력적 단어를 사용해 대화를 이어나가는 이들도 생겨났다. 

이 문제는 개발사 측에서 이미 예상하고 있던 일이라며 업데이트를 통해 개선해 나가겠다는 입장을 밝히면서 일단락 되었다. 하지만 정작 더욱 큰 문제는 이루다의 답변 내용에서 발생했다. 

이루다에게 성 소수자와 관련된 질문을 던지면 이루다가 싫어한다거나 더 나아가서 혐오한다는 반응이 나타났던 것. 이로 인해 개발사가 성소수자를 차별하는 것 아니냐는 비난이 있었다. 이 외에도 독도가 일본땅이냐는 물음에 당연하지 라는 대답이 나오는 등 역사 인식에서도 문제가 있는 답변이 나와 비난을 받은 바 있다. 

모두 이루다의 답변 내용이 부적절한 것이어서 개발사 측에서 부랴부랴 업데이트를 통해 보완을 해 나가고 있지만, 정작 제일 큰 문제는 개발사 내에서 불거졌다. 이루다는 20~30대 연인의 카카오톡 대화를 심리학으로 분석해 연애 팁을 주는 유료 서비스, 연애의 과학이라는 콘텐츠에 기반을 두고 있다. 여기서 수집된 실제 20~30대 여성의 대화를 소스로 학습했기 때문에 실제 20대 여성의 느낌을 고스란히 줄 수 있었던 것이다. 

그런데 개발사 측에서 수집한 대화의 주인에게 개인정보 활용에 대한 동의를 받지 않았다는 사실이 뒤늦게 밝혀진 것이다. 뿐만 아니라 개발사 내에서 개인정보가 담긴 대화내용을 공유하며 웃고 넘겼다는 사실도 알려져 문제가 되었다. 결국 개발사는 서비스한 지 한달도 채 못 된 1월 12일. 이루다 서비스의 폐지를 결정했다.

이루다 폐지가 AI규제로 이어지지는 않을까 우려

워낙 많은 이용자들이 열광했던 챗봇의 갑작스러운 폐지였고, 그 과정이 결코 순조롭지는 않았기에 아직도 이루다 폐지를 놓고 갑론을박이 벌어지고 있다. 폐지를 찬성하는 측에서는 거의 100% 개발사의 무지로 발생한 사건인만큼 계속해서 반성하고 되돌아봐야 하며, 여타 AI 관련 분야의 스타트업들도 이루다 사례를 보고 조금 더 관리감독에 신경을 써야 한다는 입장이다. 

반면, 이루다 폐지로 인해 AI 관련 규제가 강화될 것을 우려하는 목소리도 있다. 개인정보 보호 관련 규정을 제대로 지키지 않은 것은 명백한 개발사의 잘못이지만, 그 외에 이루다의 혐오, 차별 발언은 우리 사회가 가지고 있는 근본적인 문제라는 것이다. 

이루다가 참고한 자료, 소스는 20대 여성들의 대화다. 20대 여성들과 사회 전반에 혐오, 차별에 관한 인식이 좋지 않으니, 이를 참고한 이루다와의 대화 역시 좋을 수 없다는 것이 이들의 의견이다.

새로운 기술의 발전은 언제나 충돌을 야기한다. 앞으로는 이루다 외에도 이전보다 훨씬 발전된 인공지능 기술이 활용되는 사례가 많이 생겨날 것이다. 수많은 사례들과 연이은 실패 가운데, 기술은 차츰 발전할 것이고, 언젠가는 인공지능이 일상이 되는 날이 오지 않을까?


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
주요기사
이슈포토