스캐터랩, AI 챗봇 ‘이루다’ 서비스 잠정 중단…“개선 후 재출시”
스캐터랩, AI 챗봇 ‘이루다’ 서비스 잠정 중단…“개선 후 재출시”
  • 조현선 기자
  • 승인 2021.01.12 12:26
  • 댓글 0
이 기사를 공유합니다

20세 여대생 모델로 개발, 성희롱 대상 이어 소수자 혐오와 차별 드러내 논란 확산
스캐터랩의 인공지능(AI) 챗봇 '이루다' (사진=스캐터랩)

[뉴시안= 조현선 기자]국내 스타트업 스캐터랩이 야심차게 선보인 인공지능(AI) 챗봇 '이루다'가 논란 끝에 12일 서비스를 중단을 결정했다. 출시 20일여 일 만이다.

스캐터랩은 11일 입장문을 내고 "일정 시간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙겠다"고 밝혔다.

논란이 됐던 혐오와 차별 발언에 대해 회사 측은 "이루다가 특정 소수 집단에 대해 차별적 발언을 한 사례가 생긴 것에 대해 진심으로 사과드린다"며 "저희는 루다의 차별적 발언에 동의하지 않으며 그러한 발언은 회사의 생각을 반영하지 않고 있다"고 말했다.

이어 "지난 6개월간의 베타테스트를 통해 문제 발생을 미연에 방지하기 위해 여러 조치를 취했다. 특정 집단을 비하하는 호칭이나 혐오 표현의 경우, 베타테스트 기간 동안 발견 즉시 별도의 필터링을 진행했다"며 "기존에 알려진 사례들은 이미 개선을 완료했으며, 새롭게 발견되는 표현과 키워드를 추가해 차별이나 혐오 발언이 발견되지 않도록 지속적으로 개선 중"이라고 설명했다.

이루다는 스타트업 '스캐터랩'이 개발한 인공지능(AI) 챗봇 서비스이다. 지난해 12월 23일 출시돼 2주 만에 이용자 75만명을 기록하기도 했다.

그러나 20세 여대생을 모델로 개발한 이루다가 성희롱 대상이 되고, 소수자에 대한 혐오와 차별을 드러내 논란이 확산됐다.

스캐터랩의 '연애의 과학'도 도마 위에 올랐다. 연애의 과학은 이용자가 자신의 카카오톡 대화를 첨부하면 대화 내용을 분석해 연애 조언을 제공하는 애플리케이션(앱)이다. 지난 2016년 출시된 이후 누적 앱 다운로드 수는 한국에서만 230만 건, 일본 40만 건에 이른다. 개발사인 스캐터랩은 연애의 과학이 카카오톡 대화 100억 건을 수집했으며 이를 통해 AI 성능을 개선했다고 홍보했다.

이용자들은 회사 측이 이같이 수집한 자신들의 카카오톡 대화 내용을 이루다 개발 및 서비스에 무단 활용했다는 입장이다. 제대로 익명화되지 않아 개인정보유출 의혹도 받았다. 이들 중 일부는 개인정보 피해 신고는 물론 집단 소송도 고려 중인 것으로 알려졌다.

사태가 커지면서 정부도 조사에 나섰다. 개인정보보호위원회는 전날 스캐터랩이 개인정보보호법 등 관련 법을 어겼는지 사실관계를 파악하는 작업에 착수한 상태다. 

이에 대해 스캐터랩은 이루다 개발 과정에서 연애의 과학으로 수집한 메시지를 데이터로 활용한 건 맞지만 사전에 동의가 이루어졌으며, 사용자의 닉네임·이름·이메일 등 구체적 개인정보는 이미 제거해 개인을 특정할 수 있는 정보는 유출되지 않았다고 설명했다. 

그러나 회사 측은 "사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용한 것이나, 연애의 과학 사용자분들께서 이 점을 인지할 수 있도록 충분히 소통하지 못한 점에 대해 책임을 통감하며 사과드린다"고 말했다.

또 향후 데이터 사용 동의 절차를 명확히 하고, 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해 지속적인 알고리즘 개선에 대해 보완하겠다고 해명했다.

그러면서 회사 측은 "AI가 5년 안에 인간 수준에 가까운 대화를 할 수 있다고 믿는다. 저희는 AI가 인간의 친구가 되고, 인간과 의미 있는 관계를 맺고, 외로움을 덜어줄 수 있는 존재가 될 수 있다고 생각한다"면서 "인간과 자유롭게 대화할 수 있는 AI가 앞으로도 소외된 사람, 사회적 약자의 마음을 위로해주는 따뜻한 대화 상대가 되길 바란다. 이루다는 그 첫걸음에 불과하다"고 호소했다.

업계 일각에서는 단순히 AI 인공지능 앱이 여론의 뭇매를 맞고 서비스를 중단하는 것은 '임시방편'이라는 비판는 지적도 나왔다. 사실상 수많은 사람의 실제 카카오톡 대화를 통해 학습된 AI인 만큼, 현 세대에 현존하는 혐오와 차별이 근본적인 문제인 것이라는 설명이다.

남궁훈 카카오게임즈 대표도 페이스북을 통해 목소리를 보탰다. 그는 "반성을 해야한다면 AI가 반성 해야하는 것이 아니라 현 사회가 반성을 해야하는 것"이라고 지적하고, "이제 시작일 뿐인 이 산업, 그리고 매우 매력적인 시작으로 보이는 이 캐릭터에 엉뚱한 규제로 혁신을 또 가둬두지 않을지 걱정스럽다. 그리고 혁신적 서비스를 출시한 회사에 박수를 보낸다"고 말했다.

 


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.