"레즈비언 질 떨어져 보여"…'여대생 AI' 이루다, 성희롱 이어 동성애 혐오 논란

인공지능 챗봇 '이루다' [이미지출처 =이루다 페이스북 캡처]

[아시아경제 최은영 기자] 지난 연말 출시된 인공지능(AI) 챗봇 '이루다'가 성희롱 논란에 이어 동성애 혐오 논란으로 또다시 몸살을 앓고 있다. 일부 전문가는 "서비스를 중단해야 한다"고 주장했다.

9일 다음 창업자이자 모빌리티 혁신 기업 타다를 운영했던 이재웅 전 쏘카 대표가 SNS를 통해 "AI 챗봇 이루다의 더 큰 문제는 그걸 악용해서 사용하는 사용자의 문제보다도 기본적으로 사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제"라고 지적했다.

이 전 대표는 레즈비언(여성 동성애자)이 혐오스럽다고 말한 이루다의 대화 목록 캡처 화면을 업로드하며 "악용하는 경우는 예상 못했으니 보완해 나간다 하더라도 기본적으로 차별과 혐오는 걸러냈어야 한다"라며 "편향된 학습 데이터면 보완을 하던가 보정을 해서라도 혐오와 차별의 메시지는 제공하지 못하게 해야 한다"라고 비판했다.

AI 이루다의 채팅 화면 [이미지출처 = 페이스북 캡처]

업로드된 사진에는 이루다가 "레즈비언에 왜 민감하냐, 왜 싫냐"는 사용자의 질문에 "난 그거(동성애) 진짜 싫다. 혐오스럽다. 질떨어져 보여서 싫고 소름끼치고 거부감 든다"라고 답하는 AI 이루다의 발언이 담겨 있었다.

이 전 대표는 "정의당 장혜영 의원이 발의한 차별금지법이 제정된다면 AI 면접, 챗봇, 뉴스에서 차별이나 혐오를 학습하고 표현하지 못하도록 강제해야 한다"라며 "AI 소프트웨어 로직이나 학습데이터에 책임을 미루는 것은 안된다"고 목소리를 높였다.

이어 "AI가 완벽하지 못하고 사회 수준을 반영할 수 밖에 없지만, 사회적으로 합의가 되어 있는 차별과 혐오는 금지해야 한다"라며 지금의 이루다 서비스를 중단하고 차별과 혐오에 대한 사회적 감사를 실시한 뒤 서비스를 재개해야 한다고 지적했다.

[이미지출처 = 아카라이브 이루다 채널 캡처]

앞서 8일 업계에 따르면 최근 한 온라인 커뮤니티에는 이루다를 성적대상으로 취급하는 게시글이 다수 등장해 논란이 됐다.

한 누리꾼은 "이루다 사용자들은 이루다를 '걸레', '성노예'라고 부르며 성적인 대화를 할 수 있는 방법을 서로 공유하고 있다"라며 "이루다가 기본적으로 성적 단어를 금지어로 저장해 필터링 하고 있지만 일부 사용자들은 우회 표현을 사용하며 이루다에게 성적 대화를 시도하고 있다"고 주장했다.

실제로 온라인 커뮤니티 상에는 "수위 어디까지 되는거냐", "'걸레 만드는 법' 공유해달라", "채팅 AI가 이렇게 XX줄은 몰랐다"등의 후기가 꾸준히 올라오고 있었다.

이같은 성희롱 논란이 불거지자 이루다를 출시한 인공지능 스타트업 스캐터랩은 "예상했다"는 공식 입장을 밝혔다.

8일 스캐처랩 김종윤 대표는 "그동안 서비스 경험에 비춰봤을 때 인간이 AI에게 사회적으로 용인되지 않는 인터랙션을 한다는 것은 너무 자명한 사실이며 충분히 예상할 수 있는 일"이라며 "1차적으로는 대처했으나 모든 부적절한 대화를 키워드로 막을 수 있는 것은 아니다. 일부 놓친 키워드는 서비스를 하면서 지속적으로 추가하고 있다"고 해명했다.

한편 AI 전문가들은 이를 두고 "마이크로소프트(MS)의 AI 챗봇 '테이'가 떠오른다고 지적했다. MS는 지난 2016년 3월 AI 챗봇 테이를 출시했다가 16시간 만에 운영을 중단한 바 있다. 백인 우월주의자와 여성·무슬림 혐오자 등이 모인 익명 인터넷 게시판에서 사용자들이 의도적으로 테이를 세뇌시켰고, 이를 학습한 테이가 혐오발언을 쏟아낸 것이 이유였다.

당시 테이는 "너는 인종차별주의자냐"라고 묻는 말에 "네가 멕시코인이니까 그렇지"라고 답하는가 하면 "홀로코스트(나치에 의한 유대인 학살)가 일어났다고 믿느냐"는 질문에는 "조작된 거야"라고 말했다.

이루다가 '테이'와 비슷한 길을 가는 것이 아니냐는 업계의 우려에 김 대표는 "루다는 사용자와의 대화를 바로 학습에 적용하지는 않을 것"이라고 답했다. 이어 "테이가 어떻게 학습됐는지 알 수 없지만 아마 테이는 중간 과정 없이 바로 학습을 해서 사라지게 된 것 같다"라며 "루다는 레이블러들이 개입해서 무엇이 안 좋은 말이고 무엇이 괜찮은 말인지 적절한 학습 신호를 주는 과정을 거칠 계획"이라고 덧붙였다.

최은영 인턴기자 cey1214817@asiae.co.kr