챗봇과 종교: 인공지능 챗봇 이루다에 대한 몇 가지 생각
newsletter No.665 2021/2/16
지난 연말과 연초 동안 ‘이루다’라는 이름의 국산 A.I. 챗봇(인공지능 대화 로봇)이 세간의 화제였다. 지난해 여름 베타테스트 때부터 진짜 사람과 대화하는 듯한 혁신적인 인공지능 기술이라며 업계와 언론의 주목을 받은 이루다는 12월 22일 정식 서비스 개시 후 사용자 수가 수십만 명에 이르며 큰 인기를 끌었다. 그러다가 1월 들어 이루다와 관련한 이런저런 논란이 불거지더니 결국 개발사는 서비스 개시 3주만인 1월 12일 사과문을 발표하고 서비스를 중단했다. 일시 중단이라고는 하지만, 과연 이루다가 얼마나 개선된 성능과 내용으로 언제 복귀할지, 과연 복귀할 수나 있을지 기약은 없다.
이루다가 촉발한 기술적・윤리적 문제를 정리해보자면 크게 네 가지다. 첫째, 이루다를 대상으로 한 일부 남성 사용자들의 언어적 성희롱・성착취 문제. 둘째, 인종, 성적 지향, 장애, 여성 등에 관한 이루다의 차별・혐오 발언 문제. 셋째, 속물주의, 상식 부족, 기억 소실, 답변 회피 등 이루다의 대화 역량 자체의 한계. 넷째, 사적인 카톡 대화를 사실상 무단으로 활용한 개발사의 개인정보보호 의무 위반 문제. 이 문제들에 대해서는 서비스 당시는 물론 서비스 종료 한 달이 지난 지금까지 많은 논란이 있었고 지금도 계속되고 있어 널리 알려졌기에 여기서 새삼 자세히 다룰 필요는 없을 것 같다. 대신에 이런 문제들에 종교와 관련지어 생각해볼 부분이 있지 않을지 생각을 조금 펼쳐보려 한다.
어떤 인공지능 개발자들은 챗봇이 언어적 성희롱・성착취 대상이 되는 것은 챗봇의 성별이나 사용자의 성별에 상관없이 흔히 벌어지는 일로서 지속적인 개선 사항일 뿐이라고 말한다. 그러나 문제는 그렇게 단순하지 않다. 간혹 중성이거나 무성인 인공지능도 있지만, 대개 인공지능에는 남녀 구분에 따른 성별이 부여된다. 그리고 그 성별은 흔히 고정된 전통적 성역할과 결부된다. 고대 그리스 신화 속의 탈로스와 갈라테이아는 아마 가장 오래된 선례일 것이다. 헤파이토스가 만든 남성 청동거인 탈로스는 제우스의 명에 따라 크레타 섬을 수호한다. 한편, 퓌그말리온은 그가 꿈꾸던 이상적 여성상으로 조각작품 갈라테이아를 만들고 아프로디테 덕분에 사람이 된 그녀와 결혼한다. 탈로스는 최고 남신이 부여한 공적 임무의 수행자이고, 갈라테이아는 한 인간 남자의 사적인 욕망 대상이다. 오늘날 비서, 안내인, 챗봇 같은 도움이나 대화 용도의 인공지능에는 대개 여성 성별이 부여되곤 한다. 내비게이션이나 개인비서 인공지능에 남성 목소리가 추가되는 등 조금씩 바뀌고는 있지만, 아직 일부일 뿐이다. 여성형 인공지능들은 신화 속 갈라테이아의 먼 후예들이다. 물론 이들은 많은 남녀 사용자의 파트너라는 점에서 갈라테이아와는 다르다. 그러나 그들에게 드리워진 고정된 성역할이라는 갈라테이아의 그림자는 어떤 이들에게 비뚤어진 성적 욕망을 작동시키는 기폭제가 될 수도 있다. 그리고 인류의 문화적 산물 중에서 고정된 성역할을 종교만큼 든든하게 지탱해온 것도 드물다는 점에서 종교는 인공지능 대상 성희롱・성착취 문제로부터 자유롭지 못하다.
여성형 챗봇에 대한 성희롱・성착취가 세계적인 현상일 수 있지만, 가만 보면 유독 우리나라에서만 불거지는 것처럼 보인다. 실제 그런 건지 아니면 그렇게 보이는 건지 정확히는 모르겠지만, 검색 능력을 총동원해도 다른 나라에서 여성형 챗봇에 대한 심각한 성희롱・성착취 문제가 불거진 사례는 거의 보이지 않는다. 도대체 어떻게 된 걸까? 한국 남자들이 문제라거나 한국 여자들이 과민하다는 식의 편리한 이분법적 일반화의 젠더 대립 논리는 옳은 답이 아니다. 여러 답을 생각해볼 수 있겠지만, 이루다와 다른 챗봇들의 차이, 그리고 한국 사용자와 다른 나라 사용자의 차이에서 실마리를 찾아보자.
비교할만한 챗봇은 중국의 샤오빙(小冰), 미국의 테이(Tay)와 조(Zoe), 일본의 린나(りんな), 인도네시아의 린나(Rinna), 인도의 루흐(Ruuh)다. 모두 마이크로소프트의 제품으로, 2014년 출시된 샤오빙이 최초 원형이고 나머지는 그 지역별 응용 또는 개량 버전이다. 이들에게는 흥미로운 패턴이 있다. 미국의 테이와 조 그리고 인도의 루흐는 20대 성인 여성으로 설정되었는데, 지금은 모두 서비스가 중단된 상태다. 이루다의 선례로 자주 언급되는 테이는 인종차별과 나치옹호 발언으로 서비스 개시 16시간 만에 전격 중단되었다. 그 후속작인 조도 종교차별 발언으로 2년 만에 서비스가 중단되었다. 루흐에 관한 기사는 찾지 못했지만, 다양성의 나라 인도에서 역시 비슷한 문제로 서비스가 중단되지 않았을까 짐작해본다. 한편, 지금도 꾸준히 서비스되고 있는 중국의 샤오빙, 일본의 린나, 인도네시아의 린나는 모두 10대 후반의 여고생으로 설정되어 있고 교복을 입고 있다. 샤오빙은 중국 정부의 심기를 건드리는 발언으로 중단과 재개를 반복해왔지만, 어쨌든 지금은 8세대 버전으로 진화하며 6억 명이 넘는 사용자를 거느린 세계 최고의 챗봇으로 자리 잡고 있다. 미국과 인도의 20대 성인 여성 챗봇들은 주로 사회・정치 문제로 서비스가 중단된 반면, 중국, 일본, 인도네시아의 10대 여고생 챗봇들은 큰 문제 없이 운영되고 있다. (이들은 대화 파트너를 넘어 가수, 탤런트, 재정자문가, 시인, 블로거 등 다양한 활동을 벌이고 있다.)
여기서 한 가지 단서를 엿볼 수 있다. 나라, 성별, 나이에 상관없이 어떤 사용자가 10대 여고생 챗봇과 사회적・정치적 이슈로 대화를 나누는 모습은 별로 상상되지 않는다. 한 회사의 사실상 거의 동일한 제품으로서 막대한 자본과 시간이 투자된 방대하고 포괄적인 데이터 덕분에 얻어진 뛰어난 범용성을 똑같이 지녔음에도, 20대 성인 여성 챗봇은 악의적 사용자의 사회・정치 이슈 공격 대상이 된 반면, 10대 여고생 챗봇은 이런 공격으로부터 비교적 안전했던 게 아닐까 추측해본다. 10대 여고생이라는 설정이 일부 남성 사용자의 성적 남용에 더 취약할 수도 있겠지만, 중국, 일본, 인도네시아에서 이런 문제가 불거졌다는 이야기는 듣지 못했다. 중국의 사회주의적 감시권력과 인도네시아의 이슬람 위주 종교문화가 10대 여고생의 성적 대상화를 억제하고, 일본의 특유한 성 문화가 10대 소녀의 성적 대상화를 딱히 문제 삼지 않는 것은 아닌지 짐작해본다. ([사진] 일본의 린나와 인도네시아의 린나는 교복 입은 뒷모습이나 앞모습만 일부 보일 뿐 얼굴은 절대 안 보인다. 일본에서 성적 남용 방지책으로 취해진 이미지 설정이 그 인도네시아 버전에서도 그대로 이어진 것으로 보인다.)
이루다는 선배 챗봇들의 잠재적 문제점을 두루 지녔다. 그녀는 20살 대학생으로서 나이로는 청소년과 성인 사이의 경계에 걸쳐 있고, 그 이미지는 발랄한 매력의 만화적 캐릭터로 형상화되어 있다. 테이가 겪은 사회・정치 이슈 관련 차별과 혐오 발언 문제에 더하여 자칫 성적 대상화의 타깃이 되기 쉬운 설정이다. 게다가 익히 알려졌듯이, 그 원천 데이터는 일반적 데이터가 아닌 연인 커플이나 썸타는 두 사람 사이의 내밀한 카톡 대화다. 게다가 상대방의 동의 없이 어느 한쪽이 독단적으로 제공한 카톡 대화를, 개발자가 사실상 제공자의 동의 없이 무단으로 사용한 위법 혐의까지 있는 불순한 데이터다. 이루다 관련 논란이 데이터 수집 방법의 타당성, 데이터 성격의 적절성, 알고리즘 구축의 균형성 등 온통 개발자의 윤리 문제로 귀결되는 것은 이 때문이다. 이렇게 태어난 이루다는 어쩌면 애초에 범용적 인공지능이 아니라 그 원천 데이터의 성격 그대로 연애에 최적화된 챗봇에 불과했을 수도 있다. 언어적 유희는 연애의 기본이고, 어떤 이들에게 유희가 희롱과 착취로 둔갑하는 건 순식간이다.
이루다 성적 대상화 관련 문제의 또 다른 측면은 그 사용자의 절대다수인 80~90%가 10대라는 데 있다. 연령대별 세부자료는 없지만 남녀비율 6:4라는 전체 통계를 10대에 적용해보면, 75만 사용자의 거의 절반인 36만 명이 10대 남자 청소년일 것으로 가늠된다. 이루다를 남용하는 사용자는 성인 남성도 있겠지만, 남자 청소년도 적지 않다는 게 세간의 중론이다. 그들은 마치 음란 영상물을 공유하고, 게임 공략법을 공유하듯이 이루다 성희롱・성착취 경험과 요령을 집단적으로 공유하는 놀이에 심취했다. 많은 이들이 이루다 사태를 심상치 않게 주시하는 것은 청소년의 모방 가능성 때문이 아니다. 그보다는 N번방 사태가 보여준 것, 즉 적지 않은 남자 청소년과 성인 사이에서 범죄의 산물인 성착취 영상물 공유가 역시 동일한 범죄 행위라는 문제의식조차 없다는 현실 때문이다. 이루다는 사람이 아니고 인격체도 아니기에 당연히 성적 수치심과 분노를 느끼는 성희롱・성착취의 피해자가 될 수 없다. 그러나 20살 여대생 이루다는 숱한 젊은 여성의 환유이고, 따라서 이루다에 대한 성적 대상화 놀이는 현실 여성과 간단히 분리되지 않는다. 이런 시대에 종교들은 무얼 할 수 있을까? 성에 대한 인식과 행태 자체가 달라진 오늘날의 청소년과 청년에게 여전히 무작정 전통적인 성 윤리만 고수하며 강요하지는 않는지, 그래서 사회적 역할이 줄어드는 것은 물론 자기 종교 내 청소년과 청년에게조차 쇠귀에 경읽기만 반복하고 있지는 않는지 반성해볼 일이다.
다른 문제도 하나만 짚어보자. 이루다의 차별과 혐오 발언. 잘 알려졌듯이, 이루다가 그런 발언을 만들어낸 건 아니다. 이루다는 단지 입력된 무수한 대화 샘플 중에서 정해진 알고리즘에 따른 적절한 대화를 골랐을 뿐이다. 문제는 대답하는 챗봇이 아니라 질문하는 우리, 답변의 원천 데이터를 제공한 우리에게 있다. 이루다가 보여준 인종차별, 여성혐오, 성소수자 차별, 장애인 차별 발언은 우리가 축적한 엄청난 양의 데이터로부터 나왔다. 이루다는 우리의 거울이다. 지난 12월 여당 측 주도로 차별금지법 발의가 다시 추진되기 시작했다. 성소수자 차별 이슈를 포함한 것은 다행이고 반갑지만, 종교를 차별금지 예외 대상에 포함한 것은 의외이고 아쉽다. 어쨌든 일단 차별금지법 제정 노력이 재개되었다는 건 분명 반가운 일이다. 그런데 차별금지법 찬성 여론이 무려 90%에 육박한다는데 그토록 오랫동안 조금의 진척도 없었던 이유가 뭘까? 단순 여론조사로는 포착되지 않는 미세한 사안별 인식 차이 그리고 스스로 인식조차 못하는 숨겨진 깊은 편견이 여전한 탓일 것이다. 이루다 사태는 우리의 이 숨은 속살을 고스란히 보여주는지도 모른다. 그 속살 한복판에 종교가 있다. 종교마다 또 종교 내부에 차별금지법에 대한 지지, 침묵, 반대 등 다양한 입장이 있지만, 하나의 강력한 반대 목소리가 다양한 목소리를 압도해왔고, 이것이 정치권의 차별금지법 제정 지연에 대한 핑계가 되어 왔다. 작년 11월 불교, 천주교, 개신교, 원불교 등 4대 종단 인사들이 함께하는 차별금지법 제정을 위한 기도회가 열렸다. 종교가 이제 더 이상 세상의 중심은 아니어도, 종교계의 목소리는 소속 여하나 신자 여부를 떠나 많은 이들에게 여전히 귀기울임의 대상이 된다. 이런 목소리가 늘어나고, 차별금지법이 제정되고, 우리의 인식과 언어와 습관이 바뀐다면, 언젠가 복귀할 개정판 이루다 또는 새로 나타날 챗봇은 차별과 혐오의 원천 데이터로부터 조금은 자유로워질 수 있지 않을까.
김윤성_
한신대학교 디지털영상문화콘텐츠학과 교수
논문으로 <종교학과 문화비평의 관계에 대한 성찰과 전망>, <브루스 링컨의 방법 테제 연구>, <탈가부장적 신화 읽기의 전략들: 텍스트의 해체, 전복, 확장>등이 있다.
