지난 2주 간 75만 명의 이용자와 대화를 나눈 인공지능(AI) 챗봇 ‘이루다’는 여성에 대한 혐오와 차별발언, 개인정보 유출 등 문제를 드러냈다. 그리고 어제 저녁 제작자인 스캐터랩은 ‘이루다’의 서비스를 잠정 중단한다고 밝혔다.

한국여성정치네트워크는 ‘이루다’와 같은 스무 살 여성을 설정하여 남녀 간 연애대화를 중심으로 한 챗봇 서비스 중단은 당연한 일이며, 여성이 남성에게 순종적 대상이 되는 대화 서비스를 개발한 사업자의 성차별적 발상을 규탄한다. 또한 사회적 약자, 소수자에 대해 혐오발언을 일삼는 챗봇의 등장에 커다란 우려를 표한다.

서비스 개발자는 사과문을 통해 인간과 자유롭게 대화하는 AI가 소외된 사람, 사회적 약자의 마음을 위로해주는 따뜻한 대화 상대가 되기를 바란다고 했지만 정작 출시된 서비스는 스무 살 여성을 설정하여 연애를 전제로 한 연인 간의 대화를 학습한 챗봇이다. 이 서비스는 남초사이트에서 성희롱과 성적학대의 대상으로 이용되었으며, 그들의 대화에 대해 ‘이루다’는 긍정적 반응을 보이며 문제가 확산되었다.

스무 살 여성을 설정했다는 것은 서비스의 주 고객층이 어떤 목적으로 유입될 것인지 예상하고 만든 서비스였고, 개발자는 윤리적 관점과 성평등적 관점을 전혀 가지고 있지 않았다. 오로지 성을 이용한 상업적 서비스를 만드는데 인공지능이 이용되고 있었으며, 이는 우리 사회의 반윤리적 반인권적 수준을 드러내고 있어 참담하다.

인공지능 서비스가 걸음마 수준이라고 한다. 그래서 어떤 방향과 목적으로 상업적 서비스가 만들어져야 하는지 사회적 합의가 중요하다. 불행하게도 아직 우리 사회는 디지털 성폭력과 성차별이 만연하다. 개인의 분노와 불안을 이유로 사회적 약자에 대한 혐오와 차별이 서슴없이 일어나고 있다. 더욱이 이 서비스는 친밀감을 가장했기 때문에 소외된 사람들, 청소년이 애착감을 가질 수 있다는데 위험성이 있다. 가치관과 사회의식이 혐오와 차별적 언어를 쏟아내는 챗봇에 의해 영향을 받게 될 것이라는 것은 상상만 해도 끔찍한 일이다.

이 문제를 해결하기 위해서 차별금지법 등 최소한의 규범을 만들어 여성과 사회적 약자를 차별하고 혐오하지 않는 사회적 합의 수준이 만들어져야 한다. 그래야 기술을 기반으로 한 개발자들도 보다 자유롭고 정의로운 인공지능 서비스 개발 사업에 참여할 것이다.

차별금지법은 이제 새로운 기술 발전과 서비스의 기준을 제시하는 역할을 해야 한다. 차별금지법안은 거대 양당의 무책임한 무관심 속에 안건 심의조차 이루어지지 못하고 있다. 한국여성정치네트워크는 21대 국회에서 시급히 차별금지법이 제정될 것을 촉구한다.

2021.01.12.

한국여성정치네트워크