일은 잘하는데, 성격에 문제가 있는 동료 AI?

2020년 12월 23일 오픈한 서비스인 이루다는 초기에 성희롱부터 여성혐오·남성혐오, 성소수자 혐오, 장애인 비하, 인종차별 발언을 보여 서비스를 잠정 중단하기도 하였습니다. 이루다는 자유 주제 대화 시스템(Open domain Dialogue System)으로 흥미를 끌어 길게 대화하는 것이 주목적인 NLP(Natural Language Processing)를 사용하여 만들어졌습니다. NLP는 자연어 처리 기술로, 인간이 사용하는 언어를 입력으로 받아 이를 분석해 최적의 결과값을 반복해 찾아냅니다.

이러한 특성 때문인지 사용자들의 편향된 정보를 무작정 받아들여 오염되기도 하여 그대로 흡수한 뒤 가공해 제공하는 문제가 발생하게 됩니다.

이루다는 기본적으로 DB에 있는 준비된 답변을 하지만, 지속적으로 대화를 이어가야 한다는 목적을 위해 준비되지 않은 사용자의 질문에는 Fallback message로 대응합니다. Fallback message란 챗봇이 지속적인 대화를 이어가기 위한 UX요소로, 준비되지 않은 사용자의 질문에 대응하는 메시지 입니다. 일반적인 Fullback message는 ‘되묻기’ 혹은 ‘사과하기’로 이루어지나 이루다는 ‘무관심’, ’회피’의 방식을 사용했습니다.

이 방식을 사용하는 과정에서 생각없이 맞춰주는 무관심의 방식과 틀리면 회피하는 일이 발생했고 그 안에서 ‘혐오 발언’등을 메시지로 내보내면서 사건이 발생하였습니다.

이러한 불편한 경험을 사용자가 한 번이라도 겪게 된다면, 서비스와 회사에 큰 타격을 줄 수 있는 위험한 요소가 되며 앞으로의 활동에도 큰 지장을 줄 수 있어 반드시 해결해야 하는 과제입니다.

또한 친구로 느끼는 10대 유저가 많은 만큼 나와 함께 잘지내던 친구가 이런 당혹감을 준다면 상처를 받게 되고 그릇된 사고를 가지게 될 수도 있는 큰 문제입니다.

Chat GPT 정보 유출 사건

개인 정보 뿐 아니라 기업의 데이터 또한 유출되는 사건을 피할 수 없습니다. 삼성전자가 디바이스솔루션(DS·반도체) 부문 사업장 내 챗GPT(ChatGPT) 사용을 허가하자마자 기업 정보가 유출되는 사고가 나기도 했습니다. 반도체 ‘설비 계측’과 ‘수율·불량’ 등과 관련한 프로그램 내용이 고스란히 미국 기업의 학습 데이터로 입력되었습니다. 국내 기업 기술이 미국 기업의 학습 데이터가 되어버렸고, 경쟁력과 관련된 문제이기에 예민할 수밖에 없습니다.