'이루다' 사태 겪은 스캐터랩, 'AI 챗봇 윤리 점검표' 내놨다

(사진=스캐터랩)

[이데일리 김국배 기자] 인공지능(AI) 챗봇 ‘이루다’ 개발사인 스캐터랩이 ‘AI 챗봇 윤리 점검표’를 내놨다. 스캐터랩은 과학기술정보통신부, 정보통신정책연구원(KISDI)과 협업해 기업에 특화된 AI 윤리 점검표 최종안을 공개했다고 26일 밝혔다.

이번 점검표는 과기정통부와 KISDI가 2020년 12월 발표한 ‘사람이 중심이 되는 AI 윤리기준’의 10대 핵심 요건을 기준으로 구성됐다. 인문학, 공학, 법학을 아우르는 학계 인사를 비롯해 법조계, 시민단체 등 각계각층 전문가의 조언을 받았다는 게 회사 측 설명이다.

특히 AI 챗봇을 기획·개발·운영하는 단계에서 AI 윤리가 실현될 수 있도록 총 21개의 실질적인 점검 항목을 담았다. 편향이나 차별적인 대화가 발견될 경우 검토·평가 후 반영될 수 있는 절차가 준비돼 있는지, 알고리즘 원리·데이터 수집 방법 등 필요한 정보를 충분히 제공하고 있는지 등이다. 회사 측은 “스캐터랩이 이루다 2.0 오픈 베타테스트에 이르기까지의 윤리적인 성장 이야기이기도 하다”고 했다.

실제로 스캐터랩은 지난해 1월 성차별적 혐오 발언을 내뱉은 이루다 1.0 서비스를 중단한 이후 개인정보 보호 체계를 강화하며 AI 윤리 실천 노력을 이어왔다. 어뷰징 대응 시스템 마련에 집중했으며, 정기적인 랜덤 샘플링을 통해 이루다가 안전하게 발화한 비율이 99% 이상인지 지속적으로 확인하고 있다.

김종윤 스캐터랩 대표는 “이루다가 직면했던 문제와 그 이후 스캐터랩의 해결 방법 모색 과정이 AI 산업과 우리 사회의 자산으로 공유될 수 있도록 윤리 점검표를 만들었다“면서 “이루다가 우리 사회의 보편적인 윤리를 지향하면서 누구에게나 친근한 대화가 가능한 친구로서의 존재가 될 수 있도록 지속해서 노력하겠다”고 말했다. 스캐터랩은 연내 이루다 2.0을 출시할 계획이다.