정부, AI안전연구소 내달 설립…국가 차원에서 AI위험 관리

[이데일리 임유경 기자] 정부가 ‘인공지능(AI)안전연구소’를 내달 설립한다. AI 기술의 급속한 발전에 따른 위험에 대비하기 위한 조직으로, AI 안전성을 평가·연구하고, 주요국 관련 기관과 협력을 전담하는 역할을 맡는다.

과학기술정보통신부는 18일 서울 중구 국가과학기술자문회의 대회의실에서 제17차 정보통신전략위원회(전략위)를 열어 이 같은 내용이 담긴 ‘AI 안전연구소 설립·운영 계획’을 공유하고 의견을 수렴했다고 밝혔다.

(자료=과학기술정보통신부)

정부는 지난 5월 열린 ‘AI서울정상회의’ 개최국으로서 ‘서울선언’의 후속조치로 ‘AI안전연구소’ 설립을 추진한다. AI서울정상회의에서는 국가 차원의 AI안전연구와 글로벌 협력의 중요성이 강조되며, AI안전연구소 설립이 핵심의제로 논의됐다. 당시 윤석열 대통령은 “대한민국도 AI 안전연구소 설립을 추진해 글로벌 AI 안전성 강화를 위한 네트워크에 동참하겠다”고 밝힌 바 있다.

정부는 11월 AI안전연구소를 개소할 예정이다. AI안전연구소 운영을 통해 안전한 AI 개발·활용을 확산하고, AI안전에 대한 국제적 연대 강화와 규범 정립을 수행하며, 중장기적으로 세계적 AI안전 연구를 선도하는 기관으로 발전시켜 나갈 계획이다.

AI안전연구소는 ETRI에 소속된 신규 연구소 조직으로 설치한다. 연구소 초대소장으로 AI분야 전문성과 국제적 감각을 보유한 전문가를 채용하기 위한 절차를 진행 중이며, 총 30여명 연구인력을 점진적으로 확보해 나갈 계획이다. 사무실은 우수인력 채용과 AI기업·유관기관과의 용이한 협력을 위해 판교 글로벌 R&D센터에 설치한다.

연구소는 ‘아태지역을 대표하는 글로벌 AI안전 거점연구소’ 구현을 비전으로 하며, 3대 핵심 미션으로 △AI안전에 대한 과학적 이해 증진 △AI안전정책 고도화 및 안전제도 확립 △국내 AI기업의 안전 확보 지원을 추진한다.

3대 미션을 완수하기 위해 연구소는 우선 국가 차원에서 관리해야 할 주요 AI위험을 정의하고, AI안전 평가방법론 개발과 위험완화 방안을 마련한다. 아울러, AI안전 평가데이터셋 구축 및 평가도구 개발 등 AI안전 평가인프라를 구축하고, 기업의 활용을 지원할 계획이다.

또 AI안전 정책을 연구하며, AI안전 대내·외 협력을 수행한다. 이와 함께 AI 통제력 상실 대응, AI모델의 보안·강건성 강화, AI 딥페이크 탐지 등 고도화되고 있는 AI위험에 대비하여 안전을 확보할 수 있는 연구개발(R&D)을 추진한다.

AI안전연구소는 오는 11일20일부터 미국 샌프란시스코에서 개최될 ‘국제 AI안전연구소 네트워크’ 행사 참여를 시작으로 본격적인 역할을 수행해 나갈 계획이다.

송상훈 과기정통부 정보통신정책실장은 “최근 AI 기술이 고도화되면서 국민의 기본권, 국가 안보와 사회 안전 측면에서 AI가 초래하는 다양한 위험이 확산되고 있어 미국, 영국, 일본 등 주요국도 AI 안전연구소를 운영하며 국가 차원에서 AI 위험에 본격적으로 대비하고 있다”며 “우리 정부도 AI안전연구소를 설치해 안전한 AI 개발 활용을 확산하고 AI 안전 확보를 위한 국제적 연대를 강화해 나가겠다”고 밝혔다.