"AI 기능과 보안, '나쁜놈 vs 좋은놈' 경쟁으로 균형 맞출 것"

[샌프란시스코(미국)=이데일리 김범준 기자] “인공지능(AI) 기능은 ‘나쁜 놈’과 ‘좋은 놈’ 모두 사용할 수 있습니다. 앞으로 서로 공격하고 방어하는 게임의 경쟁 속도가 점점 빨라지고 비슷해지면서 균형을 맞춰갈 것입니다.”

브래드 아킨(Brad Arkin) 세일즈포스 최고신뢰책임자(CTO·Chief Trust Officer)가 19일(현지시간) 미국 샌프란시스코 모스콘 센터에서 열린 ‘드림포스(Dreamforce) 2024’에서 이데일리와 인터뷰하며 인공지능(AI) 시대의 보안과 신뢰 구축 중요성에 대해 언급하고 있다.(사진=김범준 기자)

브래드 아킨(Brad Arkin) 세일즈포스 최고신뢰책임자(CTO·Chief Trust Officer)는 19일(현지시간) 미국 샌프란시스코 모스콘 센터에서 열린 ‘드림포스(Dreamforce) 2024’ 3일차 이데일리와 인터뷰를 갖고 이같이 강조했다. 그는 어도비(Adobe), 시스코(Cisco)등 글로벌 IT 기업에서 20년 이상 제품·엔터프라이즈 보안 업무를 역임한 뒤 올해 3월 세일즈포스에 보안 총괄인 CTO로 합류했다.

아킨 CTO는 “기술적으로 보안을 잘 하고 있다 하더라도 고객이나 이해관계자와의 소통도 중요하다”며 “쌍방향 상호 작용으로 우선순위가 어디에 있는지 이해하고 대응해야 우리의 업무가 신뢰로 이어질 수 있다. 문을 닫고 우리가 무엇을 하고 있는지 모르면 성공할 가능성이 낮다”고 봤다.

아울러 “문제가 발생할 때 정보를 투명하고 솔직하게 자세히 공유하면, 시간이 지나면서 위기를 받아들이고 최소화할 수 있는 최선의 기회가 생긴다”면서 “이것이 바로 AI 신뢰를 위한 또 다른 중요한 부분이다. 고객에게 중요한 것을 다중 요소로 인증받고 싶다”고 말했다.

그는 보안 및 신뢰와 관련해 “20년 전 구글이 스타트업이었을 당시 시도한 것 중 하나는 검색 툴을 만들어 회사 내에서 사용할 수 있는 모든 정보를 색인화한 것”이라며 “하지만 한 회사 동료의 이름을 검색했더니 모든 직원의 명단과 급여가 포함된 파일이 공개되는 의도치 않은 오류가 발생했다”고 사례를 들었다. 그러면서 “AI 도구는 권한이 없는 민감한 데이터 베이스(DB)를 검색할 때 무방비로 노출되도록 구성해서는 안된다”고 경고했다.

아킨 CTO는 세일즈포스가 기술 보안에 중점을 두면서 침투 테스트를 수행하고 개선해야 할 오류를 찾는 ‘레드팀(Red Team)’ 조직의 역할을 강화하고 있다고 설명했다. 아울러 인종 차별과 각종 범죄 등 AI의 비인도·비윤리적 활용을 통제하는 전담팀도 동시에 운영 중이라고 했다. 그는 “구축 중인 AI 도구가 사용하고자 하는 목적에 적합한지 확인하고, 다양한 유형의 문제에 대해 허용 가능한 수준으로 위험을 관리할 수 있도록 조율하고 있다”고 소개했다.

아킨 CTO는 이번 드림포스에서 다양한 세션과 패널 토론, 참가자 미팅과 소통을 통해 그들이 무엇을 중요하게 여기는지 이해할 수 있는 기회였다고 소감을 전했다. 생생한 피드백을 바탕으로 세일즈포스의 ‘패스트 롤아웃(fast roll-out·빠른 발표 또는 생산)’ 프로젝트를 통해 고객 안전과 신뢰 구축을 위한 우선순위에 기민하게 대응할 것이라고 밝혔다.

그는 “가장 중요한 것은 명확한 커뮤니케이션으로 다양한 이해관계자 및 고객과 투명하게 소통하고, 규제 당국으로부터 무엇이 중요한지 이해할 수 있다면 사내 교육과 정보를 통해 이러한 우선순위에 대응할 수 있다”며 “예를 들어 지문을 사용해 열쇠를 안전하게 보관하고 직원들의 기분을 좋게 하면 생활이 더 쉬워진다”고 역설했다. 그러면서 “전 세계 7만2000여명의 세일즈포스 임직원들이 ‘패스트 패스(fast pass·빠른 처리)’ 프로젝트에 참여하면서 더 나은 보안 준수와 신뢰 구축 결과로 이어질 것”이라고 덧붙였다.