AI 윤리 조성 및 실행에 관한 인식변화 나타나

IBM 기업가치연구소(IBV)는 최근 기업 내 AI 윤리 도입 및 실행 책임에 대한 인식 극명한 인식 변화를 담은 새로운 글로벌 조사 결과, ‘AI 윤리 실천: 신뢰할 수 있는 AI의 발전을 위한 기업 지침서’를 공개했다. 기업 내 AI 윤리를 담당하는 임원이 누구여야 하는가 질문에, 응답자 10명 중 8명은 CEO 등 전통적으로 비(非) 기술 분야 임원을 꼽았다. 이는 동일한 질문에 대한 2018년 응답률 15%에서 크게 증가한 수치로, 기업의 AI 윤리 조성 및 실행에 관한 큰 인식 변화를 나타냈다. 아울러 보고서는 지속 가능성, 사회적 책임, 다양성 및 포용성 부문에서 더욱 신뢰할 수 있는 AI 개발 노력이 필요하다는 점을 인식하고 있음에도 이를 위한 실제 실행과는 간극을 보이고 있다고 밝혔다.

AI 윤리 추진의 원동력으로 기업 경영진 지목

보고서에 따르면, 응답자들은 AI 윤리 부문의 가장 큰 책임자로 CEO (28%)를 꼽았다. 그 밖에 이사회 임원진(10%), 최고법률책임자(10%), 개인정보보호 책임자(8%), 리스크 및 컴플라이언스 담당자(6%)가 뒤를 이었다. 또한 응답자 66%는 조직의 CEO 등 C-레벨 경영진이 기업의 윤리 전략에 큰 영향을 미친다고 답했고, 50% 이상이 이사회 임원(58%)과 주주공동체(53%)를 꼽았다.

신뢰할 수 있는 AI 구축을 전략적 차별화 요소로 인식함에 따라 기업 AI 윤리 매커니즘 구현에 나서

이번 조사에 참여한 기업 경영진 75% 이상은 AI 윤리는 기업에 중요하다고 동의한다고 답해, 2018년 동일 질문에 대한 응답 비율 50%에서 늘어난 것으로 나타났다. 또한 응답자 75%는 윤리성이 기업의 차별화된 경쟁력이라고 답했다. AI 및 AI 윤리를 중요하게 여긴다고 답한 응답자 중 67%는 자사 조직이 경쟁사 대비 지속 가능성, 사회적 책임, 다양성 및 포용성 측면에서 더 나은 성과를 거두고 있다고 답했다.

또한 많은 기업이 AI 윤리를 실행에 옮기기 시작한 것으로 나타났다. 실제 응답자 중 절반 이상은 AI 윤리를 기존 기업 윤리에 접목하는 데 착수하고 있다고 답했다. 응답자 중 45% 이상은 자신의 조직에서 AI 프로젝트 위험 평가 프레임워크, 감사 및 검토 프로세스와 같은 AI 윤리 관련 매커니즘을 만들었다고 답했다.

AI 솔루션에 윤리 원칙 포함의 중요성 인지, 그러나 조직의 실제 실행 속도는 아직 더뎌

보고서에 따르면 79%의 CEO가 AI 윤리를 AI 관련 업무에 포함할 준비가 됐다고 답해, 2018년 20% 대비 많이 늘어났다. 또한 응답 기업 중 절반 이상이 AI 윤리의 공통 원칙을 공개적으로 지지했다. 그러나 실제 AI 윤리를 실제로 도입 또는 시행 중이라고 답한 곳은 25% 미만에 불과했고, 조직의 관행과 행동이 AI 윤리의 원칙과 가치에 일치한다고 강하게 동의한 응답자 역시 20% 미만으로 나타났다.

더불어 조직의 68%는 AI의 편견을 낮추기 위해서는 다양성 및 포용성을 갖춘 근무 환경을 조성하는 것이 중요하다고 답했다. 그러나 기업의 AI 조직 내 여성 비율은 5.5배, 성소수자 비율은 4배, 인종 다양성은 1.7배 낮은 것으로 나타나 조직 전반 대비 다양성이 떨어지는 것으로 나타났다.

지저스 만타스(Jesus Mantas) IBM 컨설팅 글로벌 매니징 파트너는 “오늘날 많은 기업이 사업 전반에서 AI 알고리즘을 사용함에 따라, 공정하고 안전하며 신뢰할 수 있는 AI 알고리즘 설계에 대한 조직 내외의 요구사항은 증가할 것이다. 그런데도 산업 전반에서 실제 AI 윤리 가치를 적극적으로 도입하는 기업은 아직 많지 않은 것으로 나타났다”며 “이번 IBM 기업가치연구소의 연구 결과는 신뢰할 수 있는 AI 구축이 단순히 규정을 준수하는 문제가 아니라 비즈니스 필수 사항인 동시에 사회적 기대치임을 보여준다. 따라서 기업은 AI 전체 수명 주기에 걸쳐 거버넌스 모델을 구현하고 윤리적 원칙을 포함할 수 있다.”고 말했다.

마지막으로 IBM 기업가치연구소는 조사 데이터를 기반으로 비즈니스 전반에 광범위한 AI 윤리 전략을 도입하는 조직이 경쟁 우위를 선점할 수 있다고 밝혔다. 더불어, 비즈니스 리더들을 위한 권고 행동 사항을 제시했다.

우선 다양한 부서 및 기능을 아우르는 통합적 협업 접근방식의 필요성을 권고했다. AI 윤리는 개발 과정에 참여하는 모든 이해관계자의 다양한 역량 전체 및 교차 협업 접근방식이 필요하다. 이에 최고 경영진, 디자인, 행동 과학자, 데이터 과학자, AI 엔지니어 등 관계자 모두는 신뢰할 수 있는 AI 개발 과정에서 각기 고유한 역할을 담당한다.

또한 AI 윤리의 규율을 운영하기 위한 조직 및 AI 수명주기 거버넌스 확립을 제안했다. 책임감을 가지고 AI를 개발하기 위해 올바른 문화 구축에서 실행·정책·제품에 이르기까지 전체 AI 수명주기에 걸쳐 AI 솔루션을 장려하고 관리하는 전체적인 접근방식을 취해야 한다고 말했다.

아울러 AI 기술 파트너, 학계, 스타트업 및 기타 생태계 파트너와의 협업을 통해 기업의 접근방식을 확장하고 ‘윤리적 상호 운용성’을 구축해야 한다고 조언했다.

방법론

IBM 기업가치연구소 ‘AI 윤리 실천:신뢰할 수 있는 AI의 발전을 위한 기업 지침서’는 22개 국가, 22개 산업 내 1,200명의 임원을 대상으로 AI 윤리의 중요성에 대한 임원의 의견과 조직의 운영 방식을 조사했다. 해당 연구는 2021년 옥스퍼드 이코노믹스(Oxford Economics)와 함께 진행했다. 보고서 전문은 홈페이지에서 확인할 수 있다.

한편 IBM 기업가치연구소는 20년 동안 IBM의 사고 리더십(Thought Leadership)을 위한 싱크탱크로서, 기업 경영진이 더욱더 현명한 비즈니스 의사결정을 내릴 수 있도록 연구와 기술 정보에 기반한 전략적 인사이트를 제공해왔다. IBM 기업가치연구소는 비즈니스, 기술 및 사회 등 다양한 분야에서 매년 수천 명의 기업 임원진, 소비자 및 전문가를 대상으로 설문조사와 인터뷰 등을 통해 신뢰할 수 있고, 영감을 주며 실행 가능한 인사이트를 제공한다. IBM 기업가치연구소에 대한 최신 소식은 이메일 뉴스레터를 신청하거나, 트위터(@IBMIBV) 또는 링크드인을 통해 확인할 수 있다.