AI 성별 편향, 국민 64% ‘한국 상황에 맞는 점검 기준 따로 필요’… 공공기관 AI 도입도 ‘속도보다 검증부터’ 68%

AI가 채용 서류를 심사하고, 대출 한도를 산정하고, 복지 대상자를 가려내는 시대가 성큼 다가왔다. 이런 가운데 해외에서는 AI 채용 시스템이 여성 지원자의 이력서를 낮게 평가한 사례가 논란이 된 바 있다. 국내에서도 LLM 기반의 AI는 점점 고도화되고 있지만 AI의 젠더 편향은 사라지지 않았다는 실증 연구 결과가 공개됐다. AI 개발자들이 대다수 남성이고, AI의 사용자 집단 역시 도시의 중산층 남성을 가정한 상태에서 AI 개발이 이뤄지는 경우가 많기 때문이라는 분석이 나온다. 여기에 개발 이후 AI의 젠더 편향을 검증하는 방식도 단순하다는 지적이 제기된다. AI 기획과 설계, 검증에 이르는 전 단계에서 젠더 편향이 나타나기 쉬운 구조라는 것이다.

AI가 채용 서류를 심사하고, 대출 한도를 산정하고, 복지 대상자를 가려내는 시대가 성큼 다가왔다. 그런데 이 판단 과정에 성별에 따른 편향이 개입될 수 있다는 우려도 함께 커지고 있다. 이른바 ‘AI 성별 편향’이란 AI가 학습한 데이터나 알고리즘 설계 과정에서 특정 성별에게 불리하거나 유리한 결과를 반복적으로 산출하는 현상을 말한다.

해외에서는 AI 채용 시스템이 여성 지원자의 이력서를 낮게 평가한 사례가 논란이 된 바 있다. 국내에서도 LLM 기반의 AI는 점점 고도화되고 있지만 AI의 젠더 편향은 사라지지 않았다는 실증 연구 결과가 공개됐다. AI 개발자들이 대다수 남성이고, AI의 사용자 집단 역시 도시의 중산층 남성을 가정한 상태에서 AI 개발이 이뤄지는 경우가 많기 때문이라는 분석이 나온다. 여기에 개발 이후 AI의 젠더 편향을 검증하는 방식도 단순하다는 지적이 제기된다. AI 기획과 설계, 검증에 이르는 전 단계에서 젠더 편향이 나타나기 쉬운 구조라는 것이다.

이런 가운데 리서치 및 데이터 인텔리전스 기업 피앰아이(PMI, 대표 조민희)가 만 20~59세 생성형 AI 사용 경험자 1000명을 대상으로 실시한 ‘AI 공정성과 성별 편향에 관한 인식 조사 2026’에서, 국민 다수가 AI의 공공 영역 도입과 성별 편향 문제에 신중한 접근을 요구하고 있는 것으로 나타났다. 이번 조사는 지난 6월 24~25일 온라인 설문조사 방식으로 진행됐다.

‘빠른 도입보다 충분한 검증’… 응답자 10명 중 7명

조사 결과 응답자의 68.1%는 공공기관의 AI 도입 방식에 대해 ‘시간이 걸리더라도 충분한 검증을 거쳐야 한다’고 답했다. ‘편의성과 효율성을 위해 빠른 도입이 중요하다’는 응답(20.7%)의 세 배를 웃도는 수치다.

성별로는 여성(72.6%)이 남성(63.6%)보다 ‘검증 우선’ 응답이 9%포인트 높았고, 연령이 높을수록 신중론에 무게가 실렸다. 50대의 검증 우선 응답은 75.4%로 20대(60.6%)보다 뚜렷하게 높았다. 다만 AI를 업무에 매일 활용하는 ‘헤비 유저’ 집단에서는 빠른 도입에 대한 수용도(35.8%)가 라이트 유저(17.4%)의 두 배 수준으로 나타나, AI 활용 경험이 쌓일수록 효율성에 대한 기대치도 함께 높아지는 경향이 확인됐다.

‘한국형 편향 점검 기준’이란 무엇… 국민 64% ‘별도로 필요’

이번 조사에서 눈에 띄는 대목은 응답자의 63.8%가 ‘한국 사회에 맞는 AI 성별 편향 점검 기준이 별도로 필요하다’고 답했다는 점이다. 여기서 ‘한국형 점검 기준’이란, 해외에서 만들어진 AI 규제·평가 체계를 그대로 들여오는 것이 아니라, 한국어 표현 방식과 국내 성역할 인식, 노동시장 관행 등 한국 사회 고유의 맥락을 반영해 편향 여부를 판단할 수 있는 기준을 별도로 마련해야 한다는 의미다.

이러한 요구에는 성별과 무관하게 폭넓은 공감대가 형성돼 있었다. 남성(62.0%)과 여성(65.6%) 모두 한국형 AI 성별 편향 점검 기준의 필요성에 대해 60%를 웃도는 동의율을 보였다. 연령대별로는 50대(72.8%)의 동의율이 가장 높았고 30대(57.0%)가 가장 낮아 세대 간 온도 차가 있었다.

사전 점검 필요 분야는 성별 따라 온도 차

AI 도입 전 정부의 사전 점검이 필요하다고 본 분야는 ‘범죄 예방 및 치안’(남성 50.0%, 여성 47.5%)과 ‘의료 진단’(남녀 각 44.0%)이 성별 차이 없이 나란히 최상위권에 올랐다. 두 분야 모두 AI 판단 오류가 개인의 신체·안전과 직결된다는 공통점이 있다.

반면 ‘복지 대상자 선정’은 여성(46.6%)이 남성(41.2%)보다 5.4%포인트 높았고, ‘채용’에 대해선 남성(39.6%)이 여성(34.8%)보다 4.8%포인트 높게 나타나 성별에 따라 정부 개입이 시급하다고 느끼는 영역에 차이가 있는 것으로 조사됐다. 이는 단일 기준을 일괄 적용하기보다 분야·대상별로 세분화된 정책 접근이 필요함을 보여주는 대목이다.

공정성 확보 위해선 ‘설명 기능’과 ‘사람의 최종 검토’ 요구

AI의 공정성을 확보하기 위해 가장 중요한 요소로는 ‘AI 판단 근거를 설명해주는 기능’(21.6%)이 1위로 꼽혔고, ‘사람이 최종 검토하는 절차’(17.6%)가 뒤를 이었다. AI가 어떤 근거로 판단을 내렸는지 투명하게 공개하는 장치와, 그 판단을 사람이 한 번 더 확인하는 이중 안전장치에 대한 수요가 동시에 확인된 셈이다.

피앰아이(PMI) 조민희 대표는 “이번 조사는 AI 기본법 시행 등으로 제도적 기반이 갖춰지기 시작한 시점에서, 국민들이 기대하는 것은 기술 도입 속도 그 자체가 아니라 한국 사회의 맥락을 반영한 신뢰할 수 있는 검증 절차와 설명 가능성이라는 점을 보여준다”며 “특히 분야와 세대에 따라 우려 지점이 다르게 나타난 만큼, 일괄적인 규제보다는 정교하게 설계된 단계별 정책이 필요할 것으로 보인다”고 말했다.

한편 피앰아이는 2012년 창립 이후 데이터 기반 의사결정을 지원해 온 리서치 및 데이터 인텔리전스 기업이다. 온라인·오프라인 리서치와 AI 기반 데이터 분석 역량을 바탕으로 소비자, 시장, 사회 변화에 대한 깊이 있는 인사이트를 제공하며 더 나은 의사결정을 돕고 있다.

웹사이트 _ https://pmirnc.com/