AI 핵심 요약
beta- 스탠퍼드대가 340만 명 사례를 분석한 결과, 동일 AI채용 도구 사용 4곳 모두 탈락한 지원자가 10%에 달해 알고리즘 단일재배 문제를 드러냈다.
- 미국·한국 모두 AI채용 편향과 차별 의심이 크지만, 한국은 실증 데이터·검증 인프라와 감사 법제가 부재해 구직자 44.2%가 차별을 체감할 뿐이다.
- 명확한 평가 기준이 공개되지 않자 지원자들은 AI가 좋아할 것이라 짐작해 스스로를 획일화하고 있으며, 해결을 위해선 알고리즘과 평가 방식의 투명한 정보 공개가 필요하다.
!AI가 자동 생성한 요약으로 정확하지 않을 수 있어요.
AI채용 도구를 쓰는 회사 4곳에 지원했는데 4곳 다 떨어졌다면, 우연이 아닐 수 있다.
최근 스탠퍼드대 인간중심AI연구소(HAI)가 지원자 340만 명, 지원 건수 400만 건을 분석했다. 같은 AI 채용 도구를 쓰는 여러 회사 4곳 지원한 사람 가운데 10%가 지원한 모든 곳에서 탈락했다. 사람이 아니라 알고리즘 하나가 여러 회사의 판단을 대신했기 때문이다.
연구팀은 이를 "알고리즘 단일재배(algorithmic monoculture)"라 불렀다. 같은 씨앗만 심은 농장은 병충해 한 번에 전체가 흔들리듯 같은 알고리즘에 기댄 회사들도 마찬가지다. 편향 하나가 노동시장 전체로 번질 수 있다는 이야기다.
결과 분석을 보자. 지원자 개인을 기준으로 보면 백인·히스패닉은 1% 미만이 AI 알고리즘으로 불이익을 받았다. 아시아계는 5.3%, 흑인은 10.6%였다. 지원 건수를 기준으로 확대하면 격차는 더 벌어진다. 흑인 지원자의 26%, 아시아계의 15%가 서류 심사 단계부터 원천 배제된 직무에 지원한 것이다.
이 격차는 하나로 뭉쳐 보면 안 보인다. 벤더가 전체 고객사 결과를 합쳐 집계했을 땐 차별이 드러나지 않았지만 직무 하나하나를 따로 떼어 들여다보니 확연히 드러났다. 평균이라는 숫자 뒤에 차별이 숨어 있었던 셈이다.
이런 실증이 가능했던 건 소송, 감사, 데이터 접근권 같은 검증 인프라가 있어서다. 그런데 그 인프라마저 흔들리고 있다. EEOC (미국 고용평등위원회: Equal Employment Opportunity Commission)는 2025년 1월 AI 고용 지침을 웹사이트에서 내렸고, 지금까지 복구되지 않고 있다.
정부가 비운 자리를 시민단체가 메웠다. 미국시민자유연맹은 2024년 5월 한 채용 AI 벤더의 인성검사·화상면접 도구를 장애인·인종 차별 혐의로 연방거래위원회에 제소했다. 이 싸움은 지금도 진행형이다.
한국에도 비슷한 사례가 있었다. 2020년 정보인권단체들이 AI 채용을 진행한 공공기관 13곳에 정보공개를 청구했다가 대부분 거부당하자, 위법성이 뚜렷한 KOICA와 한전을 상대로 소송을 냈다. 2022년 5월과 6월, 두 사건 모두 법원은 원고 일부 승소로 판결했다.
KOICA는 2019년 AI 면접 도중 접속 오류로 면접이 끊긴 지원자에게 재응시 기회조차 주지 않고 불합격 처리해 감사원 주의 조치까지 받은 전력이 있다. 그런데도 오류 발생 내역이나 AI의 오차율을 묻는 청구에는 "그런 자료는 없다"고 답했다. 법원은 이런 정보를 공개하는 게 국민의 알 권리이자, 인공지능이 개인정보를 제대로 다루고 있는지 확인할 계기가 된다고 판시했다.
의미 있는 판결이지만 여기서 멈췄다. 후속 소송이나 판례 축적은 보이지 않는다. 물꼬는 텄는데 흐름은 아직이라는 뜻이다.
한국노동연구원이 2024년 구직자 1,055명에게 물었다. 44.2%가 AI 채용 과정에서 차별을 경험했다고 답했다. 40.3%는 "평가 기준이 공개되지 않아 신뢰할 수 없다"고 했다. 국내 한 대기업은 AI 면접이 남성에게 유리한 점수를 준다는 사실이 드러나 사용을 중단했다. 다른 기업은 특정 대학 출신을 우대한다는 논란에 휩싸였다.
미국은 400만 건의 실제 데이터를 뜯었다. 한국은 여전히 구직자에게 "어떻게 느꼈느냐"고 묻는 체감으로 AI채용 도구를 분석한다. 데이터 분석이 위한 검증 인프라 자체가 부재한 탓이다.
대체 누구를 위한 어떤 알고리즘이 돌아가고 있는지 설명되지 않은 상황에서 더 이상한 일이 벌어지기 시작했다. 지원자들이 명확한 평가 기준을 모르는 채, 짐작만으로 자신을 채용 알고리즘에 맞추기 시작한 것이다.
하버드비즈니스리뷰가 1만 3천 명을 조사했다. 지원자들은 AI가 평가한다고 생각하는 순간 분석적 능력을 강조했다. 공감·창의성·직관 같은, 탁월한 인재를 가르는 특성은 오히려 감췄다. 결과적으로 모두가 비슷해졌다. 채점표를 본 사람은 아무도 없다. 단지 "AI는 이걸 좋아할 것"이라는 짐작 하나로, 지원자 전체가 스스로의 역량과 개성을 깎아 비슷한 모양으로 만들고 있다.
한국도 예외가 아니다. 서울시는 청년 구직자에게 AI 역량검사를 무료로 체험하게 해주는데, 특강은 그 AI를 만든 회사가 직접 진행한다. 자신을 평가할 알고리즘을, 그 알고리즘을 만든 회사에게 배우는 셈이다. 취업 정보 사이트에는 AI가 표정·음성·언어·안면 혈류(이른바 'V4') 네 가지를 분석한다는 걸 알려주고, 이 네 가지에 맞춰 표정을 관리하고 시선을 고정하고 목소리 톤을 일정하게 유지하라고 코칭하는 글이 올라온다. 한국노동연구원의 정책 가이드라인조차 이 V4 판단을 제한해야 한다고 제안할 정도로 문제성이 제기되고 있다.
스탠퍼드 연구와 이 현상은 방향이 다르다. 하나는 "누가 걸러지는가"의 문제이고 다른 하나는 "어떤 사람이 되려 하는가"의 문제다. 하지만 원인은 같다. 기준을 모른 채 짐작으로 지원자를 재단한다는 것.
AI 채용 솔루션을 쓰는 기업은 빠르게 늘고 있다. 시장이 소수 솔루션에 몰릴수록 단일재배와 획일화는 동시에 자랄 조건을 갖춘다. 기업이 원하는 인재상을 구축하기는 커녕 체험이라는 명목 하에 평가 중간 값에 머무는 지원자를 만드는 교육과 훈련이 시행된다.
더 중요한 건 AI채용을 감사할 법이 부재 한다는 현실. AI 채용 시 알고리즘 활용과 평가 방식을 사전 고지하도록 하는 채용절차법 개정안은 2023년 국회 임기 만료로 폐기된 뒤 재발의를 반복 중이다. 2026년 시행된 AI기본법은 채용 AI를 '고영향 AI'로 분류할 수 있는 영역으로 지목했지만, 기업들은 정작 알고리즘을 영업비밀이라며 공개하지 않는다. 허무한 쳇바퀴 돌리기다.
이력서를 고쳐 쓰거나 면접에서 더 분석적으로 보이려 애써도 소용없다. 그 노력 자체가 문제의 일부다. 지금 필요한 건 불신도, 자기 검열도 아니다. AI채용 도구가 무엇을 어떻게 평가하는지에 대한 정확한 정보다. 그게 없는 한, 44.2%의 의심은 증명되지 않은 채 남을 수밖에 없다.
◇하민회 이미지21대표(미래기술문화연구원장) =△경영 컨설턴트, AI전략전문가△ ㈜이미지21대표 △경영학 박사 (HRD)△서울과학종합대학원 인공지능전략 석사△핀란드 ALTO 대학 MBA △상명대예술경영대학원 비주얼 저널리즘 석사 △한국외대 및 교육대학원 졸업 △경제지 및 전문지 칼럼니스트 △SERI CEO 이미지리더십 패널 △KBS, TBS, OBS, CBS 등 방송 패널 △YouTube <책사이> 진행 중 △저서: 쏘셜력 날개를 달다 (2016), 위미니지먼트로 경쟁하라(2008), 이미지리더십(2005), 포토에세이 바라나시 (2007) 등
