기업 채용 담당자가 AI를 활용하면 이력서를 검토할 때 편견이나 개인적 취향 등 영향을 받지 않고 공정하게 평가하며 의사결정 공평성과 일관성을 높일 수 있다는 견해가 있다. 실제로 AI를 채용에 활용하는 게 공정하고 바람직한 절차인지 활용할 경우 무엇에 주의해야 하는지 등에 대해 매시대학 연구팀이 설명해 눈길을 끈다.
국제비즈니스저널이 2023년 6월 발표한 채용에서의 AI 역할이라는 논문에선 이력서 선별, 비디오 면접 보조, 예측 분석, 소셜미디어 분석 등 AI를 활용한 채용 전략이 효율성 향상, 비용 절감 뿐 아니라 더 나은 채용 결과를 가져올 수 있다고 제시했다. 여기서 채용에서의 AI는 인간 편견을 배제하고 의사결정 공평성과 일관성을 높여 채용 절차 객관성과 효율성을 향상시킬 수 있다고 여겨진다.
반면 AI 때문에 편견이 오히려 강화될 수 있다는 견해도 있다. 컴퓨터과학 전문가는 이미지 생성 모델에서는 고정관념적 편견이 강화되는 경향이 있다고 지적한다. 이미지 생성 AI는 짧은 프롬프트로 이미지를 생성하기 때문에 인종, 성별, 직업 등에 대한 인구통계학적 고정관념이 대규모로 증폭된다는 논문도 있다. 또 AI가 생성한 콘텐츠를 AI가 재학습하면서 데이터를 오해하거나 소수자가 배제되는 현상이 발생한다는 연구 결과도 보고됐다.
매시대학과 퀸즐랜드 대학 등 연구팀은 인사 담당자 22명을 인터뷰해 채용에서 발생하는 2가지 편견을 확인했다. 하나는 고정관념 편견으로 이 직종이니 여성을 우선 선발하거나 이 비즈니스 팀에는 이런 경력을 가진 사람이 잘 맞을 것 같다는 식의 특정 그룹에 대한 고정관념에 따라 결정이 좌초되는 것이다. 대부분 의식적/무의식적인 차별적 사고가 포함되어 있다.
2번째는 자신과 비슷한 사람을 선호하는 편견이다. 채용 담당자는 자신과 유사한 경력이나 취미, 관심사를 가진 지원자를 선호하는 경향이 있다. 이런 편견은 채용 프로세스 공정성에 심각한 영향을 미치는 것으로 보이며 AI를 채용에 통합하면 해결될 것으로 기대되고 있다. 하지만 연구팀은 AI 트레이닝에 사용되는 과거 채용 데이터에 이런 편견이 포함되어 있기 때문에 완성된 AI 역시 왜곡된 상태라고 지적하며 이런 편견은 사회에 깊이 뿌리박혀 있다며 인간 주도와 AI 주도 채용 프로세스 모두에서 공정성을 확보하려면 뿌리 깊은 편견을 줄이기 위한 세심한 계획과 모니터링이 필요하다고 말했다.
연구팀은 또 AI 개발자 17명을 인터뷰해 채용 편견을 악화시키지 않고 줄일 수 있는 AI 채용 시스템 개발 아이디어에 대해 질문했다. 그 결과 인사 전문가와 AI 프로그래머가 데이터세트를 검토하고 알고리즘을 개발할 때 정보를 교환해 선입견에 의문을 제기하는 모델이 부상했다.
하지만 연구팀은 이 모델을 실현하기 어렵다고 지적한다. 조사 결과에 따르면 이런 모델을 구현하기 어려운 이유는 인사 담당자와 AI 개발자 사이의 교육, 직업, 인구통계학적 차이 때문이다. 인사 담당자는 전통적으로 인력관리와 조직 행동에 대한 훈련을 받지만 AI 개발자는 데이터 과학과 기술 기술을 보유하고 있다. 이런 차이는 효과적인 의사소통과 상호 이해 능력을 방해한다. 이런 배경 차이는 협업할 때 오해와 불일치로 이어질 수 있다.
따라서 AI 채용 시스템을 구축하려면 먼저 인사 전문가에게 시스템 개발과 AI에 중점을 둔 훈련 프로그램을 적용해야 한다. 동시에 AI 개발자에게도 채용에 관한 정보를 충분히 학습시켜 양측간 격차를 메우고 편견을 파악하고 줄이기 위한 전략을 세울 수 있다.
또 편견이 줄어든 적절한 데이터세트를 개발하고 이를 AI에 학습시키는 것도 향후 시스템에 필수적이다. 인사 담당자와 AI 개발자는 협력해 AI 주도 채용 프로세스에서 사용되는 데이터가 다양하고 여러 인구통계 그룹을 대표하는지 확인해야 한다.
마지막으로 각국은 채용에서의 AI 사용과 관련해 신뢰 구축과 공정성 확보에 도움이 되는 가이드라인과 윤리 기준을 수립해야 한다. 또 각 기관은 AI 주도 의사결정 프로세스 투명성과 설명 책임을 촉진하는 정책을 명확히 하고 채용에 참여하는 이들에게 공개해야 한다.
연구팀은 이런 단계를 밟으면 인사 담당자와 AI 개발자 모두의 강점을 활용한 보다 포괄적이고 공정한 채용 시스템을 구축할 수 있다고 결론지었다. 관련 내용은 이곳에서 확인할 수 있다.