상사와의 관계를 고민하는 노동자 중에는 상사가 인간이 아니라 알고리즘이나 AI라면 좋겠다는 생각한 적이 있을지도 모른다. 실제로 최근에는 말단 노동자 뿐 아니라 관리직도 자동화가 진행되고 있으며 우버 드라이버와 우버이츠 배달원은 기본적으로 알고리즘 지시에 따라 노동하고 있다. 이런 알고리즘 상사가 일으키는 문제에 대해 설명한 글이 있어 눈길을 끌고 있다.
최근에는 소프트웨어 알고리즘이나 AI가 채용 후보자 스크리닝, 태스크 할당, 노동자 퍼포먼스 평가, 해고하는 직원 결정 등 관리직 태스크를 담당하는 게 늘고 있다고 한다. 실제로 아마존에선 일부 배송 차량에 AI 감시 카메라를 탑재해 운전자 일시불정지 등 안전상 문제를 검출하고 있다는 보도도 나온다. 하지만 이 시스템에는 오작동이 많이 있다.
따라서 AI의 잘못된 판단이 급여 평가에 영향을 미치는 것에 대해 불만의 목소리도 높아지고 있다. 관리 태스크를 알고리즘에 맡기고 인간이 시간이 많이 소요되는 태스크를 자동화하면 기업에 있어 상당한 비즈니스 비용을 절감할 수 있다. 예를 들어 배차 서비스를 전개하는 우버 직원 수는 수만 명이지만 드라이버나 배달원을 포함하면 500만 명에 달하는 말단 노동자가 존재해 이들을 인간 손으로 관리하는 건 곤란하다. 이 때문에 우버는 이를 알고리즘에 맡겨 방대한 인원수 관리에 성공하고 있다.
또 AI 시스템은 비즈니스 최적화에 효과적이다. 우버는 지역별 이용 상황과 공차 수를 실시간 감시하고 수요와 공급 균형에서 최적의 이용 요금을 도출하는 다이내믹 프라이싱이라는 가격 변동 시스템을 도입하고 있다. 이는 알고리즘이 승객 수요를 실시간 모니터링할 수 있기 때문에 가능한 시스템이다.
하지만 알고리즘에는 다양한 문제가 있는 것도 지적된다. 그 중에서도 저널리스트나 연구자에 의해 화제가 되기 쉬운 게 알고리즘에 존재하는 바이어스다. 예를 들어 아마존이 한때 채택했던 채용 후보자 이력서를 평가하는 AI 시스템은 남성을 선호하고 여성을 부당하게 저평가하는 바이어스가 있었기 때문에 파기됐다고 한다.
그 밖에도 대량 학습 데이터에 의해 학습된 기계학습 알고리즘은 도대체 어떤 프로세스로 결과를 출력하고 있는지가 불투명하다는 점도 문제다. 예를 들어 알고리즘 상사가 A라는 직원을 해고하겠다는 결정을 내리면 결정에 바이어스가 포함되어 있지 않은지 여부를 알기 어렵다. 해고 과정 내역을 모르면 직원이 이 해고는 부당하다고 주장해 권력 남용으로부터 자신을 지키기가 어려워질 것이라는 지적이다.
또 알고리즘이 고용 관계에 도입되면서 인간 상사가 갖고 있어야 하는 부하에 대한 배려가 없어져 버리는 것도 우려하고 있다. 물론 모든 상사가 부하에게 사려 깊게 접하고 있는 건 아니지만 적어도 알고리즘 상사가 배려를 가질 가능성은 제로다. 효율을 추구하는 알고리즘은 육아에 쫓기는 직원이나 취직한지 얼마 안되어 일에 익숙하지 않은 신입 직원에 대해 관용이 아니라 병이나 장애에 시달리는 직원을 찾아 해결책을 찾아내려고 하지도 않는다.
기업은 관리 알고리즘에 큰 이익을 발견할 수 있지만 이익을 올릴 필요성은 직원 고통을 허용하는 이유가 아니라는 것. 개발자, 연구자, 노동 노조, 정치인은 알고리즘이 직원에게 미치는 영향을 고려할 필요가 있다는 주장이다. 관련 내용은 이곳에서 확인할 수 있다.