인간은 불공평한 AI 결정에 민감하게 반응한다

현대 사회에선 직원 태스크 관리나 바이트 시프트 조정 등 여러 장면에서 알고리즘을 이용한 할당이 이뤄지는 경우가 있다. 지금까지 이런 할당이 이뤄진 것에 의한 인간 관계에 대한 영향은 불명했지만 테트리스를 이용한 실험에 의해 사람은 비록 AI에 의한 할당이라도 불공평한 취급이 이뤄지고 있다고 한다.

예일대학 연구팀은 테트리스 실험에서 플레이어 2명이 협력해 스테이지를 깨도록 개조하고 턴수를 파트너보다 많은 90%, 같은 50%, 더 적은 10%로 해 반응을 확인했다. 실험 결과 턴수가 적었던 플레이어는 파트너 턴수가 자신보다 많다는 불공평함을 강하게 인식하고 있다는 걸 알게 됐다. 이 결과 자체는 연구자 예상대로였지만 턴 할당을 인간이 하고 있는지 AI가 하고 있는지에 관계없이 느끼는 감정은 같았다는 점은 연구자를 놀라게 했다고 한다.

더구나 할당을 AI가 할 때 많은 턴을 얻은 플레이어는 파트너 우위성이 낮다고 느꼈다는 걸 알게 됐다. 할당을 받은 사람이 할 때에는 우위성에 대한 인식에 영향은 없었다고 한다. 이런 영향은 연구자가 기계 할당 행동(Machine Allocation Behavior)이라고 부르는 것으로 이미 확립된 자원 할당 행동(Resource Allocation Behavior)과 마찬가지로 할당 결정에 기초한 사람이 나타내는 관찰 가능한 행동이라고 한다.

연구팀은 그 중에서도 AI가 한 번만이 아니라 지속적인 의사 결정을 하는 경우 AI에 의한 의사 결정이 사람들에게 미치는 영향에 대한 더 많은 연구로 이어질 것으로 기대하고 있다고 한다. 또 공정성은 게임 플레이나 퍼포먼스 향상으로 이어지는 건 아니며 균등하게 턴을 할당한 결과 불균등하게 할당했을 때보다 평균적으로 나쁜 점수였다고 밝혔다. 관련 내용은 이곳에서 확인할 수 있다.