당신 보스가 금속 빤쓰를 입을 때

기계가 인간의 노동과 판단을 대신하는 것은 - 옳고 그름에 대한 판단을 잠시 유보한다면 - 기업의 효율성과 생산성 향상에 기여할 거라는 가정 하에서 피할 수 없는 일이다.

이전의 “First Machine Age"에서 기계가 상대적으로 단순하고 반복가능한, 즉 Computerization이 가능한 일들을 자동화하면서 인간의 노동과 (초보적인 수준의 논리적) 사고을 대체해 왔다면 우리 앞에 성큼 다가온 “Second Machine Age"에서는 기계가 사람의 판단을 대신할 것이다.

"The Second Machine Age”라는 책(아래 그림)에서는 두번째 기계의 시대를 아래처럼 두 단계로 나누는데

• stage II-A: 사람이 자신들이 아는 것을 기계에게 학습시키는 단계
• stage II-B: 기계가 스스로 학습하여 지식과 재능을 축적해가는 단계

A단계는 이미 이론이나 그 응용에서 높은 성숙도에 이르렀고 B단계도 최근 의미있는 결과들이(특히 deep learning 분야에서) 빠르게 나오고 있다.

그렇다면, 가까운 미래에 사람과 기계가 함께 일해야 한다면 최종 의사결정은 누가 내려야 할까? 혹은, 사람과 기계 중 누가 주요한 의사결정에 더 큰 영향을 미쳐야 할까? 정답은 "더 좋은 결정을 내릴 수 있는 것"이겠지만 실제는 그렇게 간단하지가 않아 보인다.
워튼대학의 2014년 실험결과를 살펴보자.

피실험자에게 과거 MBA에 합격한 학생들의 입학관련 서류를 보여주고 실제 학업 성과를 예측하도록 요청했다. 피실험자들은 본인들의 예측이 맞으면 금전적 보상을 받기로 하였고 자신이 직접 예측(판단)을 하든지 아니면 알고리즘이 내린 예측결과를 따를 수 있었다.
해당 실험에서 피실험자들은 알고리즘이 사람보다 더 정확하게 학업 성과를 예측한다는 사실 여부와 관계없이 대부분 본인의 판단을 따랐는데 이렇게 기계의 판단이 우수한 경우에도 기계의 판단을 좇는 걸 회피하려는 사람의 경향을 알고리즘 회피(algorithm avoidance) 성향이라고 한다.

객관적으로 사람보다 기계가 더 정확한 예측을 하는 사실을 알고도 자신이나 타인의 판단을 따르는 이러한 Algorithm Avoidance의 가장 큰 이유는 기계는 실수를 통해 배우지 못하지만 사람은 실수를 통해 배운다는 크게 그릇된 믿음에 근거하고 있다.

하지만 현실을 냉정히 바라보면 사람의 뇌 속에 구축된 예측모형은 아주 완고하여 좀체로 바뀌지 않는다. 그 근본 이유는 사람의 뇌가 새로운 데이터를 반영해서 더 좋은 의사결정을 내리는 방향으로 진화하지 않고 생존과 번식에 유리하도록 안정적인 - 즉 본인이 이해하고 있는 과거/경험과의 유사성/연속성이 높은 - 예측을 하도록 진화했기 때문이다. 반면 기계는 새로운 현실을 반영한 데이터를 속속 모형에 반영하여 예측모형을 지속적으로 개선할 수 있다.

사람의 알고리즘 회피 성향을 극복할 대안이 없는 것은 아니다. 피실험자들이 자신의 판단이나 기계의 판단 중 하나를 선택하라고 강요받는 상황에서는 꿋꿋하게 자신의 판단을 따랐지만 기계의 판단을 참고해서 자신이 직접 결정하라고 요청받은 상황에서는 대부분이 기계의 판단을 십분 참고해서 더 좋은 선택/예측을 했다고 한다. 아마도, 아직은 인류가 기계에게 통제력을 행사하고 있다는 믿음을 포기할 수 없기 때문이라고 생각한다.

철학자 후설이 주창한 개념 중 "판단 중지"라는 것이 있다. 후설에 따르면 진실을 파악하려면 무엇이 진실인지 판단하는 마음부터 깨트려야 한다. 인간의 마음은 이미 그릇된 "선험적 판단"에 발목잡혀 있으니 진실을 보려면 모든 판단을 중지하고 세계를 있는 그대로 살펴야 한다고 한다. ("판단 중지"가 힘들 것 같으면 그냥 기계에 의지하는 편도 좋겠다.)

그래서, 당신은 금속 팬티를 입은 보스를 맞을 준비 되셨나요?

(HBR 2015년 6월호 특집 기사를 읽고 정리한 생각임을 밝힙니다.)