굿하트의 법칙(Goodhart Law)

어떤 행동을 측정하기 위해 설계된 통계가 특정해야 할 행동을 바꾸는 경우도 있다. 다시 말해 지각이 있는 인간은 자신이 연구되고 있음을 인식하면 관찰자의 욕구를 충족시키거나 교묘히 빠져나가기 위해 다르게 행동한다. 이는 알고리즘이 어떻게든 우리와 독립된 존재라는 위험한 주장을 뒤집는다. 알고리즘은 인간이 만들었을 뿐만 아니라 사람들이 스스로 감시당하고 있다는 사실을 알지 못할 때 효과가 있다.

어떤 지표가 정책의 목표가 되면 그것은 더 이상 좋은 지표가 아니라는 경제학 용어가 굿하트의 법칙(Goodhart Law)이다. 굿하트의 법칙은 경제지표의 통계적 규칙성은 정책목표가 되어 규제하는 순간 사라진다는 것이다.

1983년 <US 뉴스>는 예비 대학생들이 인생에서 가장 큰 결정 중 하나인 대학을 결정하는데 도움이 될 것으로 미국 대학의 연간 순위를 발표한다. 신입생의 평균 SAT점수, 입학률과 졸업률, 학생-교사 비율 등 15개의 대리 지표를 활용해 순위를 매겼다. 그러나 이 순위는 본래 측정하려던 제도에 재앙적인 영향을 끼쳤다. 대학들은 15개의 대리 지표를 향상시켜 순위를 높이려고 노력했다. 대학들은 입학 점수를 높이기 위해 입학생들에게 SAT재시험을 치르게 했고, 재시험을 보지 않았다면 불합격했어야 할 학생들을 합격시켰으며 몇몇 학생들은 거짓으로 시험 점수를 제출하다 적발되었다. 사우디아라비아의 킹 압둘아지즈대학은 평판이 좋은 수학 교수들을 3주 임기로 고용한 후 그들이 발표한 논문에 대한 공로를 주장함으로써 자랑스럽게도 2014년 세계 대학 순위에서 케임브리지와 MIT를 앞질렀다.  학술지에 해당 교수가 발표한 논문이 얼마나 자주 인용되는지는 대학 순위를 결정짓는 핵심 지표였다. 이러한 왜곡 효과는 통계학자들 사이에서 경고 섞인 원칙으로 남아 있다. 1975년 경제학자 찰스 굿하트(Charles Goodhart)가 처음 선언한 이 법칙은 굿하트의 법칙(Goodhart Law)으로 알려지게 되었다.