소통 언어로서의 수학

SAMSUNG CSC

<수학의 정석>의 초판이 발행된 지 딱 50년이 되었다고 한다. 그 동안 그 책은 4천5백만부가 팔려서 우리나라에서 성경 다음으로 인기 있는 책이라는 명성을 얻었다. 심지어 어떤 비평가는 모 중앙 일간지의 ‘내 인생의 책’이라는 컬럼에 그 책을 올리기도 했다.

나는 스무살 때 어느 작은 학원의 단과반에서 <수학 1정석>을 가르친 인연도 있다. 그러나 나는 <수학의 정석>에 그렇게 후한 점수를 줄 수 없다. ‘정석’이라는 걸맞지 않은 이름으로 우리나라 수학 교육의 방향을 오도하는데 일조했다고 생각하기 때문이다.

<정석>은 우리나라의 문화에 수학이 계산을 하는 도구라는 인식을 뿌리박게 하는데 기여했다(심지어 수학을 암기 과목으로 만들었다는 의심도 있다). 그것은 수많은 개인들에게는 물론이고 국가적으로도 불행한 일이었다.

수학은 다른 더 중요한 얼굴을 가지고 있기 때문이다. 소통의 도구 혹은 하나의 언어로서의 수학이다. 수학은 신(god)의 언어라는 갈릴레오의 믿음까지는 아니더라도 동서양을 막론하고 뛰어난 인류의 스승들은 수학이 우주의 질서를 이해하는데 훌륭한 도구라는 사실을 의심하지 않았다.

<정석>으로 대변되는 우리나라의 수학 교육은 학생들로 하여금 그 점을 깨닫게 하는 데 완전히 실패했다. 사람들의 일상에서, 그리고 일상적 대화에서 수학이 얼마나 사용되지 않는가가 그 사실을 웅변적으로 증명한다. 수학은 영어, 한문, 일본어는 물론이고 프랑스어나 독일어만큼도 사용되지 않는다.

내가 재직하는 학과와 단과대학 졸업생 중 상당수가 광고업계로 진출한다. 광고업계에서는 “어떤 사용자가 내 클라이언트의 광고를 클릭할 가능성이 얼마나 될까?”는 매우 중요한 질문이 된다. 예를 들어 내가 수업시간에 어떤 학생으로부터, “교수님, 어떤 인터넷 사용자가 특정 광고를 클릭할 가능성을 어떻게 예측할 수 있을까요?”라고 질문을 받았다. 과연 내가 수학을 사용하지 않고 그 질문에 명쾌하게 답할 수 있을까?

이렇게 답할 수 있을 것이다.

“광고를 클릭할 확률의 로짓(logit)을 예측하는 로지스틱 회귀모형을 구성하고, 훈련데이터세트로 그 모형의 모수(parameters)를 구하면 가능하다.”

그러면 학생들이 고개를 끄덕거릴까? 결코 아니다. 학부는 물론이고 대학원 수업에서도 그런 대답은 학생들을 혼란에 빠트릴 것이다.

우리가 궁금한 것은 어떤 사용자가 우리의 광고를 클릭할 것인가 말것인가이기 때문에 그것은 범주적 변수(categorical variable)이고, 그 변수는 1(클릭함)과 0(클릭하지 않음)이라는 값(범주)를 가질 것이다. 그러면 수학적으로 이렇게 표현될 수 있다.

광고를 클릭할 확률()은 라는, 독립변수들()의 좀 복잡한 선형함수로 나타낼 수 있다.  여기서 는 지수함수를 가리킨다. 승산(odds)이라는 개념을 이용하면 이 식을 좀 더 간략히 나타낼 수 있다.

좌변은 광고를 클릭할 확률광고를 클릭하지 않을 확률로 나눈 승산(odds)이다. 광고를 클릭할 승산은 독립변수들의 영향을 선형으로 더한 지수함수이다. 여기서 양변에 log를 취하면 아래와 같다.

좌변을 로짓(logit)(혹은 승산의 자연로그, natural logarithm of the odds, 간단히 log-odds라고 부른다)이라고 부른다. 종속변수로 로짓으로 바꾸니 우리에게 익숙한 회귀 방정식(regression)이다. 만약 우리에게 이 광고에 관해 축적된 데이터가 있다면 와 를 어렵지 않게 추정할 수 있을 것이다. (참고로, 로지스틱 회귀(logistic regression)은 역로짓 함수(inverse-logit function)을 사용한다.)

좀 복잡해 보이지만 이 전개에는 고등학교 수준의 수학밖에 사용하지 않았다. 사실 나의 수학 실력도 고등학교 수준을 별로 벗어나지 않는다. 그나마도 40년 전에 배운 수학이다.

우리 사회에 매스포비아(math-phobia: 수를 두려워하는 사람)가 너무 많다. 우리 교육이 매스포비아를 양산하고 있는 것이다.

우리 사회는 빠른 속도로 수학과 통계학을 이용하는 기술 기반으로 바뀌어 간다. 그런데 우리의 학교 교육은 수학 ‘문맹자’를 양산하고 있다.

(Bayes 학습)(9) Monte Carlo simulation

SAMSUNG CSC

몬테카를로(Monte Carlo) 시뮬레이션을 공부하기 위해 30년 전 대학원에서 사회통계학을 배울 때 쓰던 교과서를 펼쳤다. 섹션 제목이 빨간 색연필로 둘러져 있다. “몬테카를로 방법은 크게 유용할 것입니다.”라는 Miller McPherson 교수의 목소리가 생생하게 들리는 듯하다.

통계학에서 몬테카를로 시뮬레이션은 무엇보다 우리가 구하려고 하는 확률변수의 표집분포(sampling distributions)를 특정하는데 사용된다. 즉, 확률변수의 표집분포가 지닌 평균과 표준오차를 구하는데 사용된다.

우리가 구하려고 하는 양(quantity)을 확률변수 의 기대값, 즉, 으로 놓자. 그리고 의 분포로부터, 독립적이고 무작위로,  (표본의 크기가 )을 생성하여, 다음 식처럼 그 값들의 평균을 취하여  의 추정치로 삼는다.

통상 는 확률변수 의 함수이다.  이 평균을 계산할 수 있는 양이면 몬테 카를로를 적용할 수 있다. 몬테 카를로 시뮬레이션의 핵심적인 논리적 기반은 대수의 법칙(the law of large numbers)이다. 수학적으로 아래와 같이 표현할 수 있다.

즉, 이 무한대가 될 때(표본 추출을 무한히 반복할 때) 오차의 절대값이 0일 확률이 1이다. IID(independent and identically distributed: 동일한 분포라는 말은 표본의 각 개별적인 관찰이 동일한 평균과 분산의 모집단을 갖는다 의미. 복원추출을 하면 그 조건을 만족하게 됨) 표집에서  은 확률변수이며, 그 자체가 평균과 분산을 가지고 있다.

의 평균은  이고, 의 분산(variance)은  이다(여기서 은 표본의 크기이다).  중심 극한 정리(CLT)로부터, 우리는 오차 가 평균이 0이고, 분산이  인 정규분포에 근사함을 안다. 오차의 크기는 표본의 갯수가 아니라 표본의 크기에 달려 있다. 표본의 크기가 5()인 표본을 100번 뽑는 대신 표본의 크기가 20()인 표본을 100번을 뽑으면 오차가 줄어들고 추정이 더욱 정교해진다. 동일한 크기의 표본()을 100번이 아니라 1,000번을 뽑으면 표집분포가 더욱 매끄러워질 뿐, 추정이 더욱 정교해지지는 않는다. 오차와 분산은 추정의 정교함(precision)을 알려준다. 몬테카를로 표집에서 오차 제곱의 평균은 인데, 를 아는 경우가 거의 없으므로 표본값들로부터 추정한다. 아래 둘 중 어느 것으로 추정해도 된다.

혹은,

(이상은 Stanford 대학교 통계학과의 Art Owen 교수가 인터넷에 올려놓은 책 원고의 제2장(Simple Monte Carlo)을 크게 인용하였다.)

Wonnacott & Wonnacott(1985)의 Introductory Statistics(4th ed.)에 나온 사례를 가지고 직접 몬테 카를로 시뮬레이션을 수행해서 모집단의 평균()과 분산()을 추정해보자.

미국의 미들타운(Middletown)이라는 도시에 살고 있는 18세부터 24세까지의 젊은이 100명에 대해 그들이 희망하는 가족의 크기를 추정해보자. 다음 표는 실제 조사 결과를 보여준다.

                                         모집단 분포
                                                                                        상대빈도
x 빈도 p(x) 일련번호
0

1

2

3

4

5

6

7

2

6

49

22

15

3

2

1

.02

.06

.49

.22

.15

.03

.02

.01

01-02

03-08

09-57

58-79

80-94

95-97

98-99

100

N = 100 1.00

크기가 5명인 표본을 뽑아서 모수를 추정해보자. 난수표(table of random digits)를 이용해서 100 이하의 수를 무작위로 뽑았더니, 77, 94, 30, 05, 39이다. 그것을 일련번호로 삼아서 그에 해당되는 희망 자녀수를 위의 표에서 찾아보면, 3, 4, 2, 1, 2이다.

일련번호 희망 자녀수 X
77

94

30

05

39

3

4

2

1

2

이제 동일한 방법으로 5명의 표본()을 반복해서 뽑는다. 표본을 뽑을 때마다 평균()을 계산한다. 예컨대 이렇게 1천번을 반복하면 우리는 1,000개()의 를 얻게된다. 여기서 의 의미가 이중적이 됨에 유의할 필요가 있다. 은 개별 표본(5)의 크기가 아니라 표본의 갯수(1,000)이면서 동시에 평균()들로 구성된 표본(그것이 바로 표집분포를 구성한다)의 크기(1,000)이다. 아래 공식처럼 1,000개 의 평균을 계산하면 의 추정치()를 얻는다.

그런 다음 분산 은 아래 식을 가지고 추정할 수 있다.

오늘날 난수표와 손을 사용해서 몬테카를로 시뮬레이션을 하는 경우는 없을 것이다. Random.org에 가면 손쉽게 원하는 난수(random digits)를 얻을 수 있고, SPSS와 같은 통계 패키지도 몬테카를로 시뮬레이션 기능을 제공하고 있다. 자, 몬테카를로에 대해서는 이 정도로 학습하고 다음에는 MCMC(Markov Chain Monte Carlo)에 대해 알아봐야겠다.

참고문헌

Owen, Art. 2009-2013. Chapter 1-2. 책 초고.

Wonnacott, Ronald J. & Thomas H. Wonnacott. 1985. Introductory Statistics, 4th ed. John Wiley & Sons.

수학 공부의 즐거움

intro_math_sociology

1974년 대학교 1학년 2학기에 대학 수학 과목을 수강했다. 행렬과 벡터, 미적분을 배워야 한다는 학과장 교수님의 강제적 요구에 따라 정치외교학과 학생임에도 어쩔 수 없이 그 과목을 들어야 했다. 나중에 국제정치 이론 과목을 수강하면서 보니 게임이론을 이해하는데 행렬(matrix)에 관한 지식이 반드시 필요했다.

그리고 40년이 넘게 흘렀다. 다시 수학 공부를 한다. 남이 시켜서 하는 것이 아니고 새로운 세상의 문법을 이해하겠다는 순전히 자발적인 동기에 의해서이다.

조금 어렵고 낯설기는 하지만 그런대로 할만 하다. 새로운 분야를 시작하면 누구나 어려움을 겪기 마련이다. 다행히 어렵다는 느낌보다는 재밌다는 느낌이 더욱 강하다.

공부하는 데 세상이 참으로 편리해 졌다. 웹사이트와 유튜브를 뒤지면 온갖 학습 자료가 나오니 못할 공부가 없다.

미국에서 사용되는 수리 사회학(mathematical sociology) 교재를 보니(사진 참조) 내가 재직 중인 학과에도 수리 사회학 과목을 개설하면 어떨까 하는 생각이 든다. 우리 학생들이 배우기에도 별로 어렵지 않을 것 같다. 3학년 과목으로 개설하면 어떨까.

수학이나 통계학 과목은 특히 담당 교수의 역할이 큰 것 같다. 배우는 데 있어 어차피 다소간의 고통은 피할 수 없겠지만 좋은 선생을 만나면 고통이 최소화되고 즐거움이 커진다. 결국 누가 그 과목을 담당하는가가 문제이겠다. (2016/03/17)

(Bayes 학습)(8) 마르코프 연쇄-(3)

이전에 올린 마르코프 연쇄에 관한 글에서 ‘정칙 마르코프 연쇄(regular Markov chains)’에 대해 언급했다. 널리 사용되는 마르코프 연쇄 유형에는 세 가지가 있다. 그 중 하나가 정칙 마르코프 연쇄이고, 다른 두 가지는 ‘에르고딕(ergodic) 마르코프 연쇄’‘흡수(absorbing) 마르코프 연쇄’이다.

알기 쉽게 설명하면, 시간의 흐름에 따라 어떤 객체(물체, 사람, 정신, 기체, 동물, 국가, 기업 등)가 한 상태(state)에서 다른 상태(state)로 이전할 때, 새로운 상태가 바로 직전의 상태에만 의존하면, 우리는 그러한 현상이 마르코프 연쇄의 모형을 따른다고 규정할 수 있다.

그런데 마르코프 연쇄 방식의 상태 이전(state transition)에 대해 흥미 있는 두 가지 가능성을 상상해 볼 수 있다. 하나는 가능한 모든 상태들의 공간(즉, 상태 공간, state space)에서 어느 상태로부터 다른 모든 상태로의 이전이 가능한(단 한 번의 이전에 그렇게 되지는 않더라도) 경우가 있을 것이고, 다른 하나는 일단 어느 상태에 들어가면 그 상태에서 다시는 빠져나오지 못하는 경우가 있을 것이다. 전자가 에르고딕 마르코프 연쇄(ergodic Markov chains)이고, 후자가 흡수 마르코프 연쇄(absorbing Markov chains)이다.

이전 글에서 소개한 정칙 마르코프 연쇄는 에르고딕 마르코프 연쇄의 부분집합이다. 추이행렬(transition matrix)의 거듭제곱이 오직 양의 원소들(positive elements)만 가질 때 그러한 마르코프 연쇄를 정칙 마르코프 연쇄라고 부른다.

상태의 수가 유한할(finite) 때, 다음 두 가지 조건을 충족하면 마르코프 연쇄는 에르고딕(ergodic)하다.

  1. 마르코프 연쇄가 기약적(irreducible)이어야 한다. 마르코프 연쇄가 기약적이려면 상태 공간에 흡수 상태(absorbing state)가 없어야 한다. 흡수 상태란 그 상태에 들어가면 빠져나올 수 없는 상태를 말한다. 흡수 상태가 없으면 더 이상 줄일 수 없다(irreducible)고 표현한다. 한 상태에서 어떤 다른 상태로 언젠가 갈 수 있으며, 그 경우 그 상태들이 하나의 집단을 이루고 있는 것으로 간주될 수 있기 때문이다.  기약적(irreducible) 마르코프 연쇄는 수학 기호를 사용하여 다음과 같이 표현할 수 있을 것이다.

즉, 모든  쌍(pair)에 대하여 마르코프 연쇄가, 초기상태(에서 궁극적으로() 어떤 상태(에 도달할 확률이 양이 되는 경우 이를 기약적(irreducible)이라고 말한다. 상태 공간에 흡수 상태가 하나라도 있으면 당연히 기약적이 될 수 없을 것이다.

  1. 기약적인 마르코프 연쇄(irreducible Markov chain)가 비주기적(aperiodic)이어야 한다. 어느 상태에서 일정한 주기(period)로 그 상태로 돌아가면 주기적(periodic)이라고 부르고, 같은 상태로 돌아오는 모든 시간(주기)들의 최대공약수(gcd)가 1뿐이면 공약수가 없으니 비주기적(aperiodic)이라고 부른다. 이를 아래와 같이 수학적으로 표현할 수 있을 것이다.

즉, 만약 모든 에 대하여, 초기 상태가 일 때 다시 에 도달할 확률이 양수이고, 거기에 해당되는 모든 시간의 최대공약수(gcd)가 1이면(즉, 그 시간들의 배열이 1의 배수, 2의 배수, 3의 배수….중 1의 배수에만 모두 포함되면) , 마르코프 연쇄가 비주기적(aperiodic)이라고 한다.

에르고딕 (마르코프 연쇄) 정리(Ergodic Markov Chains Theorem)는 다음과 같다. 에르고딕 마르코프 연쇄에 대해서 가 성립하는 유일한 확률 벡터 가 존재하며, 는 엄격하게 양수이다(정칙 마르코프 연쇄에서 보았던 정상상태의 공식이다). 를 충족하는 어떤 행 벡터(row vector)도 의 배수이다. 를 충족하는 어느 열 벡터(column vector) 도 상수 벡터(constant vector)이다.

에르고딕성(ergodicity)은 여러 학문 분야에서 분석적 잠재력이 크게 평가되고 있다. 년 전에는 일군의 통계물리학자들이 이 개념을 원용해서 우리나라에서 주요 성씨들의 분포를 에르고딕 분포와 비에르고딕 분포로 분류하기도 했다. 그들은 김해 김씨처럼 전국에 퍼져 있는 성씨는 에르고딕 분포라고 분류하였으며, 학성(울산) 김씨처럼 특정 지역에 집중되어 있는 성씨는 비에르고딕 분포로 분류하였다(참고: Matchmaker, Matchmaker, Make Me a Match, 2014)

흡수 마르코프 연쇄도 에르고딕 마르코프 연쇄 못지 않게 널리 응용된다. 한번 들어가면 빠져 나오지 못하는 상태를 흡수 상태(absorbing state)라고 하며, 마르코프 연쇄가 하나 이상의 흡수 상태를 포함하고, 유한한 수의 단계를 거쳐 비흡수 상태에서 흡수상태로 갈 수 있으면 흡수 마르코프 연쇄(absorbing Markov chains)이다. 마르코프 연쇄의 흡수 상태를 행렬로 표현하면, 그 상태에 대응하는 행이 주대각선(main diagonal)의 값이 1이고, 다른 모든 값이 0이다.

그런데 흡수상태(absorbing state)와 정상상태(stationary state)를 혼동하지 않아야 할 것이다. 흡수상태란 빠져나올 수 없는 상태를 말하는 것이지, 정상상태처럼 추이행렬의 거듭제곱이 극한 행렬(limiting matrix)에 근사함(approach)을 함축하지는 않는다.

그렇다고 흡수 마르코프 연쇄에 극한 행렬이 없는 것은 아니다. 만약 가 흡수 마르코프 연쇄의 추이행렬이고, 가 표준적인 형식을 갖추고 있다면(in standard form), 다음과 같은 조건을 만족하는 극한 행렬  가 존재한다. 수식으로 표현하면,

흡수 마르코프 연쇄의 추이행렬은 다음과 같은 표준형(standard form)으로 표시된다.

standard_form

Abs.는 흡수 상태, NA는 비흡수 상태를 나타낸다. 모든 흡수 상태를 모든 비흡수 상태들보다 앞에 위치시킨다. 행렬을 4분하면, 좌상의 제1사분면이 단위행렬(Identity Matrix)이고 우상의 제2사분면은 모두 0으로 채워지며, 좌하의 제3사분면의 sub-matrix를 R, 우하의 제4사분면의 sub-matrix를 Q로 표시한다.  예컨대,

여기서 좌상의 제1사분면은 단위행렬 이며, 제2사분면은 에서 보듯이 모두 0으로 채워지고, 제3사분면의 은 R, 제4사분면의 은 Q이다.

이 R과 Q가 중요하다. 그것들로부터 극한행렬 을 구할 수 있다. 위에서 보듯이

standard_form

이다. 위의 사례를 가지고 극한행렬을 계산해 보면, 다음과 같이 나올 것이다.

공식을 적용하지 않고도 표준형의 추이행렬

를 거듭제곱해가면, 아마도  혹은  정도에서는 동일한 극한행렬을 얻을 것이다.

1986년 사회연결망 이론가인 John Skvoretz는 Thomas Fararo와 함께 사회연결망에서 지배 위계(dominance hierarchies)의 형성을 모델링했다. (1986년 나는 University of South Carolina 대학원 사회학과에서 Skvoretz 교수로부터 사회이론 수업을 들었다. 그는 저명한 수리사회학자였다.) 그들의 주장은 다음과 같다.

i가 k를 공격했는데, j가 옆에서 그것을 목격했다. 처음에는 세 사람 사이에 지배 관계가 없었다. i가 k를 지배할 확률이 이고, i가 j를 지배할 확률이 이며, j가 k를 지배할 확률도 라면, 장기적으로 세 사람 사이에는 지배적인 관계가 되던지, 아니면 상호 견제하는 관계라는 두 가지의 흡수 상태에 도달하게 될 것이다. 그리고 각각의 흡수 상태에 도달할 확률은 와 에 달려 있다. (자세한 내용은 Fararo, T.J. and J. Skvoretz. 1986. “E-State Structuralism: A Theoretical Method.” American Sociological Review 51: 591-602을 참조).

이제 베이즈 추론에 사용되는 MCMC (Markov Chain Monte Carlo) 시뮬레이션을 이해하는데 필요한 마르코프 연쇄에 관한 기초 지식을 충분히 얻었다고 판단된다. 다음에는 몬테 카를로 방법(Monte Carlo Methods)에 관해 알아봐야겠다.

<참고 문헌>

Grinstead, Charles M. & J. Laurie Snell. 1997. Introduction to Probability, 2nd revised ed. American Mathematical Society. Chapter 11. (마르코프 연쇄에 관해 체계적인 이해를 도와주는 아주 좋은 문헌임. 책 전체가 pdf 파일로 공개되어 있음)

Fararo, T.J. and J. Skvoretz. 1986. “E-State Structuralism: A Theoretical Method.” American Sociological Review 51: 591-602

마르코프 연쇄에 관해 두 사람의 유튜브 강의가 아주 유용했다.

PatrickJMT   Markov Cahins (Part 1~9)

Brandon Foltz의 Finite Math의 마르코프 연쇄에 관한 강의 여러 편. 

(Bayes 학습)(8)대학에서 성공적으로 공부하려면….

앞 포스팅에서 학습한 마르코프 연쇄의 정상 상태를 현실 문제에 적용해 보자.

대학 신입생들은 대체로 두 가지 이유로 전공을 선택한다. 평소의 관심 혹은 수능 성적이다.

대학 입학 후 첫 학기가 끝났을 때 신입생들의 전공 관심 정도는 어떻게 될까? 어떤 요인이 주로 영향을 미칠까?

먼저 대학에 들어올 때의 전공 관심 정도와 처음 듣는 전공 과목 담당 교수의 교수 능력의 영향을 살펴보자. 학원 배치표에 따라 전공을 선택하는 학생들이 많은 우리 나라의 현실을 볼 때 학과 신입생들이 지닌 전공 관심의 비율은   정도가 되지 않을까? 전공에 관심을 가진 학생이 20%, 그렇지 않은 학생이 80%.

그런데 첫 전공 수업에서 교수 능력이 뛰어난 교수를 만났을 경우 전공수업의 효과는 다음과 같은 행렬로 나타낼 수 있을 것이다.

즉, 전공에 대해 관심 있는 학생이 수업을 듣고 전공에 대해 더욱 관심을 갖게 될 학률이 0.8, 전공에 대해 관심 있는 학생이 실망하여 전공에 대한 관심을 잃을 확률이 0.2, 그리고 전공에 대해 관심이 없는 학생이 전공에 관심을 가질 확률이 0.6, 전공에 대해 관심이 없는 학생이 계속 전공에 관심이 없을 확률이 0.4. 그 정도면 아주 잘 가르치는 교수(교수 1이라고 하자)가 아닐까?

반면에  수업을 잘 지도하지 못하는 교수(교수 2라고 하자)가 첫 전공 수업을 가르쳤을 경우, 그 추이행렬은,

 정도가 되지 않을까?

교수 1과 교수 2가 첫 전공 수업을 가르친 후 얼마 지나면 정상 상태(steady state)에 도달할 것이다. 지난 포스팅에서 나온 공식 를 이용해서 정상 행렬을 구해보면, 교수 1의 정상 행렬은 가 될 것이고, 교수 2의 정상 행렬은 이 될 것이다. 교수 1의 수업을 들은 학생들의 경우 75%가 전공에 대해 관심을 갖게 되고, 교수 2의 수업을 들은 학생들은  33%가 전공에 대해 관심을 갖게 될 것으로 예상된다. 교수의 영향이 무척 크다. 그리고 흥미 있게도 대학에 들어오면서 신입생들이 얼마나 전공에 관심에 가지고 있는가는 정상 상태에 영향을 미치지 못한다.

학생들 자신의 태도도 중요한 결정요인일 수 있을 것이다. 어떤 연유로 학과를 선택했든, 개방적인 자세를 가진 학생들은 첫 전공 수업을 듣고 전공에 관심을 갖게 될 것이고, 비개방적인 자세를 가진 학생들은 첫 전공 수업을 듣고도 전공에 관심을 갖지 않을 것이다. 그러한 학생들의 자세는 전공에 대한 관심 수준을 결정하는데 얼마나 영향을 미칠까?

전공에 대한 학생들의 개방적 태도를 추이행렬로 다음과 같이 표현해 볼 수 있지 않을까?

, , ,

첫번째 추이행렬은 아주 비개방적인 태도를 지닌 학생의 경우로, 수업을 듣고 전공에 대해 무관심에서 관심으로 전환될 확률이 10%밖에 되지 않는다. 두번째 추이행렬은 그 전환 가능성이 20%, 세번째 추이행렬은 40%, 그 다음은 60%, 마지막은 전환 가능성이 80%이다. 아래 행(row)의 숫자가 커질수록 점점 개방적이 됨을 의미한다. 마지막 두 추이행렬은 아주 개방적인 학생들일 것이다.

그런데 이 추이행렬을 가진 학생들이 동일한 교수의 전공수업을 수강했다고 가정하고 그들의 정상행렬을 계산해 보면 각각 다음과 같다.

,

입학 초기에 전공에 대한 관심이 어떤 상태인가에 관계없이, 전공에 대해 개방적인 태도를 지닌 학생의 전공에 대한 관심 비율(학문에 대한 관심 중 전공에 대한 관심이 차지하는 비율: 전공 대 비전공으로만 단순화시켜서 표현함)이 최대 80%나 되며, 전공에 대해 비개방적인 태도를 지닌 학생의 전공에 대해 관심 비율은 33%에 불과하다.

전공에 대한 관심은 전공 성적과 높은 상관관계를 갖고 있다. 다시 말해 신입생이 전공에 대해 얼마나 개방적인 태도를 갖고 있는가가 결국 전공에서의 학업성취에 커다란 영향을 미칠 것으로 추정된다.

물론 앞에서 살펴본 것처럼 전공 첫 수업을 어떤 교수가 가르치는가도 중요한 결정요인일 것이다. 여기서 교수 사례는 분석단위가 학과이고, 학생 사례는 분석단위가 개별 학생이다. 이점 때문에 다소 혼란스러울 수 있을 것이다.

이 예상들은 실증적인 조사 자료 없이 마르코프 연쇄 모형을 이용하여 수학적으로 도출되었다. 실제 조사를 해보면 예상과 많이 다를까? 사회과학적 추론에 있어 마르코프 연쇄의 잠재성이 아주 커보인다.

(Bayes 학습)(7)마르코프 연쇄-(2)

광고 후 3주일째 Brand A의 오렌지 쥬스 시장의 점유율은 어떻게 될까? 아래 식에서 보는 것처럼 86.96%이다.

시장 점유율이 여전히 증가하고 있으나 첫 두 주만큼 인상적이지는 않다. 광고효과가 동일하다고 가정하면 광고 후 4주부터 10주째까지 Brand A의 오렌지 쥬스 시장의 점유율은 각각 아래와 같이 예상된다.

Brand A의 시장점유율은 광고 후 5주차에 87.50%(반올림한 결과)에 도달한 이후 10주차까지 미세한 증가가 있으나 반올림하면 여전히 87.50%이다! 즉, Brand A의 시장점유율은 광고 후 5주차에 거의 불변상태에 도달할 것으로 예상된다(이는 대단히 흥미 있는 현상이다). 따라서 Brand A의 시장점유율은 광고 후 초반의 급속한 증가에도 불구하고 그 증가 속도가 빠르게 감소되되기 때문에 결코 100%에 도달하지 못할 것으로 판단된다.

이 사례는 마르코프 연쇄에 있어 정상 상태(steady state, stationary state, invariant state)가 존재함을 보여준다. 마르코프 연쇄에서 정상 상태에 도달하는 과정을 정상 상태에 수렴한다(convergence)고 표현한다.

그렇다면 모든 마르코프 연쇄가 정상 상태의 특성을 갖고 있는가? 그것은 아니다. 추이행렬(transition matrix)이 정칙(regular)인 마르코프 연쇄(그것을 정칙 마르코프 연쇄, regular Markov chains라고 부른다) 같이 특정한 유형의 마르코프 연쇄만이 그러한 속성을 갖고 있다. 어떤 추이행렬의 거듭제곱한 결과가 오직 양의 원소(only positive entries)만을 지닌 행렬일 때 그 추이행렬은 정칙이다.

정칙 마르코프 연쇄는 다음과 같은 속성을 갖는다.

(1)   (는 정상 행렬, 는 추이행렬)   이 공식으로 정상 행렬(stationary matrix)을 구할 수 있다.

(2) 초기 행렬  에 어떤 값이 주어지든 상태 행렬들(state matrices) 는 정상 행렬 에 수렴된다.

(3)추이행렬의 거듭제곱  는 하나의 극한 행렬(limiting matrix) 에 수렴한다. 의 각 행(row)은 정상 행렬 와 같다.

 공식을 이용해서 위 광고의 정상 행렬을 구해보자.

이 식을 과 에 관해서 풀면 다음 두 식을 얻는다.

 —–(1)

 —–(2)

그리고  —–(3)

(1)식과 (2)식 중 하나와 (3)식을 가지면 과 를 구할 수 있다. (1)과 (3)을 가지고 풀자.

(3)의 양변에서 를 빼면, 

이 것을 (1)에 대입하면,

양변에서 를 더하고 0.9를 우변으로 옮기면,

양변을 0.8로 나누면,

 이 된다. 이 값을 (3)에 대입하면, 이 구해진다. 이 값들로 행렬을 구하면,  이다. 이를 소수로 전환하면 이다.

위에서 일일히 행렬 계산을 통해서 구했던 정상 행렬이 공식을 사용해서 훨씬 쉽게 구해졌다.

정상 행렬(stationary matrix). 정상 상태(stationary state), 정상 분포(stationary distribution)은 베이즈 추론 과정의 MCMC (Markov Chain Monte Carlo) 시뮬레이션에 적용된다. 다음 글에서 마르코프 연쇄에 대해 조금만 더 알아보자.

(Bayes 학습)(6)마르코프 연쇄-(1)

학부나 대학원 수업에서 나는 마르코프 연쇄(Markov chains)에 관해 배운 적이 없다. 다만 대학원 재학시절 범주형 데이터 분석(categorical data analysis)을 혼자 공부하면서 책에서 스쳐 지나가듯이 읽었을 뿐이다.

그것은 나와는 전혀 관계가 없을 지식이고, 그것을 몰라도 내가 평생 동안 사회학자로서 사는 데 문제가 되리라 예상되지 않았다. 사회학에서는 횡단적 데이터(cross-sectional data)를 다루지 종단적 데이터(longitudinal data)는 거의 다루지 않는다. 그래서 경제학과는 달리 수업에서 시계열 데이터 분석(time-series data analysis)을 별로 가르치지 않는다. 그러니 마르코프 연쇄가 나의 관심에서 벗어나 있었던 것은 전혀 놀랍지 않다.

그러나 세월이 변했다. 지난 수십 년 동안 마르코프 연쇄는 온갖 분야에서 그것의 유용성을 드러냈다. 예컨대 구글의 검색 알고리즘인 페이지 랭크(PageRank)가 마르코프 모형을 사용하고 있고, 데이터 과학에서 마르코프 연쇄는 빼놓을 수 없는 부분이다. 오늘날 마르코프 연쇄 몬테카를로(Markov Chain Monte-Carlo, MCMC) 방법 없는 베이즈 추론은 상상하기 어렵다. 그것은 인공지능(Artificial Intelligence)의 원리인 기계학습(machine learning)에도 응용되고 있다. 이 정도면 데이터과학을 공부하는 학도가 마르코프 연쇄를 제대로 이해해야 함은 이론의 여지가 없어 보인다.

마르코프 연쇄는, 확률변수(random variable)가 어떤 상태(state)에 도달할 확률이 오직 바로 이전 시점의 상태(state)에 달려 있는 경우를 가리킨다. 만약 한 인터넷 사용자가 어떤 웹페이지에 있을 확률이 그 사람이 바로 직전에 어떤 웹페이지에 있었는가에 달려 있다면 인터넷 사용자의 웹페이지 방문은 마르코프 연쇄 모형을 따르고 있다고 말할 수 있다. 또 어떤 시점에서 한 청소년이 부모와 어떤 관계를 갖고 있는가가 그 바로 직전 시점에서 그 청소년이 부모와 어떤 관계를 갖고 있는가에 달려 있다면(더 이전에 그 청소년이 부모와 어떤 관계를 갖고 있었는가는 무시해도 될 정도라면), 청소년과 부모와의 관계는 마르코프 연쇄 모형을 따른다고 말할 수 있다.

마르코프 연쇄를 이해하는 가장 기본적인 개념은 상태(state), 추이(transition), 추이행렬(transition matrix), 추이도형(transition diagram), 의사결정 나무(decision tree), 정상 마르코프 연쇄(stationary Markov chain) 등이다. 그리고 행렬대수(Matrix algebra)에 관한 지식이 다소 필요하다.

마르코프 연쇄는 확률변수의 상태 변화(혹은 추이)에 대한 모형이다. 상태(state)는 물리적 위치, 심리적 상태, 재정적 상태, 경제적 상태, 정치적 상황, 시장 점유율, 사회적 관계 등 어떤 것이든 가리킬 수 있다. 그리고 특정 변수가 가질 수 있는 모든 상태를 상태 공간(state space), 변화가 멈춘 상태를 정상 상태(steady state 혹은 stationary state)라고 한다.

유튜브에 올라온 강의(Patrick JMT)의 사례를 가지고 살펴보자. 오렌지 쥬스(Brand A)를 생산하는 어떤 기업이 광고 캠페인을 전개해서 시장 점유율을 높이고자 한다. 광고를 시작하기 전 Brand A의 시장 점유율이 20%이고, Brand A에 관한 광고를 보고 어떤 사람이 계속 Brand A를 구입할 수도 있고, 다른 Brand 제품(Brand A’라고 하자)을 구입할 수도 있을 것이다. 어떤 사람은 다른 브랜드 제품을 사용하다가 광고를 보고 브랜드 A로 전환할 수도 있고, 그냥 그 브랜드 제품을 계속 사용할 수도 있을 것이다. 광고를 보고 브랜드 A를 마시던 사람이 계속 브랜드 A를 마실 확률이 0.9이고, 다른 브랜드 제품으로 갈아탈 확률이 0.1이며, 다른 브랜드 제품을 마시던 사람이 브랜드 A를 마시게 될 확률이 0.7이고, 그냥 기존의 브랜드 제품을 마실 확률이 0.3이라고 하자.  바로 그것이 소위 추이 확률(transition probability)로 표현된 광고의 효과이다. 이를 행렬로 표시하면,

 행렬은 광고를 시작하기 전 오렌지 쥬스 시장에서의 Brand A(A)와 여타 제품(A’)의 시장 점유율을 나타낸다. (참고: 행렬 안에는 숫자만 들어가지만, .2와 .8이 무엇을 나타내는가를 보여주기 위해 A와 A’을 넣어서 표시했다. 다음에는 이라고만 표시하겠다.)

이 를 추이 행렬(transition matrix)라고 부른다. 그것은 광고의 효과를 나타내는 확률이기 때문에 광고 기간 동안 동일하다고 가정할 수 있을 것이다. (참고: 이 행렬에도 행(row)과 열(column)이 무엇을 나타내는가를 보여주기 위해 행렬 안에 A, A’를 넣었다. 행은 시작하는 상태를, 열은 도달하는 상태를 나타낸다. .9는 A가 A로 바뀌는(사실 A가 그대로 남는 경우) 확률, .1은 A가 A’으로 바뀌는 확률, .7은 A’가 A로 바뀌는 확률, 그리고 .3은 A’가 A’로 바뀌는 확률을 가리킨다. 이제 간단히 로만 표시하겠다.)

만약 매주 광고 효과를 시장점유율로 측정한다면, 광고가 나간 1주 후 Brand A의 시장점유율은 어떻게 될까? 그것은 아래와 같이 계산할 수 있다.

일주일 후 Brand A의 시장 점유율은 74%이다! 광고를 하고 일주일만에 시장점유율이 20%에서 74%로 오른 것이다. 그 다음 일주일 후에는 시장 점유율이 어떻게 될까?

84.8%가 되었다! 광고 효과가 여전히 놀랍다. 그렇다면 머지않아 Brand A는 오렌지 쥬스 시장을 싹쓸이 할 수 있을까? 다음 포스팅에서 살펴보자.

(Bayes 학습)(5) 카이자승과 자유도

베이즈 추론을 학습하다가 멀리까지 왔다. 베이즈 추론을 제대로 배우려면 확률과 통계, 그리고 미적분과 행렬대수(matrix algebra)를 알아야 한다. 기초없이 가다보면 결국 벽에 부딪치고 다시 기초로 돌아가게 된다.

이번에는 카이자승() 검증과 자유도(degree of freedom)에 관해 알아보자. 아래의 교차표는 고등학교 학생 30명에게 “TV를 많이 보는가?”와 “공부를 열심히 하는가?”라고 물어본 결과이다. 이 표에 제시된 데이터는 고등학생들의 열공 여부와 TV 시청 사이에 상관관계가 있음을 지지하는가?

TV를 많이 보는가?
공부를

열심히

하는가?

아니오
5(6.7) 5(3.3) 10
아니오 15(13.3) 5(6.7) 20
20 10 30

교차표의 자료를 가지고 두 변수 사이의 관계를 검증하는 대표적인 통계 척도가 이다. 은 교차표의 각 칸(cell)의 관찰빈도(observed counts)와 두 변수 사이에 아무런 관계가 없다는 영가설이 진실일 때 기대되는 각 칸의 빈도(expected counts)와의 비교에 기초를 둔 통계척도이다.

위의 교차표에서 만약 열공 여부와 TV 시청 정도 사이에 아무런 관계가 없다는 가정 아래 각 칸에 들어갈 빈도를 계산해 보자. 영가설의 기대빈도는 행과 열의 각 범주의 주변빈도를 곱한 다음 표본의 크기()으로 나누어주면 될 것이다. 예컨대, 양쪽 질문에 모두 ‘예’라고 답한 칸의 기대빈도는 20*10/30=20/3=6.7이 될 것이고, 열공여부에 ‘예’라고 답하고, TV 시청 정도에 ‘아니오’라고 대답한 칸의 기대빈도는 10*10/30=3.3이 될 것이다. 나머지 두 칸의 기대빈도도 같은 방식으로 계산하면 될 것이다. 각 칸의 괄호 안에 기대빈도를 표시했다.    값을 구하기 위해서는 각 칸의 관찰빈도와 기대빈도의 차이를 자승하고, 그 다음 그 값을 그 칸의 기대빈도로 나눈다. 그리고 그 값을 모두 더하면  값이 구해진다.

=1.96인데, 그 수치를 어떻게 해석해야 하는가? 그 통계치에 대해 판단을 내리려면  의 표집분포를 상정해야 한다. 그것은 앞 글에서 평균의 표집분포를 상정해서 표본 평균에 대해 판단을 내린 것이나 마찬가지 원리이다. 그런데 의 표집분포(간단히    분포)는 자유도(degree of freedom)라는 것의 값에 따라 모습이 다르다. 아래 그림을 참고하라.

ch-_square_dist

그렇다면 자유도가 무엇인가? 이것은 통계학을 배우는 학생들에게 가장 난해한 개념 중 하나이다.

자유도어떤 통계값을 구하는데 있어 자유롭게 변할 수 있는 값의 수효이다. 이게 도대체 무슨 말인가?

예컨대, 세 개의 수가 있는데, 그 세 수의 평균()이 주어져 있다면, 그 세 수 중 두 개가 정해지면 나머지 하나는 자유롭게 변할 수 없다. 만약 평균이 2이고, 이 1이고, 가 1이면, 는 반드시 4가 되어야 한다. 이 경우 자유도(통상 df라고 표기한다)는 2이다. 분산()을 보자. 분산이란 한 표본이 얼마나 퍼져있는지를 보여주는 통계척도이다. 분산을 구하려면 표본의 각 값에서 평균을 뺀 값을 제곱하여 더하고 표본의 크기()로 나누어주면 될 것이다. 그런데, 평균이 먼저 구해져야 분산을 구할 수 있다. 그런데 위에서 보듯이 평균이 정해지면 자유도 하나를 잃는다. 따라서 분산의 자유도는 이다. 만약 편차의 제곱을 으로 나누면 분산을 과소평가하게 된다. 따라서 분산을 정확히 계산하기 위해서는  대신 로 나누어야 한다. 즉, 정확성을 확보하기 위해 자유도로 보정해 주는 것이다.

교차표에서 자유도는 누계가 고정된 상태에서 값이 자유롭게 변할 수 있는 칸의 수이다. 어느 두 변수간의 교차표에서든  통계치의 자유도는 행(row)에서 1을 뺀 숫자와 열(column)에서 1을 뺀 숫자를 곱하면 된다. 공식은 아래와 같다.

위 표의 자유도는 1이다((2-1)*(2-1)=1). 우리가 신뢰수준을 95%(0.05)으로 설정한다면, 의 임계치(critical value)는 자유도가 1일 때 3.84이다. 만약 자유도가 2라면 임계치가 5.99, 자유도가 3이라면 임계치가 7.81이다(통계학 책 부록으로 있는의 임계치 표를 참조하라). 위에서 우리가 계산한 표본의   값이 1.96이므로 임계치인 3.84보다 작다. 관찰빈도와 영가설 아래서 추정한 기대빈도의 차이가 신뢰수준의 기준치보다 작다는 말이다. 그러므로 우리는 영가설을 기각하는데 실패했다. 따라서 이 자료로 볼 때 열공 여부와 TV시청 정도는 서로 관계가 있다고 보기 어렵다고 결론을 내릴 수 있을 것이다.

이렇게 자유도는 통계값을 보정하기 위해 사용되기 때문에 자유도에 의해 분포의 모습이 크게 달라지는 검증에서 자유도는 대단히 중요한 역할을 수행한다. 우리가 앞에서 언급했던  검증에서도 그렇다.

이 글에서는  검증을 가지고 자유도를 설명했다. 통계적 추론을 위해서는 자유도의 개념을 잘 이해하고 기억해 두어야 할 것이다.

(Bayes 학습)(4) P-value, 표집분포, 가설 검증

“아빠, (카이 자승)은 어떻게 계산하고, 어디다 쓰는 거야?” 자동차를 타고 가면서 막내가 물었다. 카이 자승을 한참 설명하고 났더니, 다음에는 p-value가 무어냐고 물었다. 막내의 통계학 공부가 드디어 기술통계(descriptive statistics)에서 추론통계(inferential statistics)로 넘어가는 단계인 모양이다. 사실 그 때가 통계학을 배우면서 가장 혼란스런 순간이기도 하고 가장 중요한 순간이기도 하다. 그래서 추리통계의 기초를 좀 정리해 보았다.

우리가 통계학을 배우는 근본적인 이유는 불확실성의 세계 혹은 미지의 세계를 체계적으로 탐색하기 위해서이다. 평균적으로 우리 나라 고등학생들의 키는 얼마나 될까 라는 의문을 생각해보자. 우리 나라 고등학생들의 키를 모두 재서 평균을 내면 될 것이다. 문제는 그것이 현실적으로 불가능하다는 데 있다. 고등학생 전체 숫자가 한 1백50만명은 될텐데, 그들의 키를 무슨 수로 다 잴 것인가? 전체 학생수가 많기도 하지만 학교에 결석하는 학생들도 적지 않을 테니 말이다. 고등학생들의 평균 신장은 근본적으로 미지의 모수(unknown parameter)이다. 그것을 라고 하자.

미지의 모수인 는 결코 정확히 알 수 없다. 다만 그것의 근사값이 추정될(inferred) 수 있을 뿐이다. 가장 좋은 추정 방법은 고등학생들을 몇 백명 정도 무작위 표집해서 그들의 키를 재고 그 통계치(sample statistics)를 가지고 를 추정하면 될 것이다. (참고로 무작위 표집(random sampling)이란 모든 고등학생들이 뽑힐 확률이 동일하다는 조건을 만족시키면서 추출해야 한다는 의미이다. 사실 이것도 쉽지 않은 작업이다.) 예컨대 무작위로 4백명()을 뽑아서 그들 키의 평균()과 표준편차()를 계산했더니, 각각 168cm, 13cm였다고 하자. 우리는   라는 알고 있는 표본정보(known sample statistics)를 가지고 미지의 모수(unknown population parameter) 를 추정할 수 있다. 추리 통계(inferential statistics)란 바로 그러한 추정을 가능하게 해주는 학문적 지식이다.

통계적 추론을 위해서는 몇 가지 기본 지식이 필요하다. 그 중 첫째가 중앙집중한계정리(central limit theorem)이다. 중앙집중한계정리란 아래와 같다.

표본의 크기()가 충분히 크면,  평균()의  확률분포[표집분포(sampling distribution)라고 부른다]는 모집단 분포의 모양과 상관없이 정규분포(normal distribution)를 이룬다. 그 분포의 평균은 이고, 분산은  이다.

중앙집중한계정리를 그림으로 표시하면 아래와 같다.

centrl_limit_theorem  이 그림에서 파란색으로 된 그래프가 모집단의 분포이고, 붉은색으로 된 그래프가 표집분포이다. 그런데 표집분포(sampling distribution)가 무엇인가? 적지 않은 학생들이 표집분포에서 좌절하고 만다. 일종의 가상적 상황이 도입되기 때문이다. 표집분포란 반복해서 표본을 추출한다(표본추출은 실험으로 간주될 수 있다)고 가정했을 때 우리가 얻게 되는 평균()의 확률분포이다. 표본을 반복해서 추출하다니….한 번 뽑는데도 얼마나 비용이 많이 드는데….그러니 가상적인 상황이다. 표본추출이 실험이니 그 ‘실험’의 결과인 평균은 확률변수이고 그것의 확률분포가 정규분포라는 것이다(아래 그림 참조). 전통적인 통계학에서 이 가상적인 분포를 가지고 추론(혹은 추정)을 한다. 표집분포중앙집중한계정리의 힘을 빌리지 않으면 추론이 불가능하다.

img_samp_dist

정규분포의 모양은 잘 알려져 있다. 를 중심으로 1 (표준편차의 1배)까지의 면적은 전체 면적의 34.1%이고, 2(표준편차의 2배)까지의 면적은 47.7%, 3(표준편차의 3배)까지의 면적은 49.8%이다. 를 중심으로 양쪽을 모두 고려한다면, 좌우대칭이기 때문에 의 면적은 전체 면적의 68.2%, 의 면적은 95.4%, 의 면적은 전체 면적의 99.6%이다. 기억하겠지만 정규분포에서 표준편차의 배수를 나타내는 도구는  값(z-value) 혹은  값(t-value)이다. 분포의 분산()을 모르면  값을 사용한다.  값이 2이면 양쪽 면적이 95.4%이다. 양쪽 면적이 전체 면적의 95%가 되는  값은 1.96이다.

 

Standard_deviation_diagram.svg

z 값이나 t 값의 확률(밀도)은 정규분포의 확률밀도함수를 적분해서 구해야 하기 때문에, 복잡한 수학적 계산을 피할 수 있게 해주기 위해 자주 사용되는 z 값이나 t값에 관한 확률(Pr (Z  z))이 표로 만들어져 통계학 책의 부록으로 실려 있다.

요즘에는 표 대신 스마트폰 어플을 이용해서도 쉽게 구할 수 있다.  미국 아이오아대학교 통계학과 Mattew Bognar 교수가 Probability Distributions라는 어플을 무료로 제공하고 있다. (그가 운영하는 웹사이트에서 애플릿을 이용해서도 계산할 수 있다. http://homepage.divms.uiowa.edu/~mbognar/applets/normal.html)

distribution

통계적 추론을 위해서는 몇 가지 개념이 더 필요하다. 신뢰수준(confidence level), 영가설(null hypothesis), p-value, 자유도(degree of freedom),  검증 정도는 정확히 이해해야 한다. 그래야 상관관계분석, ANOVA, 교차표(cross-table) 분석, 회귀분석 등을 기초적인 수준에서나마 수행할 수 있다.

신뢰수준이란 연구자가 어느 정도의 확신을 가지고 추정(혹은 검정)을 할 것인가에 대한 기준이다. 확신의 기준이 높을수록 실수할 가능성도 높아질 것이다. 예컨대 불확실한 현상에 대해 다른 조건이 동일하다면, 100% 확신을 가지고 추정하면, 90% 확신을 가지고 추정할 때보다 실수할 가능성이 높다. 실수할 가능성을 낮추려면 확신의 기준을 낮춰서(다시 말해, 좀 넉넉하게) 추정해야 한다.

우리가 95% 신뢰수준(confidence level)에서 모집단의 평균 를 추정하면,

 …….(1)

이 될 것이다. 이 식에서 는 우리가 가진 표본의 평균이고,  가 0.025(양쪽을 합치면 0.05이다)이 되는 값으로 1.96이다 (는 유의수준(significance level)인데, 그것은 영가설이 진실인데도 기각할 확률을 의미한다.   =1-신뢰계수이다. 95% 신뢰수준은 신뢰계수가 0.95이다). SE (Standard Error)는 표본의 표준편차와 표본의 크기를 가지고, 즉, 으로 추정할 수 있다. 식 (1)을 다시 쓰면,

 …….(2)(* 이 식이 어디에서 왔는가를 이해하려면 z-value와 t-value를 복습할 것)

이 된다. 이 공식을 우리의 평균키 사례에 적용해 보자.  를 대입하면,

이다. 식을 정리하면,

즉, 우리나라 고등학생들의 평균키()는 95% 신뢰수준에서 166.7cm와 169.3cm 사이라고 추정된다.

통계학은 가설(hypothesis)을 검증하기 위해 자주 사용된다. 가설이란 어떤 연구문제에 대한 잠정적인 답변이다. 잠정적이라는 표현은 그것의 검증이 요구된다는 의미이다. 검증을 위해서는 영가설(null hypothesis)대립가설(alternative hypothesis)를 세운다. 영가설이란 문자 그대로 변수들 사이에 서로 관계가 없다든가 어떤 실험 처지(treatment)의 효과가 없다는 의미로 사용된다. 영가설은 흔히 이라고 표기된다. 대립가설은 변수들 사이에 관계가 있다 혹은 실험 처지의 효과가 있다는 의미로 사용되며, 흔히 로 표기된다.

왜 영가설 따위가 필요한가? 다소 복잡한 철학적 이유까지 있기는 하지만 단순화시켜서 말하자면 경험과학이 지닌 검증의 한계 때문이다. 경험과학은 귀납법을 사용해서 자신의 주장(가설로 표현된다)을 입증한다. 그런데 아무리 데이터를 많이 제시해도 단 한 개의 예외만 발견되면(그리고 현실에서는 그런 경우가 아주 많다) 검증 결과는 바로 공격받게 된다. 즉, 경험과학에서는 가설(그것이 대립가설이든 영가설이든)이 참일 확률을 계산할 수 없다. 오직 가능한 것은, 영가설이 참일 때 우리가 손에 든 데이터를 얻을 확률을 계산할 수 있을 뿐이다. 그것이 곧 p value (p 값)이다.

이렇게 경험과학에서는  자기의 주장을 직접 검증하지 못하고 우회적으로 검증할 밖에 없다. 영가설 검증을 통해서 대립가설을 우회적으로(어떻게 말하면 겸손하게) 검증하는 것이다. 영가설은 기각하거나(reject) 기각에 실패한다고(fail to reject) 표현한다. 만약 영가설을 기각하면, 데이터가 대립가설, 즉, 자신의 주장을 지지한다(support)고 결론을 내리고, 영가설을 기각하는데 실패하면, 데이터가 대립가설, 즉, 자신의 주장을 지지하지 않는다(not support)고 결론을 내리게 된다.

P-value는 통계학에서 매우 중요한 개념이다. 그것은 바로 영가설이 진실일때 우리가 통계치(sample statistics)나 그보다 더 극단적인 값(extreme value)을 얻을 확률()을 가리킨다. 그림으로 나타내면 아래와 같다.

P_Value

위 그림은 확률분포인데 진한 회색으로 된 부분이 p-value이다. P-value가 아주 작으면 영가설이 진실일 때 통계치나 그 이상의 극단적인 값을 얻을 확률이 아주 작다. 다시 말해 영가설이 진실일 가능성이 아주 낮다. 만약 p-value가 연구자가 설정한 신뢰수준, 예컨대 95%(0.05)보다 작으면 영가설이 기각된다. 반대로 p-value가 신뢰수준의 값, 0.05보다 크면 영가설을 기각하는데 실패한다.

글이 너무 길어졌다. 다음 글에서 자유도(degree of freedom)와  검증에 관해 알아보자.