5장. 두 변수의 관계1. 다음 자료에 3 그룹 저항성 직선을 적합시켜라 (미니탭의 RLINE 명령어를 사용하지 말 고 반복 계산 없이 수작업으로 할 것){XY*************88996그룹내의 자료점의 수가 3이므로 2번째의 값이 중위수가 된다. 따라서 세그룹 요약점으로( XL , YL ) = (2 , 3)( XM , YM ) = (5 , 5)( XR , YR ) = (8 , 8)을 얻게 된다. 그리고 회귀직선 Y= a + bX에서b = {{ 8-3 } over { 8-2 }={{ 5 } over { 6 }= 0.83{a= LEFT { (Y _{L}-bX_{L})+(Y_{M}-bX_{M})+(Y_{R}-bX_{R} RIGHT }/3= { ( 3 - {{ 5 } over { 6 }2) + ( 5 - {{ 5 } over { 6 }5) + ( 8 - {{ 5 } over { 6 }8) } / 3= 1.167{hat { y } =1.167+ {{ 5 } over { 6 } x, 초기잔차 {r=y-1.167-0.83x로 계산 된다.2. 다음 자료는 우리나라의 1960년부터 1997년까지의 38년간 전력소비량(단위:GWh) Z이다.1 {Z,`log _{10} Z,` sqrt {Z}의 세 계열을 플롯하여 보고 어느 것이 가장 선형에 가까운 추세를 갖는 지를 판단하여라. 2 그 계열에 대하여 선형추세를 RLINE 명령어를 이용하여 구하여라.{YEARZYEARZYEARZYEARZ*************18**************************965*************9*************01*************4**************************19*************630*************2**************************3**************************4*************1**************************19*************19**************************524*************94146541*************618247019972007841 Z{{{hat { y }= 4054.6400{x- 7.98119E+062 {log_{ 10 } Z{{{hat { y } =-117.6063+0.0616``x3 {sqrt { Z }{{{hat { y } =-21050.3323+10.7290x3. 다음은 유럽의 16개 지역에서의 유방암(breast cancer)에 관한 자료이다. 유방암 발생자수Y를 평균기온 X에 회귀시킨 저항성 직선을 구하여라.{지역XY151.3102.5249.9104.5350100.4449.295.9548.587647.895747.388.6845.189.2946.378.91042.184.61144.281.71243.572.21342.365.11440.268.11531.867.3163452.5요약점( XL , YL ) = ( 49.9 , 100.4)( XM , YM ) = ( 45.7 , 86.6)( XR , YR ) = ( 40.2 , 67.3)회귀직선 Y= a + bX에서{b= {67.3-100.4} over {40.2-49.9} =3.412{a= LEFT { (Y _{L}-bX_{L})+(Y_{M}-bX_{M})+(Y_{R}-bX_{R} RIGHT }/3=(100.4-3.412*49.9)+(86.6-3.412*45.7)+(67.3-3.412*40.2)} / 3= -69.716{hat { y } =-69.716+3.412x
6장. 확률모형과의 비교1. 다음은 방사성 물질의 하나인 플로늄(화학기호 Po)에서 방출하는 불꽃의 수를 일정시간 관측한 데이터이다. 이 자료가 포아송 분포를 잘 따르는 지를 검토하여라.{불꽃수(x)관측빈도(Ox)**************************37139*************120131141{불꽃수(x)관측빈도(Ox){sqrt {Ox}기대빈도(Ex)2배제곱근잔차(DRRS)0577.5454.340.381120314.24210.36-0.512238319.57407.16-1.212352522.91525.37-0.011453223.06508.431.0446540820.19393.630.736627316.52253.951.197713911.78140.43-0.0918456.7067.95-3.0179275.1929.22-0.36310103.1611.31-0.31511423.980.13212001.28-1.47513110.380.85914110.101.258포아송 확률 모형에 잘 적합되는지 알아보기 위해 DRRS를 구하여 자료를 분석한다. 어느 하나의 DRRS 값이 (-3,+3) 구간의 범위를 벗어나면 주어진 자료가 포아송 확률 모형과 맞지 않는 것으로 결론 지어도 좋다. 위의 자료를 보면 8번째 관측값이 (-3,+3)의 범위를 벗어나고 있으므로 위 자료는 포아송 확률모형에 적합하지 않다고 할 수 있다.여기서, X의 평균 ={(0 TIMES 57+1 TIMES 203+2 TIMES 383+3 TIMES 525+4 TIMES 532+5 TIMES 408+6 TIMES 273+7 TIMES 139+8 TIMES 45+9 TIMES 27+# 10 TIMES 10+11 TIMES 4+12 TIMES 0+13 TIMES 1+14 TIMES 1)/2608=3.871= lambda2. 2장의 수리통계학 점수 자료에 대하여 정규분포 Q-Q 플롯(정규확률 플롯)을 작성 하고 정규분포에의 적합성에 대하여 어떤 것을 알 수 있는지를 말하라.{{{미니탭을 이용하여 정규확률 플롯을 해본 결과 그래프의 모양이 직선에 가깝고, 루토그램의 DRRes 값이 (-3 , +3)을 벗어나는 값이 없으므로 정규분포를 잘 따른다고 할 수 있다.3. 다음은 갈톤의 조사한 성인 남자의 키(단위:인치) 자료이다. Rootgram 명령어를 사용하여 정규분포에의 적합성을 검토하여라.{자료 A자료 B63 이하23 명23 명63.5202964.5646465.511011066.515515267.519920068.520320469.519820170.517116971.5888672.5474773.5272874 이상2425{[ 자료 A ]{[ 자료 B]루토그램을 살펴보면 자료 A의 DRRes의 값은 모두 (-2,+2)사이에 속하므로 정규분포 모형에 적합하다. 하지만 자료 B의 DRRes의 값은 (-2,+2)를 벗어나는 값이 있으므로 정규분포 모형에 적합하지 않다.4. 2장의 산성비 자료에 대하여 정규분포 Q-Q플롯(정규확률 플롯)을 작성하고 정규 분포에의 적합성에 대하여 어떤 것을 알 수 있는지를 말하라.{4.575.624.125.294.644.314.304.394.455.674.394.524.264.264.405.784.734.565.084.414.125.514.824.634.294.60{{{미니탭을 이용하여 정규확률 플롯을 해본 결과 그래프의 모양이 S자에 가깝고, 루토그램의 DRRes 값이 (-2 , +2)를 벗어나는 값이 있으므로 정규분포에 맞지 않다.5. 다음과 같이 그룹화된 자료의 평균과 표준편차에 대한 저항성 있는 추정치를 구하여라{구 간10-2020-3030-4040-5050-6060-7070-8080-90빈 도12847311{구간빈도중앙값깊이10-20*************0-4083511(HL포함)40-50445(4)50-6075512(HU포함)60-70365570-80175280-901851< 풀이 >d(M) = (27+1) / 2 = 14d(H) = (1+[d(M)])/2 = 7.5HL = 30+(1/8) (7.5-3-0.5) = 30.5HU = 60-(1/7) (7.5-5-0.5) = 59.714{mu =(H_{ L } +H_{ U) } /2= (30.5+59.714) / 2 = 45.107{sigma =(H_{ U } -H_{ L) } /1.35`= 21.646. 앞 문제에서 주어진 자료가 정규분포를 따르는지를 알아보고자 한다. 이를 위하여 필요한 미니탭 처리과정을 서술하시오.1 C1열에는 구간경계를 입력하고 C2열에는 관측빈도를 입력한다. Stat > EDA > Rootogram을 클릭한다.{2 Rootogram 대화창에서 'Frequencies:' 란에 C2를, 'Use bin boundaries in:'란에 C1을 입력하고 OK를 클릭한다.(만일 DRRS나 적합빈도를 저장하려면 'Double root residuals:' 와 'Fits: 에 저장할 열 C3,C4를 입력한다.){{* 참고 *모든 DRRes값이 (-2,2)구간에 있으므로 자료는 정규분포를 따른다고 볼 수 있다.7. 정규분포 Q-Q플롯(정규확률 플롯)에서 기울기 a, 절편이 b인 직선 형태의 패턴이 나타났다고 하자. 이것이 무엇을 뜻하는지 가능한 한 구체적으로 말하여라. 정규분포 Q-Q 플롯에서 절편b는 {mu(평균), 기울기a는 {sigma(표준편차)를 뜻하고, 직선형태 의 패턴이 나타났다는 것은 자료가 N({mu,{sigma ^{ 2 })인 정규분포를 따른다는 뜻이다.
8장. 시계열 평활법1. 5장 문제 2)의 계속. RLINE의 잔차를 RSMOOTH 명령어를 이용하여 평활하고 그 결과를 해석하여라. (참고사항: 경제·경영계열은 순환성을 보이는 경우가 많다.)(이 자료는 1990-1997년까지의 38년간 전력소비량을 나타낸 것이다.){yearzlog z{sqrt {z}RESI1RESI2RESI3196011543.0622133.97135253.5-0.0921255.*************.0751834.48231233.8-0.1407645.291196214703.1673238.34127460.2-0.1102438.*************.2291741.1723630.6-0.1130.*************.3102745.219923.9-0.0905123.*************.3916449.63916290.3-0.0707517.*************.4782854.84512779.6-0.0457312.*************.5912962.46696190.005678.*************.6857469.6426512.40.0385125.*************.8033279.7373965.70.0944784.*************.8887487.9771293.10.1182862.*************.9486194.255-1617.60.116541-2.*************.9996599.96-4564.20.105973-7.*************4.09226111.207-6243.80.136972-6.*************4.14761118.524-8617.50.13071-10.*************4.22089128.957-10090.10.142375-10.*************4.2927140.071-11154.80.152569-10.*************4.35856151.106-11996.40.15682-9.*************4.43658165.306-115580.173221-6.*************4.49337176.477-11794.70.168407-5.*************4.515180.925-14259.30.128419-12.1161981354244.5493188.213-156240.101105-15.*************4.57841194.628-17222.60.068604-19.*************4.62961206.446-16537.20.058195-18.*************4.67257216.912-16160.90.039538-19.*************4.70528225.238-16534.50.010639-21.*************4.75059237.297-15011.2-0.00567-20.1181987641694.80733253.316-11206.8-0.01054-14.*************4.87109272.613-5112.4-0.00839-6.*************4.91483286.691-1293.1-0.02626-2.91071990943834.97489307.2186843.3-0.027816.88719911043745.01859323.0712779.6-0.0457312.009519921152445.06162339.47619595-0.0643117.686919931277345.10631357.39928030.4-0.0812424.880819941465415.16596382.80742782.7-0.083239.559719951632705.21291404.06755457.1-0.0978650.090819961824705.26119427.16570602.4-0.1111962.4619972007845.30273448.08984861.8-0.1312772.6553각각에 대하여 기울기를 구하여보면 아래와 같이 나온다.Resistant Line Fit: Z versus yearStraightness check - Left half-slope = 2098.160000Right half-slope = 6011.120000 Ratio = 2.865Slope 1 = 4054.640000Slope = 4054.6400 Level = -7.98119E+06 Half-slope ratio = 2.865Resistant Line Fit: log Z versus yearStraightness check - Left half-slope = 0.078936Right half-slope = 0.044289 Ratio = 0.561Slope 1 = 0.061613Slope = 0.0616 Level = -117.6063 Half-slope ratio = 0.561Resistant Line Fit: 루트 Z versus yearStraightness check - Left half-slope = 9.283677Right half-slope = 12.174276 Ratio = 1.311Slope 1 = 10.728977Slope = 10.7290 Level = -21050.3323 Half-slope ratio = 1.311log z 에 대한 기울기가 0에 가장 가까우므로 적합하다고 할 수 있다.그러므로 log z 에 대한 잔차를 평활하면,평활값 잔차 평활값 잔차{{이와 같이 된다.{평활값의 플롯을 보면, 계속 증가하다가 1976년 에 가장 많은 전력소비량을 기록하였고, 1979년 후부터 다시 떨어지기 시작하였다.잔차의 줄기그림과 상자그림을 보면, 아래와 같이 나타나고 3개의 특이값을 발견할 수 있다.{2. 다음 시계열을 끝 값 처리 후 이동중위수 3 방법으로 평활하여라.{시점 :t12345678910계열값 :zt41186491012168{시점계열값끝값처리3이동중위수01*************888466654466*************1*************8161124
5장. 두 변수의 관계1. 다음 자료에 3 그룹 저항성 직선을 적합시켜라 (미니탭의 RLINE 명령어를 사용하지 말 고 반복 계산 없이 수작업으로 할 것){XY*************88996그룹내의 자료점의 수가 3이므로 2번째의 값이 중위수가 된다. 따라서 세그룹 요약점으로( XL , YL ) = (2 , 3)( XM , YM ) = (5 , 5)( XR , YR ) = (8 , 8)을 얻게 된다. 그리고 회귀직선 Y= a + bX에서b = {{ 8-3 } over { 8-2 }={{ 5 } over { 6 }= 0.83{a= LEFT { (Y _{L}-bX_{L})+(Y_{M}-bX_{M})+(Y_{R}-bX_{R} RIGHT }/3= { ( 3 - {{ 5 } over { 6 }2) + ( 5 - {{ 5 } over { 6 }5) + ( 8 - {{ 5 } over { 6 }8) } / 3= 1.167{hat { y } =1.167+ {{ 5 } over { 6 } x, 초기잔차 {r=y-1.167-0.83x로 계산 된다.2. 다음 자료는 우리나라의 1960년부터 1997년까지의 38년간 전력소비량(단위:GWh) Z이다.1 {Z,`log _{10} Z,` sqrt {Z}의 세 계열을 플롯하여 보고 어느 것이 가장 선형에 가까운 추세를 갖는 지를 판단하여라. 2 그 계열에 대하여 선형추세를 RLINE 명령어를 이용하여 구하여라.{YEARZYEARZYEARZYEARZ*************18**************************965*************9*************01*************4**************************19*************630*************2**************************3**************************4*************1**************************19*************19**************************0.36-0.512238319.57407.16-1.212352522.91525.37-0.011453223.06508.431.0446540820.19393.630.736627316.52253.951.197713911.78140.43-0.0918456.7067.95-3.0179275.1929.22-0.36310103.1611.31-0.31511423.980.13212001.28-1.47513110.380.85914110.101.258포아송 확률 모형에 잘 적합되는지 알아보기 위해 DRRS를 구하여 자료를 분석한다. 어느 하나의 DRRS 값이 (-3,+3) 구간의 범위를 벗어나면 주어진 자료가 포아송 확률 모형과 맞지 않는 것으로 결론 지어도 좋다. 위의 자료를 보면 8번째 관측값이 (-3,+3)의 범위를 벗어나고 있으므로 위 자료는 포아송 확률모형에 적합하지 않다고 할 수 있다.여기서, X의 평균 ={(0 TIMES 57+1 TIMES 203+2 TIMES 383+3 TIMES 525+4 TIMES 532+5 TIMES 408+6 TIMES 273+7 TIMES 139+8 TIMES 45+9 TIMES 27+# 10 TIMES 10+11 TIMES 4+12 TIMES 0+13 TIMES 1+14 TIMES 1)/2608=3.871= lambda2. 2장의 수리통계학 점수 자료에 대하여 정규분포 Q-Q 플롯(정규확률 플롯)을 작성 하고 정규분포에의 적합성에 대하여 어떤 것을 알 수 있는지를 말하라.{{{미니탭을 이용하여 정규확률 플롯을 해본 결과 그래프의 모양이 직선에 가깝고, 루토그램의 DRRes 값이 (-3 , +3)을 벗어나는 값이 없으므로 정규분포를 잘 따른다고 할 수 있다.3. 다음은 갈톤의 조사한 성인 남자의 키(단위:인치) 자료이다. Rootgram 명령어를 사용하여 정규분포에의 적합성을 검토하여라.{자료 A자료 B63 이하23 명23 명63.5202964.5646465.511011066.515515267.519920068.520320469.5빈도를 입력한다. Stat > EDA > Rootogram을 클릭한다.{2 Rootogram 대화창에서 'Frequencies:' 란에 C2를, 'Use bin boundaries in:'란에 C1을 입력하고 OK를 클릭한다.(만일 DRRS나 적합빈도를 저장하려면 'Double root residuals:' 와 'Fits: 에 저장할 열 C3,C4를 입력한다.){{* 참고 *모든 DRRes값이 (-2,2)구간에 있으므로 자료는 정규분포를 따른다고 볼 수 있다.7. 정규분포 Q-Q플롯(정규확률 플롯)에서 기울기 a, 절편이 b인 직선 형태의 패턴이 나타났다고 하자. 이것이 무엇을 뜻하는지 가능한 한 구체적으로 말하여라. 정규분포 Q-Q 플롯에서 절편b는 {mu(평균), 기울기a는 {sigma(표준편차)를 뜻하고, 직선형태 의 패턴이 나타났다는 것은 자료가 N({mu,{sigma ^{ 2 })인 정규분포를 따른다는 뜻이다.7장. 2원 분석1. 다음 데이터는 남자 10만명당 각종 암으로 인한 사망자수와 이에 관련되는 요인으로 생각되 는 흡연량에 관한 것이다. 미니탭 MPOLISH 명령어를 사용하여 적절한 2원 분석을 하여라.{흡연량(gram)01-1415-2425+폐암74786166호흡기암013921위암41361031대장암44543774전립선암55262234{흡연량(gram)01-1415-2425+행효과폐암7-56.063.047-24.571.58621.564.516686.579.542.0호흡기암0-4.54.5130.013.093.06.0210.021.0-16.5위암4120.021.0366.529.510-12.522.531-6.537.50.0대장암440.044.0541.552.537-8.545.57413.560.523.0전립선암5534.520.526-3.029.0220.022.0340.022.0-0.5-3.037.0열효과-5.03.5-3.511.526{Slope = 0.6753 Level = 0.7273 Half-slope ratio = -4.182p=1- 0.675 beta _{j} `/` mu )의 관계가 있다면, 적절한 변환의 차수 {p는 {1-k이다. 예를들어 {k`=`1인 경우 적절한 변환차수는 {p`=`0(로그변환)이다.어떤 수 {x가 0에 가까우면 테일러 공식에 의하여 근사적으로{(1+x) ^{p} CONG 1+px+p(p-1)/2 BULLET x ^{2}의 관계가 성립하므로 {alpha _{i}와 {beta _{j}가 {mu에 비하여 크기가 작다면{y _{ij} ^{p} = mu + alpha _{i} + beta _{j} +k( alpha _{i} BULLET beta _{j} `/` mu ) ^{p}{= mu ^{p} LEFT { 1+ alpha _{i} / mu + beta _{j} / mu +k( alpha _{i} / mu )( beta _{j} / mu ) RIGHT } ^{p}{CONG mu ^{p}{[{1+p LEFT { alpha _{i} / mu + beta _{j} / mu +k( alpha _{i} / mu )( beta _{j} / mu ) RIGHT }{+p(p-1)/2 LEFT { alpha _{i} / mu + beta _{j} / mu +k( alpha _{i} / mu )( beta _{j} / mu ) RIGHT } ^{2}{]{CONG mu ^{p}{[{1+ LEFT { p( alpha _{i} / mu )+p(p-1)/2 BULLET ( alpha _{i} / mu ) ^{2} RIGHT }{+ LEFT { p( beta _{j} / mu )+p(p-1)/2 BULLET ( beta _{j} / mu ) ^{2} RIGHT }{+ LEFT { (pk+p(p-1))( alpha _{i} / mu )( beta _{j} / mu ) RIGHT }{]가 된다. 이 근사 계산에서는 {(alpha _{i} / mu )와 {( beta _{j} / mu )의 2차항까지만 고려되었다). 따라서 변환이후의 자료값 {y _{ij} ^{p}이 행과 열의 가법적 형태로 표현되려면 행과 열의152569-10.*************4.35856151.106-11996.40.15682-9.*************4.43658165.306-115580.173221-6.*************4.49337176.477-11794.70.168407-5.*************4.515180.925-14259.30.128419-12.1161981354244.5493188.213-156240.101105-15.*************4.57841194.628-17222.60.068604-19.*************4.62961206.446-16537.20.058195-18.*************4.67257216.912-16160.90.039538-19.*************4.70528225.238-16534.50.010639-21.*************4.75059237.297-15011.2-0.00567-20.1181987641694.80733253.316-11206.8-0.01054-14.*************4.87109272.613-5112.4-0.00839-6.*************4.91483286.691-1293.1-0.02626-2.91071990943834.97489307.2186843.3-0.027816.88719911043745.01859323.0712779.6-0.0457312.009519921152445.06162339.47619595-0.0643117.686919931277345.10631357.39928030.4-0.0812424.880819941465415.16596382.80742782.7-0.083239.559719951632705.21291404.06755457.1-0.0978650.090819961824705.26119427.16570602.4-0.1111962.4619972007845.30273448.08984861.8-0.1312772.6553각각에 대하여 기울기를 구하여보면 아래와 같이 나온다.Resi124
7장. 2원 분석1. 다음 데이터는 남자 10만명당 각종 암으로 인한 사망자수와 이에 관련되는 요인으로 생각되 는 흡연량에 관한 것이다. 미니탭 MPOLISH 명령어를 사용하여 적절한 2원 분석을 하여라.{흡연량(gram)01-1415-2425+폐암74786166호흡기암013921위암41361031대장암44543774전립선암55262234{흡연량(gram)01-1415-2425+행효과폐암7-56.063.047-24.571.58621.564.516686.579.542.0호흡기암0-4.54.5130.013.093.06.0210.021.0-16.5위암4120.021.0366.529.510-12.522.531-6.537.50.0대장암440.044.0541.552.537-8.545.57413.560.523.0전립선암5534.520.526-3.029.0220.022.0340.022.0-0.5-3.037.0열효과-5.03.5-3.511.526{Slope = 0.6753 Level = 0.7273 Half-slope ratio = -4.182p=1- 0.6753 =0.3247 이 되므로 세제곱근 변환을 해준다.{흡연량(gram)01-1415-2425+행효과폐암1.91293-2.083113.996053.60883-0.619914.228744.414000.482823.931195.495860.859544.636331.12915호흡기암0.00000-2.118652.118652.351330.000002.351332.080080.026302.053792.758920.000002.75892-0.74825위암3.448220.663052.785173.301930.284073.017862.15443-0.565882.720313.14138-0.284073.42545-0.08173대장암3.530350.000003.530353.779760.016733.763043.33222-0.133273.465494.198340.027714.170630.66345전립선암3.802950.936052.866902.96250-0.137093.099592.802040.000002.802043.23961-0.267573.507180.00000열효과-0.1163450.116345-0.1812040.5239342.98324{Slope = 0.1946 Level = 0.0050 Half-slope ratio = -0.807p= 1- 0.1946 = 0.8254 이 되므로 적합하다고 할 수 있다.2. 중위수 분해(median polish)를 이용한 2원 분석에서 잔차(세로축)와 비교값(수평축)의 플롯이 기울기 {k인 직선 패턴을 보이는 경우 반응 {y_{ ij }을 행 + 열 로 적합하기 위하여 필요한 적절한 방법은 {p`(`=`1`-`k)승 변환을 하는 것이다. 그 이유를 밝혀라.잔차와 비교값의 플롯으로부터 원자료의 변환을 위한 차수를 알수 있다고 하였다. 잔차와 비교값의 플롯에서 기울기가 {k인 직선이 적합된다면, 즉{y _{ij} = mu + alpha _{i} + beta _{j} +k( alpha _{i} BULLET beta _{j} `/` mu )의 관계가 있다면, 적절한 변환의 차수 {p는 {1-k이다. 예를들어 {k`=`1인 경우 적절한 변환차수는 {p`=`0(로그변환)이다.어떤 수 {x가 0에 가까우면 테일러 공식에 의하여 근사적으로{(1+x) ^{p} CONG 1+px+p(p-1)/2 BULLET x ^{2}의 관계가 성립하므로 {alpha _{i}와 {beta _{j}가 {mu에 비하여 크기가 작다면{y _{ij} ^{p} = mu + alpha _{i} + beta _{j} +k( alpha _{i} BULLET beta _{j} `/` mu ) ^{p}{= mu ^{p} LEFT { 1+ alpha _{i} / mu + beta _{j} / mu +k( alpha _{i} / mu )( beta _{j} / mu ) RIGHT } ^{p}{CONG mu ^{p}{[{1+p LEFT { alpha _{i} / mu + beta _{j} / mu +k( alpha _{i} / mu )( beta _{j} / mu ) RIGHT }{+p(p-1)/2 LEFT { alpha _{i} / mu + beta _{j} / mu +k( alpha _{i} / mu )( beta _{j} / mu ) RIGHT } ^{2}{]{CONG mu ^{p}{[{1+ LEFT { p( alpha _{i} / mu )+p(p-1)/2 BULLET ( alpha _{i} / mu ) ^{2} RIGHT }{+ LEFT { p( beta _{j} / mu )+p(p-1)/2 BULLET ( beta _{j} / mu ) ^{2} RIGHT }{+ LEFT { (pk+p(p-1))( alpha _{i} / mu )( beta _{j} / mu ) RIGHT }{]가 된다. 이 근사 계산에서는 {(alpha _{i} / mu )와 {( beta _{j} / mu )의 2차항까지만 고려되었다). 따라서 변환이후의 자료값 {y _{ij} ^{p}이 행과 열의 가법적 형태로 표현되려면 행과 열의 혼합항 {( alpha _{i} / mu )( beta _{j} / mu )의 계수가 {pk+p(p-1)=0이어야 한다. 즉, {p=1-k여야 한다.