データ数を 2n とする。xi=i であり、yi は 2n−k+1,…,2n,1,…,2n−k の順に並んでいる。したがって x,y のデータはともに 1,2,…,2n の並べ替えであるから、 xˉ=yˉ=22n+1,sx2=sy2=2n1i=1∑2n(i−22n+1)2=12(2n)2−1=124n2−1. ここでは i=1∑mi=m(m+1)/2、i=1∑mi2=m(m+1)(2m+1)/6 を用いた。
di=yi−xi とおくと、i≦k では di=2n−k、i≧k+1 では di=−k である。S=i=1∑k(i−xˉ) とすれば i=1∑2n(i−xˉ)=0 より、 sxy=2n1i=1∑2n(i−xˉ)(i+di−yˉ)=sx2+2n1{(2n−k)S−ki=k+1∑2n(i−xˉ)}=sx2+S, なぜなら i=k+1∑2n(i−xˉ)=−S だからである。また、 S=i=1∑k(i−22n+1)=2k(k+1)−2k(2n+1)=−2k(2n−k). よって sxy=124n2−1−2k(2n−k)=124n2−1−6k(2n−k). sx2=sy2>0 であるから、相関係数は r=sxsysxy=sx2sxy=1−4n2−16k(2n−k).
(2) r=0 と仮定すると 6k(2n−k)=4n2−1. k(2n−k)=n2−(k−n)2 を代入して整理すると 6(k−n)2=2n2+1 となる。しかし左辺は偶数、右辺は奇数である。これは矛盾なので、r=0 となる k は存在しない。
(3) k(2n−k)=n2−(k−n)2≦n2 であり、等号は k=n のときに限る。n は 1≦k≦2n−1 を満たすので、この値は許される。r=1−6k(2n−k)/(4n2−1) だから、r は k=n のとき最小となり、 rn=1−4n2−16n2=−4n2−12n2+1. したがって n→∞limrn=n→∞lim4−1/n2−2−1/n2=−21. 検算として n=1,k=1 ではデータは (1,2),(2,1) であり、sxy=−1/4、r=−1 となる。上の式もそれぞれ −1/4,−1 を与える。