点 P=(1,0), Q=(α,β) とおく。ただし α=k2+11,β=k2+1k>0,α2+β2=1 である。
1. P の移り先が Q なので a=α, c=β である。また Q の移り先について α2+bβ=1,αβ+dβ=0. β>0 と α2+β2=1 より b=β, d=−α。したがって a=k2+11,b=c=k2+1k,d=−k2+11.
2. 固定点では x′=x, y′=y だから (1−α)x=βy,βx=(1+α)y. これらは β2=(1−α)(1+α) により同じ直線を表す。よって y=1+αβx=k2+1+1kx.
3. m=1+αβ=k2+1+1k とおき、 ℓ:px+qy+ρ=0(p,q は同時に0ではない)とする。 変換後も ℓ 上にある条件は (pα+qβ)x+(pβ−qα)y+ρ=0 が px+qy+ρ=0 上の全点で成り立つことである。したがってある実数 λ に対し pα+qβ=λp,pβ−qα=λq,ρ=λρ. 最初の二式を二乗して加えると p2+q2=λ2(p2+q2) となるので λ=1 または λ=−1。
λ=1 のとき q=mp で ρ は任意だから、 ℓ: x+my+ρ=0(ρ は任意の実数). λ=−1 のとき q=−p/m かつ ρ=0 だから、 ℓ: y=mx. 以上が条件を満たす直線である。
4. x+my+ρ=0 の傾きは −1/m<0 なので、傾きが正の直線は y=mx である。t=tanθ=m とおくと 0<t<1 であり、 t(k2+1+1)=k. これを平方して整理すると (1−t2)k2−2tk=0. k>0 より k=1−t22t=1−tan2θ2tanθ.