AB=(0,3,3)、CD=(2,2,1)より P=(4,3p−5,3p+2),Q=(2q−1,2q−1,q+4).
(1) O,P,Qが一直線上にあるとき、P=OなのでQ=tPとおける。第1、第2成分の関係から 4(2q−1)=(2q−1)(3p−5),(2q−1)(3p−9)=0. q=21ならQ=(0,0,29)となりQ=tPに反する。よってp=3。第1、第3成分を等置して 4(q+4)=11(2q−1),q=23.
(2) PQ=Q−P=(−5+2q,4+2q−3p,2+q−3p)。直線PQがABと垂直である条件はPQ⋅AB=0だから 3(4+2q−3p)+3(2+q−3p)=0, すなわち2−2p+q=0。
(3) 線分PQの長さが最小となるとき、PQは両直線の方向ベクトルに垂直である。よって PQ⋅AB=0,PQ⋅CD=0. 第1式はq−2p+2=0、第2式は9q−9p=0となるのでp=q=2。従って P1=(4,1,8),Q1=(3,3,6). さらに、この候補が実際に最短となることを確かめる。a=(0,3,3)、b=(2,2,1)、w=(−1,2,−2) とおく。任意の p,q に対して PQ=w+(q−2)b−(p−2)a. w⋅a=w⋅b=0 だから ∣PQ∣2=∣w∣2+∣(q−2)b−(p−2)a∣2≧9. p=q=2 で等号が成立する。また等号なら第1成分から 2(q−2)=0、続いて (p−2)a=0 なので p=q=2 に限る。従って上記の P1,Q1 が唯一の最短となる組である。
P1Q1=(−1,2,−2)とすると、平面P1Q1A、P1Q1Cの法線ベクトルとしてそれぞれ n1=(4,1,−1),n2=(−2,1,2) をとれる。従って cosθ=∣n1∣∣n2∣∣n1⋅n2∣=18⋅39=21. 0≦θ≦2πよりθ=41π。