(1) P=(x0,y0) とおく。直線 ℓ の方向ベクトル (1,a) に垂直なベクトルは (a,−1)。 t=a2+1ax0−y0+b,H=P−t(a,−1) と定めると、H の座標は (x0−at,y0+t) であり、 a(x0−at)−(y0+t)+b=ax0−y0+b−(a2+1)t=0. よって H は ℓ 上にある。また PH=−t(a,−1) は ℓ に垂直。 したがって H は垂線の足で、t=0 の場合も含めて距離は PH=∣t∣a2+1=1+a2∣ax0−y0+b∣.
(2)(i) 3点を (1) に代入すれば L=1+a2∣b∣+∣a+b∣+∣b−2∣. (ii) a=−1 のとき L=2∣b∣+∣b−1∣+∣b−2∣=21⎩⎨⎧3−3b3−bb+13b−3(b≦0),(0≦b≦1),(1≦b≦2),(b≧2). 折れ点は (0,3/2),(1,2),(2,3/2)。 これらを上の傾きに従って結ぶ折れ線がグラフであり、最小点は (1,2) である。
(iii) 分子を ∣b−0∣+∣b−(−a)∣+∣b−2∣ とみる。 3数 0,−a,2 を小さい順に u≦v≦w とすると ∣b−u∣+∣b−w∣≧w−u, さらに ∣b−v∣≧0 である。したがって分子は w−u 以上で、 b=v のとき等号が成り立つ。また等号には ∣b−v∣=0 が必要なので最小点は b=v に限る。 よって M(a)=⎩⎨⎧1+a2−a1+a221+a2a+2(a≦−2),(−2≦a≦0),(a≧0). 最小値を与える b は、順に 2,−a,0 である。境界ではいずれの式も一致する。
(iv) a≦−2 では M(a)2=1−1+a21≧54, 等号は a=−2 のときのみ。 −2≦a≦0 でも 1+a2≦5 より M(a)≧2/5 で、等号は a=−2 のときのみ。 a≧0 では (a+2)2−(1+a2)=4a+3>0 より M(a)>1>2/5。 以上から Lmin=52,(a,b)=(−2,2). 実際、この直線は A2,A3 を通り、A1 までの距離が 2/5 である。