方向ベクトルの表現について

長さが 1 の方位ベクトル (x, y, z) を表現したい場合がある。長さが1だから、自由度は 2 である。しかし、x と y 成分を与えても、z の値は南半球と北半球の二通り $\pm\sqrt{1 - x^2 - y^2}$ あって、一意には決まらない。つまり、これは筋が悪い表現方法である。

非線形最小二乗法などのために、変化を局所的に線形化することがある。この場合も、 $(x + \del x, y + \del y, \sqrt{1 - (x + \del x)^2 - (y + \del y)^2}$ のように展開するのはよくない。上述の z 成分の符号の自由度があるからだ。しかし、z 成分も二乗以上の微小量を無視すると、 $(x + \del x, y + \del y, z - \del x - \del y)$ は、実際、元のベクトルと長さが一致しているので、つじつまはあっている。とはいえ、最小二乗法と相性がよいのは、極座標・球面座標系である。

REFIX 論文(W. Kabsch "Automatic indexing of rotation diffraction pattern" J. Appl. Cryst. (1998). 21, 67-72) の式 8 を例に工夫を見てみよう。ここでは、入射ビームが
$\mathbf{s_0} = \begin{pmatrix}-\sin\eta\cos\kappa/\lambda\\\sin\kappa/\lambda\\\cos\eta\cos\kappa/\lambda\end{pmatrix}$
と球面座標系で表現されている。この表現の場合、 $\kappa$ がほぼ 90 度になる状況では、 $\eta$ の値が縮退してしまう。しかし、実験室座標系は回転軸が $\mathbf{e_2}$ 方向を向くように取られているので、回転軸と入射ビームが一致するという実際にはありえない状況にならない限り、特異点の問題は発生しない。うまく考えてあるのだ。