ミケ猫の小部屋

情報学、数学、語学および料理(暫定)について発信します

【線形代数あるある】行列の掛け算とベクトル内積はどんな関係?

最近卒論関係で、論理行列と01列の掛け算に触れる。そこで思ったが、実ベクトルと実行列の掛け算は行列の行とベクトルの内積に掛ける。01列と論理行列はなかなかそうとはいかない。

01列からなる線形空間と論理行列

01列の集合は線形空間なり

長さが3の01列の集合は線形空間だったことは以下の手順で証明できる。まずはベクトルの足し算定義です。


\begin{pmatrix}
x1 \\
x2 \\
x3 \\
\end{pmatrix}
+
\begin{pmatrix}
y1 \\
y2 \\
y3 \\
\end{pmatrix}
=
\begin{pmatrix}
x1 \oplus y1 \\
x2 \oplus y2 \\
x3 \oplus y3 \\
\end{pmatrix}

つまり二つの01列の足し算はビットごとのxorとして定義される。例えば010と110の足し算は101で。値の異なるビットは計算後1になる。そうでないビットは0になる。そして整数01とベクトルの掛け算は


1\begin{pmatrix}
x1 \\
x2 \\
x3 \\
\end{pmatrix}
=
\begin{pmatrix}
x1 \\
x2 \\
x3 \\
\end{pmatrix}
\\
0\begin{pmatrix}
x1 \\
x2 \\
x3 \\
\end{pmatrix}
=
\begin{pmatrix}
0 \\
0 \\
0 \\
\end{pmatrix}

として定義する。ただし、ここの足し算は全てxorで線形空間の公理と一致する。ちなみに長さがN(N=1 2 ... )の01列の集合全て線形空間だったことはこの方法で証明できる。これから論理行列と01列の掛け算に入る。

論理行列と01列の掛け算

前と同じく、三次元01列の場合を説明してN次元に持っていく。 A_{3,3}=(a_{ij}) x_1 x_2 x_3 の掛け算を次のように定義する。


\begin{pmatrix}
a_{11} & a_{12} & a_{13} \\
a_{21} & a_{22} & a_{23} \\
a_{31} & a_{32} & a_{33} \\
\end{pmatrix}
\begin{pmatrix}
x_1 \\
x_2 \\
x_3\\
\end{pmatrix}
=
\begin{pmatrix}
a_{11}x_1+a_{12}x_2+a_{13}x_3 \\
a_{21}x_1+a_{22}x_2+a_{23}x_3 \\
a_{31}x_1+a_{32}x_2+a_{33}x_3 \\
\end{pmatrix}

変換される二進数x_1x_2x_3x_1 100 \oplus x_2 010 \oplus x_3 001とみなせる。つまり基底 E=\lt 100 , 010 , 001 \gt の線形組み合わせだ。そして行列A_{3,3}は一つの100をa_{11}個の100、a_{21}個の010とa_{31}個の001に変換する。010と001に対しての変換もこうやって定められる。先のプロセスを見ると、線形変換はベクトルと数(スカラー)の掛け算あとベクトル同士の足し算しか使わない。そのため内積の定義がなくても、基底の線形組み合わせを別の線形組み合わせに書き換えれば行列の掛け算は成り立つ。

線形空間の場合

結論を先に言うと、実行列とベクトルの積は偶々内積と定義が一致する。行列A_{n,n}=(a_{ij})とn次元ベクトル \vec{x}の積のi番目の成分は y_i = \sum_{k=1}^{n} a_{ik}x_{k}で与えられる。直交正規座標系 E = \lt e_1 \dots e_n \gtの元で a_i=\sum_{k=1}^{n} a_{ik}e_k x=\sum_{k=1}^{n} x_{k}e_k内積


(a_i ,x)=(\sum_{k=1}^{n} a_{ik}e_k ,\sum_{k=1}^{n} x_{k}e_k ) \\
=\sum_{j k} a_{ij}x_{k} (e_j,e_k) \\
= \sum_{k} a_{ik}x_{k}

になる。よく見れば、直交正規基底を取った時の行列表示だけ内積と行列掛け算の定義は一致する。

おまけの複素線形空間

本当に困惑することは複素線形空間の場合。複素線形空間内積は一つのベクトルをその共役ベクトルにしてから、掛け算する。そこで複素行列の掛け算も共役行列取るじゃないかと思うかもしれないが、先言った通り行列は線形組み合わせを表す。それ故に足したり掛けたり出来れば、別に内積と関係していないわけです。