ユニタリ行列

随伴行列(転置共軛)が元の行列の逆行列となる行列を、「ユニタリ行列」といいます。
転置行列と随伴行列 - 数式で独楽する
 共軛複素数 - 数式で独楽する
 共軛複素数その2 - 数式で独楽する
直交行列の複素数版です。
直交行列 - 数式で独楽する

行列 $A=(a_{ij})$ がユニタリ行列の場合、
\begin{equation}
A^* = A^{-1}
\end{equation}を満たします。
書き換えると、
\begin{eqnarray}
A^* A &=& I \tag{1}\\
AA^* &=& I \tag{2}
\end{eqnarray}です。$I$は単位行列です。

行列$A$を
\begin{equation}
A = (\boldsymbol{a}_1 \ \boldsymbol{a}_2 \ \cdots \ \boldsymbol{a}_n)
\end{equation}とします。各 $\boldsymbol{a}_i$ は成分を縦に並べた列ベクトルで、それを横に並べて行列にしています。
随伴行列は、
\begin{equation}
A^* = \left( \begin{array}{c} {\boldsymbol{a}_1}^* \\ {\boldsymbol{a}_2}^* \\ \vdots \\ {\boldsymbol{a}_n}^* \end{array} \right)
\end{equation}です。各 ${\boldsymbol{v}_i}^*$ は成分を横に並べた行ベクトルです。

式(1)は、
\begin{equation}
A^* A = \left( \begin{array}{c} {\boldsymbol{a}_1}^* \\ {\boldsymbol{a}_2}^* \\ \vdots \\ {\boldsymbol{a}_n}^* \end{array} \right)
(\boldsymbol{a}_1 \ \boldsymbol{a}_2 \ \cdots \ \boldsymbol{a}_n)
= \left( \begin{array}{cccc}
1 &&& 0 \\
& 1 && \\
&& \ddots & \\
0 &&& 1
\end{array} \right) \tag{3}
\end{equation}と書けます。

式(3)の成分を比較すると、
\begin{equation}
{\boldsymbol{a}_i}^* \boldsymbol{a}_j =\delta_{ij} = \left \{ \begin{array}{cc}
1 & (i=j) \\
0 & (i \ne j)
\end{array} \right. \tag{3}
\end{equation}です。
式の左辺は、

ベクトル $\boldsymbol{a}_i, \boldsymbol{a}_j$ の内積であり、
大きさは1
互いに直交する

ことを示しています。

式(2)については稿を改めます。
ユニタリ行列その2 - 数式で独楽する

補足

式(3)の左辺について説明します。
\begin{equation}
\boldsymbol{u} = \left( \begin{array}{c} u_1 \\ u_2 \\ \vdots \\ u_n \end{array} \right) , \quad
\boldsymbol{v} = \left( \begin{array}{c} v_1 \\ v_2 \\ \vdots \\ v_n \end{array} \right)
\end{equation}なる列ベクトルに対し、
\begin{eqnarray}
{\boldsymbol{u}}^* \boldsymbol{v} &=& (\overline{u_1} \ \overline{u_2} \ \cdots \ \overline{u_n})
\left( \begin{array}{c} v_1 \\ v_2 \\ \vdots \\ v_n \end{array} \right) \\
&=& \overline{u_1} v_1 + \overline{u_2} v_2 + \cdots + \overline{u_n} v_n
\end{eqnarray}となります。これは、ベクトルの内積そのものです。