【論文掲載】Complex-valued Hopfield associative memories with hybrid connections (2)

前回、対称CVHAMではプロジェクションルールが使えないという問題点が残りました。そこで、次の研究を使って、新しいアーキテクチャを考案しました。
　Quaternion Projection Rule for Rotor Hopfield Neural Networks
ここで使われているプロジェクションルールの大元は次の論文にあります。
　Quaternionic Hopfield Neural Networks with Twin-Multistate Activation Function
新しいアーキテクチャでは、部分的に対称結合を採用しています。回転不変性を防ぐためなら、全て対称結合である必要はありません。

四元数について簡単に説明しておきます。ここでは２つの複素数 $x, y$ を使って、 $x + y j$ と表します。次の２つの性質を抑えておけば十分でしょう。
　　 $j^{2} = - 1$
　　 $y j = j \overset{―}{y}$
２つ目の性質から積は非可換です。入力和の様子を見るために積を計算してみましょう。
　　 $(u + v j) (x + y j) = (u x - v \overset{―}{y}) + (v \overset{―}{x} + u y) j$
アイデアの骨子はニューロンの状態を $x, y$ の一方に与えることです。 $y = 0$ および $x = 0$ として計算してみましょう。
　　 $(u + v j) x = u x + v \overset{―}{x} j$
　　 $(u + v j) y j = - v \overset{―}{y} + u y j$
この結果における成分間の変換をまとめよう。
　 $x$ 成分 $\to$ $x$ 成分： $u x$ 　　 $y$ 成分 $\to$ $y$ 成分： $u y$
　 $x$ 成分 $\to$ $y$ 成分： $v \overset{―}{x}$ 　　 $y$ 成分 $\to$ $x$ 成分： $- v \overset{―}{y}$
異なる成分間の場合のみ複素共役になっています。 $x$ 成分に割り当てたニューロンのグループを第１層、 $y$ 成分に割り当てたニューロンのグループを第２層とします。このとき、同じ層内の結合は共役、異なる層間の結合は対称です。上手くいったように見えますが、実は不十分なのです。前回、２ニューロンでは回転不変性が消えていないことを説明しました。このままではニューロンが層に変わっただけで、層内は順回転、層間は逆回転という回転不変性が生じます。３層にすれば解決しそうですが、どのようにプロジェクションルールを適用すれば良いのでしょうか。それを次回解説します。