- 追加された行はこの色です。
- 削除された行はこの色です。
この記事はまだ書きかけです．
*はじめに [#o4d4ae9e]
ここでは，Rを使って独立成分分析を行います．
*準備 [#qdba8032]
Rのインストールについては，次のページを見てください．
-[[MacでRを使う>機械学習/MacでRを使う]]
-[[WindowsでRを使う>機械学習/WindowsでRを使う]]
独立成分分析は，''fastICA''パッケージに含まれています．
そこで，fastICAパッケージをインストールします．
install.packagesコマンドを実行すると，パッケージをダウンロードするサーバーを聞かれますので，リストからJapanのどれかを選択します．
#geshi(rsplus){{
> install.packages("fastICA")
> library(fastICA)
}}
*独立成分分析 [#w5afa714]
独立成分分析 (Independent Component Analysis, ICA) は，''多変量解析''の一手法で，高次元の数値データを（独立に生起している）複数の成分に分解する手法です．
複数の人が同時に話をすると，音声信号が混ざってしまいます．
これを複数のマイクで拾って，元の成分に分解するのによく使われています．
[math]n[/math] 個の''信号源''から発生し（て混ざっ）た信号 [math]s_1, \dots, s_n[/math] を [math]m[/math] 個のセンサーで観測し [math]x_1, \dots, x_m[/math] を得たとします．
独立成分分析は，観測した [math]m[/math] 個のデータ [math] x_1, \dots, x_m[/math] から [math]n[/math] 個の（独立な）信号源から発生した [math]n[/math] 個のデータ [math]s_1, \dots, s_n[/math] に復元します．
例として，2つの信号源（音源）からそれぞれ次のような信号（音） [math]s_1[/math] と [math]s_2[/math] が発生しているとします．
#ref(./signal.png,50%)
二つの信号源からちょうど同じ距離の地点でこの信号を観測すると，この信号が1:1の割合で混ざって観測されます．
\[ x_1 = 0.5 s_1 + 0.5 s_2 \]
また，二つの信号源からの距離が4:1の地点でこの信号を観測すると，次のようになります．
\[ x_2 = 0.4 s_1 + 0.1 s_2 \]
このような条件を満たす地点は二つの信号源を結ぶ直線と直行する直線上に無数に存在し，係数の大きさは信号源からどのくらい離れているかに比例します．
ここでは，上のような係数だとします．
上の図の信号をこのようにして観測すると，次のような信号が得られます．
#ref(./observed.png,50%)
観測した [math]x_1[/math], [math]x_2[/math] の相関行列を求めると次のようになりました．
\[ \left[ \begin{array} -0.08 & -0.12 \\ 0.12 & 0.06 \end{array} \right] \]
これを単位行列に変換する処理を''白色化''といいます．
[math]x_1[/math], [math]x_2[/math] を白色化した後の座標をそれぞれ [math]z_1[/math], [math]z_2[/math] とすると，相関行列を単位行列になっているので，[math]z_1[/math] と [math]z_2[/math] の相関がなくなっていて，それぞれの分散（標準偏差）が1に正規化されます．
上の観測データを白色化すると次のようになります．
#ref(./whitened.png,50%)
最後に，白色化したデータを2つの変数がもっとも独立するように原点で回転させます．
#ref(./estimated.png,50%)
*独立成分分析を行う [#h217a2d0]
標準で使える''irisデータセット''に対して，主成分分析を行ってみましょう．
標準で使える''irisデータセット''に対して，独立成分分析を行ってみましょう．
#geshi(rsplus){{
> data(iris)
}}
このデータセットは，アヤメの種類（Species）を花びらの長さ（Sepal.Length），幅（Lepal.Width），がくの長さ（Petal.Length），幅（Petal.Width）によって分類する問題です．
長さと幅は連続値，種類はsetosa, versicolor, virginicaのいずれかをとる離散値です．
このデータセットには，setosa, versicolor, virginicaという3種類のアヤメについて，それぞれ50個ずつ，合計150個のデータが含まれています．
ランダムに10個のデータを選択して，見てみましょう．
#geshi(rsplus){{
> iris[sort(sample(1:150,10)),]
Sepal.Length Sepal.Width Petal.Length Petal.Width Species
4 4.6 3.1 1.5 0.2 setosa
22 5.1 3.7 1.5 0.4 setosa
65 5.6 2.9 3.6 1.3 versicolor
97 5.7 2.9 4.2 1.3 versicolor
100 5.7 2.8 4.1 1.3 versicolor
108 7.3 2.9 6.3 1.8 virginica
116 6.4 3.2 5.3 2.3 virginica
122 5.6 2.8 4.9 2.0 virginica
136 7.7 3.0 6.1 2.3 virginica
146 6.7 3.0 5.2 2.3 virginica
}}
#geshi(rsplus){{
> a <- fastICA(iris[1:4], 1)
}}
#geshi(rsplus){{
> plot(a$S)
}}
#ref(./ica.png,50%)
![[PukiWiki]](https://xn--p8ja5bwe1i.jp:443/wiki/image/banner.png "[PukiWiki]")
