1. Why Eigendecomposition?

这本书的解释很有意思。正如我们喜欢把整数分解成几个质数的乘积形式,将一个矩阵表示成特殊矩阵的乘积同样能够得到更多关于矩阵的信息。

所以为什么需要特征分解?

这里要再次强调一下特征方程的elegent,确实是非常强大。

Av=λv

这是什么意思呢,就是说一个矩阵对一个向量进行的操作,结果居然仅仅是对这个向量的缩放。对于一个input, 将一个矩阵A与它相乘,结果可以将这个向量在想要的方向上进行放缩。

  1. PCA的理解

有幸看到第三种介绍PCA的思路。作者从编码解码入手,说明如果想要通过编码将input变成f(x)=c,再利用解码器将c变成g(c),那么要使得x-g(f(x))尽可能的小。因此优化目标就从这里入手的。很有意思的思路,推导在书上的49页-52页。

Advertisements