[系统转发] 探索性的因子分析

Kenneth

学习者，谢谢您。
我的书里的因子分析的一章，用的就是「中位法」（Centroid Method）开始的。请给我多一点时间，我试试可不可以贴上来。    Kenny

Kenneth

(1)假设x1与x2是两个变量。如果我们找到了一个因子，x1在它的载荷是λ1，x2在它的载荷是λ2。用我日志上的符号：
x1 = λ1 F + u1
x2 = λ2 F + u2 
从上式可以看见，F与x1的关系，其实就像一个回归分析，x1是因变量，F是自变量，λ1是回归系数。如果F与x1都是标准化的话（平均值=0；标准差=1），λ1就是F与x1的相关系数。

用数学符号来讲，x1与F的相关系数是：
= Cov（λ1 F + u1 ，F）
= Cov（λ1 F ，F）                      因为u1与F不相关
=λ1Cov（F ，F）                        F的方差是1
= λ1

(2)要怎么算呢？
F = λ1 x1 + λ2 x2
有了x1和x2，我们估计了λ1 和 λ2 ，就可以计算F了。
计算了F以后，F就变成一个新的变量。我的意思是F与x1的相关其实就是λ1。

(3)“Residual Matrix after reflection”。 请问，reflection的中文在这是指什么？
在我给你的文章里的12页，我说：『可是，在估计第二因子以前，我们看见残余矩阵内有很多负数。所以我们要做一个叫做「反映」（reflection）的动作。「反映」其实是把某些变量改变符号而已。因为x4，x5和x6 的残余相关有很多负数，我们把这三行的残余相关改变了符号。』
Reflection就是「反映」，把其中一些残余相关的符号改变，从负变成正。   Kenny 

@回复 Wu 9楼 （Kenneth）
I am using the library computer and sorry to type Chinese. 

Kenny, how does this equation, "F = λ1 x1 + λ2 x2", come?

From "x1 = λ1 F + u1,x2 = λ2 F + u2", F sould equal to (x1-u1)/λ1 or 
(x2-u3)/λ2. 

谢谢Kenny的解惑。确实在网上写这些非文字的内容太急人了，但是我在网上没有找到你的书阿？只是觉得在网上学习太慢了

清楚了，非常谢谢您。
ㄧ个小提醒：您在「管理研究理论和贡献探讨1」172楼给我的答复曾提过 『Cluster analysis是「聚类分析」。我会解释因子分析跟聚类分析有什么不一样。』 谢谢！

Kenneth

问：how does this equation, "F = λ1 x1 +  λ2 x2", come? 
对不起，写错了。 λ1和 λ2 在这条方程式是常数，不是因子载荷。这几个常数怎么猜，众说纷纭。我猜最简单的应该是OLS（最小平方法）。因为在用因子矩阵（F）来代表X（观察变量的矩阵）的时候有“误差”（或者叫独特部分），所以因子F不可以尽表现X，在用因子数（factor score）来代表Ｘ的时候，误差的部分就要剔除（这就好像在做回归的时候，我们要剔除误差，只要估计的Ｙ，Y-hat，一样）。原来是Ｘ＝ＦＢ’+ U （U是误差） 的。如果拿走了误差，我们就有：
Ｘ＝ＦＢ’ （X是观察变量矩阵，F是因子数factor score，B是因子载荷）。
经过以下推导就是找因子数的其中一个方法（如果我没错的话）：
Ｘ＝ＦB’
XB = F B’B
XB(B’B)-1=F
所以因子数factor score F= XB(B’B)-1
**你写的两条方程都不对的。因为我们不知道ｕ1 和ｕ2是多少，这样是解不到F出来的。   Kenny

Kenneth

如果我们的数据是10个变量x 100 个数据点的话（一个数据点可能是一个员工、一个团队、一家企业等），
Factor analysis 「因子分析」是减少变量的方法。我们用几个因子（比如2个因子），来代表10这个变量。
Cluster analysis「聚类分析」是减少数据点的方法。我们可能用5个类型（cluster）来代表这100个数据点。经过了聚类分析，可能100 个员工都分成5类型的员工了。      Kenny

@回复 Twotwo 12楼 (Kenneth)

Kenny，多谢您的回复。我知道您尽量让大家多知道一些，但是我却有更多疑问，资质愚钝，诸多问题还要脸皮厚，真不好意思。
1.Y-hat 是什么？
2.是不是从“F = λ1 x1 +  λ2 x2”，即F＝BX推出“Ｘ＝ＦＢ’+ U （U是误差）”
3.在“Ｘ＝ＦＢ’+ U （U是误差）”中，Ｂ’是矩阵吧？那么B是Ｂ’的转秩矩阵(transposed matrix,即把原矩阵行列互换)吗？还是说B是Ｂ’的逆矩阵（inverse matrix）。
4.我在大陆学的教材中，Ｂ’是转置矩阵的意思。B-1(类似“B的-1次方”的写法)是表示逆矩阵。若Ｂ’是转置矩阵的意思，那么Ｂ’Ｂ有什么用呢？
5.在“F= XB(B’B)-1”中，F转化为这样子有什么用吗？是不是说X通过问卷统计得到，Ｂ’用OLS求出，所以F就可以估计了？如果Ｂ’用OLS求出，那么为什么还费劲用F= XB(B’B)-1求F，直接用F＝XB’不就可以了吗？
5.如果您有时间，请解释一下怎么用OLS求出Ｂ’，好吗？

Kenneth

1.Y-hat 是什么？ 
Y-hat 是回归分析中估计出来的Y值。
2.是不是从“F = λ1 x1 +  λ2 x2”，即F＝BX推出“Ｘ＝ＦＢ’+ U （U是误差）” 
我的意思是我写错了，应该是F =w1 x1 +  w2 x2 （wk 是要估计出来的常数，回归法是其中一种猜的方法）。
Ｘ＝ＦＢ’+ U 是我原来写的公式（1）到（4）的矩阵表达。
3. B是Ｂ’的转秩矩阵(transpose)，Ｂ-1是B逆矩阵（inverse，类似“B的-1次方”的写法）。 我有把-1变成指数（升高、变小，像平方一样）的。只是系统不接受，在我贴上去的时候把它还原了。
4.若Ｂ’是转置矩阵的意思，那么Ｂ’Ｂ有什么用呢？ 我的理解是B是因子载荷，所以在我的例子中是一个向量。一个向量乘自己的transpose就等于所有的数值的平方和。
5.在“F= XB(B’B)-1”中，F转化为这样子有什么用吗？
X是我们原来的数据，Ｂ是估计出来的（比如用主成份法）。因为X与B都是已经知道的，所以F就可以计算了。用我的推导来求F（即乘于transpose,再求逆矩阵，这样乘出来求F的方法，叫做回归法。另外还有起码三四种方法求F）。 
5.如果您有时间，请解释一下怎么用OLS求出Ｂ’，好吗？
没有用ＯＬＳ求Ｂ＇。我只介绍了一种求因子载荷的估计方法，叫做「主成份法」。ＯＬＳ是用来求Ｆ的，不是求Ｂ的。　　　　　 Kenny

您提到：Residual Matrix after reflection其实就是把某些变量改变符号而已。因为x4，x5和x6 的残余相关有很多负数，我们把这三行的残余相关改变了符号。Reflection就是「反映」，把其中一些残余相关的符号改变，从负变成正。
我想请问，怎么把负变成正？谢谢。关于您因子分析的ppt能否也给我发一份，me_mo@163.com 谢谢