中人网

标题: 變數平均數大小和迴歸係數有關係嗎 [打印本页]
作者: chienhsin    时间: 2011-7-21 13:36
标题: 變數平均數大小和迴歸係數有關係嗎
請問Kenny和大家：
/ w* p. E6 o" p# j$ u& a
& e" S/ z" k; R. Z3 V2 [! ~& {9 v9 B/ w: `& @9 k
數據分成兩組，" C- e; t1 h* ?# {

' Q7 s2 z' T- I; t; s* t               第一組                         第二組
: Z# B  f1 D" h* Y' d: l( \" s6 a----------------------------------------------------------
1 H& Q# N; r9 T4 A! F& O: OY              mean(Y)      >           mean(Y)     
0 `1 m0 V7 d$ k9 V# uX1           mean(x1)    >            mean(x1)
# E% m) J, r) t8 t& L  b6 jX2           mean(x2)    >            mean(x2)
5 x0 `9 ~0 i/ t" d) }2 I2 ~: W0 D) N) r9 P/ |
以上三個變數，第一組的平均數都顯著大於第二組0 M, r6 G) E5 h% c* m9 y

1 C# @: O; }0 ?$ a6 E% j9 _  M! A迴歸分析結果是
& D  u8 A2 [7 ~; s
$ o. F+ E3 G# E: V; T  p0 `                   第一組                   第二組
, \% t' T! D2 k$ \- E( S                        y                              y
) V% M6 B4 Y2 @" `/ B! ^% I/ G---------------------------------------------------------------------) M! z& o3 s$ I1 k9 D+ d& _
x1                b1            <                b1
+ U: f) @4 z, T! g% z* K& a# k x2                b2            <               b2
+ y& s4 o/ c- E% m6 s--------------------------------------------------------------------
* i, D; a0 C5 N) O: }b之間的差異也是顯著。4 M1 h3 ]8 z. E" b8 s0 I
3 o( Q$ c9 x' s$ I; ^4 `; t
第一組：雖然x 1, x2, y 平均分數高，但x1 , x2對y 影響不大。1 o9 h& s$ o: _0 I1 `
第二組：雖然x1,  x2, y分數低,  但x1 , x2對y影響很大。
3 ?3 ~5 Q) J) D+ D' I9 L0 {+ V; Z3 G以上是實際數據的結果，覺得解釋起來怪怪的。
& h8 N0 p" }9 z; I  |6 k6 @+ [+ V5 }( T5 M# T- T
從b1, b2的公式看起來，是與mean(x1), mean(x2), mean(y)有關係。+ f3 a9 p% p8 i% {  M2 i. }
但與x1, x2, y分佈的情形應該更有關係，x分佈更集中，b越大。
" q' O5 l" o8 C/ {( N8 `1 A, q' V7 B8 B* c( ^( v
我的問題是，平均數的絕對大小會影響迴歸分析時的效果大小嗎？+ \8 u* j4 ]$ t) I4 K
平均數與beta 兩者之間有沒有絕對的關係？: Z7 o, u6 N! N* C$ {+ {3 k
+ h/ }3 V2 H+ {
謝謝Kenny和大家。
& J2 n, i) j* [- E+ U3 p' `+ i- D2 g- h7 y

( u) @' r2 p2 ^% e6 }; V% Y) X2 H+ F' A, J( V/ A- i

: j4 ?; h9 Z) W; g$ m$ g3 ]9 {8 k+ Y! i# g# v& x# }% L
5 O2 n5 H8 g. H+ r
作者: Kenneth    时间: 2011-7-23 15:39
chienhsin，你做了一个假设，就是x1,x2和y的关系，无论当x是大是小，应该此终不变的，是吗？
, a1 u8 Z9 |) Y# v. k「当x1与x2小时，对y的影响小」；「当x1与x2大时，对y的影响大」； 有什么奇怪呢？只要x与y 的关系不是线性的就可以了。比如平方的关系，或是对数的关系都会是这样的。意思是说，只要你多加一个X-square项，或是用logX，这个问题就应该明显减少了。
作者: chienhsin    时间: 2011-7-23 16:50
回复 2楼 Kenneth 的帖子* M$ r2 R+ ?" r
謝謝Kenny。
5 ~' @* q3 |/ f. z
8 m2 d% M3 G/ P4 W3 D我的問題可能沒問好，重新敘述一次。( F( r8 F; q# b  D

% i2 Z% W8 o# N" I- R我把數據分成兩組，x1, x2, y平均數 小 的那組，x1, x2 -->Y影響 大；
, ]' h6 ^4 v* @* h9 e5 M                                    x1, x2, y平均數 大 的那組，x1, x2 -->Y影響 小。
& \4 |) X4 z/ [! M$ a0 N- U
! e- N3 A# ?- m) a這結果正常嗎？, }0 s; Z; `! Y1 c7 j8 P
- n9 N8 W1 d' \, b$ E. ]
  k$ R  b; c* o$ z6 A. Q  ~

' s* m8 o+ H* H# m- w
8 U( I4 ]) [. w" Q% |' p, u  h 本帖最后由 chienhsin 于 2011-7-23 17:00 编辑 , y( s: U1 R5 Q  m- O; B) u  `) o

  Q/ k1 @% v' a* U5 x" r
作者: Kenneth    时间: 2011-7-24 14:13
回复 3楼 chienhsin 的帖子
( ^8 J8 U$ _" o5 Dchienhsin,我看不见我有误会你的话。/ u4 n% r: i9 v" r. y
第一、问题不需要两个X。: p6 L/ O% l% D- K( R% e+ @3 Z% G# E
第二、当X与Y大时，X对Y的影响小。当X与Y小时，X对Y的影响大。$ ~0 O/ c) `7 y3 N8 p  M
如果X与Y的关系是对数（log），或是倒U形的前半部，就符合你的观察了。5 X( a; F% j2 N8 X
$ l7 {( b5 m$ _( r

+ k0 [* }# f9 l   
作者: chienhsin    时间: 2011-7-25 17:31
回复 4楼 Kenneth 的帖子2 }" b; g, v2 P$ l& f+ _
2 z( r: h- z/ `
謝謝Kenny，瞭解了。1 U  ?, t: O& m7 X5 b# }
1 R& @; v/ B) ^! K
再請問：x 與 x-square 兩者有高度共線性，哪種處理方法是適合的？
7 \' d  s5 T$ N" }/ s/ K& h. v; S我查了幾篇估計"倒U"的paper，他們並沒有交代怎麼處理，不過x and x-squre似乎是一定有高共線性的。/ N7 L% Z" y; g8 T3 c/ d

" r2 a/ S# Q+ T
  n4 e' d* H* Y% g8 C7 Q% q 本帖最后由 chienhsin 于 2011-7-25 17:54 编辑
- O; H: t5 H( c: M" K
1 h# O( @) C/ a. C2 I
作者: Kenneth    时间: 2011-7-25 20:54
回复 5楼 chienhsin 的帖子
0 Y' `$ {, o* b5 x6 p没有留意有特别处理的。可能就是为什么显著这么难吧。
% e. d; ^3 M, W" I7 q7 j. s
% R8 |5 G$ x" [' O# R8 I/ b   



欢迎光临 中人网 (http://bbs.chinahrd.net/) Powered by Discuz! X2.5