變數平均數大小和迴歸係數有關係嗎

chienhsin

請問Kenny和大家：


數據分成兩組，
5 R& M; D( V! |2 b4 Y3 Z
               第一組                         第二組
' C4 y1 \: l4 x4 ^: F9 F0 J5 Q6 K----------------------------------------------------------
Y              mean(Y)      >           mean(Y)     
0 H. x2 g3 M" K2 |1 KX1           mean(x1)    >            mean(x1)
X2           mean(x2)    >            mean(x2)

8 q1 C. g( c# ^  o- g+ [' N! `+ q以上三個變數，第一組的平均數都顯著大於第二組

$ R" f! }+ u* [$ X+ V  z迴歸分析結果是
$ }, u: t1 |& ]" C$ [0 R
                   第一組                   第二組
4 n) v7 l3 L, U+ k# C) b( O( l7 s                        y                              y
---------------------------------------------------------------------
x1                b1            <                b1
x2                b2            <               b2
: _6 q) C6 A' R# O9 e/ p0 r1 y--------------------------------------------------------------------
, c* [" |( I0 h' r8 Z( V+ y  `b之間的差異也是顯著。
1 X5 k2 G8 A$ _# m' y' O2 B& [
* I8 b7 s. V5 C第一組：雖然x 1, x2, y 平均分數高，但x1 , x2對y 影響不大。
第二組：雖然x1,  x2, y分數低,  但x1 , x2對y影響很大。
# L: ?5 J& a) p" a以上是實際數據的結果，覺得解釋起來怪怪的。

從b1, b2的公式看起來，是與mean(x1), mean(x2), mean(y)有關係。
$ v$ c$ o% |6 G' z7 c( m4 D但與x1, x2, y分佈的情形應該更有關係，x分佈更集中，b越大。

9 S2 A$ u% R$ H我的問題是，平均數的絕對大小會影響迴歸分析時的效果大小嗎？
3 ]4 q; Z! G) [  o. r平均數與beta 兩者之間有沒有絕對的關係？
9 w  s. ~. V6 _7 K8 o
謝謝Kenny和大家。

2 m( Y# S8 \9 a) z# ]1 v$ i
% T- \8 ~+ E! w+ s7 l' b

Kenneth

chienhsin，你做了一个假设，就是x1,x2和y的关系，无论当x是大是小，应该此终不变的，是吗？
「当x1与x2小时，对y的影响小」；「当x1与x2大时，对y的影响大」； 有什么奇怪呢？只要x与y 的关系不是线性的就可以了。比如平方的关系，或是对数的关系都会是这样的。意思是说，只要你多加一个X-square项，或是用logX，这个问题就应该明显减少了。

chienhsin

回复 2楼 Kenneth 的帖子
2 j1 D5 Y! y! Z1 x7 d! z謝謝Kenny。

我的問題可能沒問好，重新敘述一次。

: m' x9 d' Y3 w: C9 o我把數據分成兩組，x1, x2, y平均數 小 的那組，x1, x2 -->Y影響 大；
                                    x1, x2, y平均數 大 的那組，x1, x2 -->Y影響 小。

這結果正常嗎？
' U- Z8 I# f0 o9 j$ Z
% J3 C3 e* N) t0 h: L' P" Q; c1 d


( N- C* _' ^' \: @  R0 h6 f) F5 k
6 b& x0 S% N# y
# y+ ]5 \$ H/ T( |% D

Kenneth

回复 3楼 chienhsin 的帖子
chienhsin,我看不见我有误会你的话。
, a  z/ s7 Y. R+ ?9 h第一、问题不需要两个X。
第二、当X与Y大时，X对Y的影响小。当X与Y小时，X对Y的影响大。
3 ]7 u5 y' T2 a* q6 T8 V* F5 e如果X与Y的关系是对数（log），或是倒U形的前半部，就符合你的观察了。
! P) o4 g/ `- L' x( Z1 Y) P
" O0 _  V% f2 O: A7 O
: B8 j, ]& t7 N9 Y   

chienhsin

回复 4楼 Kenneth 的帖子

謝謝Kenny，瞭解了。
: N! p* ~6 i1 L6 q5 Q; G/ n
再請問：x 與 x-square 兩者有高度共線性，哪種處理方法是適合的？
我查了幾篇估計"倒U"的paper，他們並沒有交代怎麼處理，不過x and x-squre似乎是一定有高共線性的。

% j- W7 A2 p7 |2 c4 f& G6 Y
0 ^; `' ]  H6 m
% _# w& z) z6 h" V: R6 P
4 J- P0 E* {* ?# I

Kenneth

回复 5楼 chienhsin 的帖子
没有留意有特别处理的。可能就是为什么显著这么难吧。
; o3 @) w8 G3 R4 S
0 @/ V6 Z0 n) e6 s2 x- \- n