请教如何计算statistical power？

Kenneth

回复 10楼 Sherry_Tsai 的帖子
7 n5 U  Q" |8 U, t% a( b
Sherry, 这当然是啊！Effect size 越小，你会找到它的机会就越低，需要一个较大的样本才可以找到它了。「找到它」的意思就是发现一个显著的结果（也就是母体参数不等如零）。
% F0 j8 D1 |/ S# g   
     
在上图中，左边是你假设的分布，你的虚无假设是 β=0。如果这是真的（β=0），那你用bc 作为临界点，找到β>0的机会是黑色的部分。但是当真正的 β是黄色的分布是，你找到β>0的机会是红色的框框。所以β越大（也就是effect size 越大），黄色的分布就越往右边移，你发现样本的估计大于bc
的机会（红色的框框）就越大。因为power是「决定β>0的机会」，所以effect size 越大，power 越大。
8 [3 y$ D  F6 P+ q: u7 w8 v8 O

; H) h  p% L2 I8 P. R& ]- X3 lfile:///C:/Users/MNLAW_%7E1/AppData/Local/Temp/moz-screenshot.png

chienhsin

回复 10楼 Sherry_Tsai 的帖子


在alpha value(type 1 error的機率)固定之下，effect size愈小，所需達到顯著的樣本數愈大。

Effect size可以想成H0 與 H1之間的差異，當要檢定的差異愈大(越容易看到差異)，所需樣本愈小；要檢定的差異愈小，所需樣本愈大。越細微的差異，需要愈多的樣本才能達當顯著，這是因為樣本越大，標準誤會越小，估計出來的係數的t-value會愈大。
' }6 f' H1 ~+ N* v) n9 K5 X
但是愈多的樣本也會造成power越大(1- beta)，衍生另外一個問題：亦即雖然係數顯著，但是effect size事實上是很細微的。 這裡的問題在於，這麼小的細微差異對實務有實際的含意嗎？
理論上，當樣本無限大時，power會趨近於1，所有小差異都會是顯著。



2 }" w7 @' L( K9 |* ^6 X3 v

Kenneth

是的。Chienhsin 谈的问题是 statistical significance 与 practical significance 的关系。这正正说明了很多人（包括reviewers）追求统计上的显著（statistical significance）是因为他们不太懂统计的原理。

Gaolp

回复 12楼 chienhsin 的帖子


* u0 E$ t9 V6 l* ~4 g    是的，我看到过几千人的样本，变量间的相关系数很小，但是显著性很高***

Kenneth

如果 effect size 是 0.01 ，但是显著性是 p<.01，哪如何理解呢？
（1）没有practical significance，不用考虑；
. i1 M4 a# a/ r7 b2 }& a+ O（2）理论还是正确，因为 effect size 不是 0；
（3）估计会有误差，反正是显著就好了。
; s1 T2 U8 Y$ ?$ [你会选择哪一个呢？（还是还有其他理解？）

Sherry_Tsai

回复 15楼 Kenneth 的帖子

我个人的思考是对应于kenny的猜测1。
  T0 y  A2 h, ]9 |( _   

chienhsin

回复 15楼 Kenneth 的帖子


    我建議多給信賴區間這個資訊，讓讀者自己選擇怎麼使用我們估計出來的係數。
以迴歸係數為例，顯著性檢定只提供某係數是不是=0(有沒有解釋能力)。
) E& l/ i! D! @# X6 @, v信賴區間的資訊可能對實務經理人更為實用。
- i" m" y- n1 J/ w$ n: F# I, y
; b- D  Y! J$ c% V# G0 U另外，Kenny提到的1-3選項與樣本數也有關係，我會注意樣本數是不是不合理的「大」。

% o. G% S* v. }: B3 L7 e如果樣本大到幾近普查，那也不需要抽樣檢定了。

Kenneth

Sherry, 我这样的比喻吧。如果 effect size （在这里是相关系数）是.80，你随便抽一个样本，样本的相关>0的机会有多大？答案自然是极其大。类似的，如果我有一个相对小的样本，里面可以找到的x-y值，可以让我计算出一个等如零的相关的机会是多少？答案自然是很少。
相对来说，如果 effect size 是.01，我是有很大机会在抽样中找到支持 Rxy=0 的x-y值的。所以，我就要一个很大的样本，才可以保证我有足够的“x-y对”（x-y values），让我可以把这个真正的 Rxy=.01 表现出来。