ANOVA

Açılış sahnesi

Tokat, bir devlet hastanesinin kardiyoloji servisi, mayısın ilk pazartesisi. Klinik eczacı Nuriye Hanım'ın odasındaki beyaz tahtada üç sütun var: broşür, video, öğret-geri al. Her sütunun altında altı sayı yazılı; kalp yetmezliğiyle yatıp taburcu olan on sekiz hastanın, bir hafta sonra telefonda yanıtladığı yirmi soruluk ilaç bilgisi testinden aldığı puanlar. Hastalar yöntemlere kurayla dağıtılmıştı ve her gruba altı kişi düşmüştü.

Servis hemşiresi Sevinç hafta sonu üç çifte ayrı ayrı t testi uygulamış. Broşür ile öğret-geri al arasındaki karşılaştırma p ≈ 0,015 vermiş, öteki iki çift ≈ 0,16. Sevinç'in notunda "öğret-geri al broşürden üstün" yazıyor. Nuriye Hanım tahtanın köşesine 0,14 yazıyor: yöntemler aslında eşdeğerken üç ayrı testin hiç değilse birinde boş bir alarm çalması bu olasılıkla olur. Önce üç grubu tek bir soruyla sınamak istiyor.

Bu derste ne olacak

On sekiz puanın toplam yayılımını gruplar arası ve grup içi parçalara ayıracak, ikisini bir orana çevirecek ve p değerini oranın dağılımından okuyacaksın. İki grupta bu oranın t'nin karesi olduğunu sayıyla doğrulayacak, anlamlı sonucun farkın yerini neden söylemediğini görecek ve etkiyi tek bir oranla ölçeceksin.

Sıfır noktası

Aile boyu hata oranını beş sonuçlu bir protokolde kurmuştun: bağımsız beş testte hiç değilse birinin boşuna reddetme olasılığı 1 − 0,95⁵ ≈ 0,226 idi (L02-P04-M03-D07). Nuriye Hanım'ın sayısı aynı hesabın üç testlik sürümü: 0,95³ ≈ 0,857 ve tümleyeni 1 − 0,857 ≈ 0,143. Kayseri'deki servis iki yöntemi karşılaştırdığı için bu soruyla karşılaşmamıştı; üç yöntemde çift sayısı üç.

Birleştirilmiş varyansı da biliyorsun (L02-P04-M04-D01): iki grubun varyansını, her birinin serbestlik derecesiyle ağırlayıp tek bir yayılım tahmininde birleştirmiştin. Bu derste aynı fikri üç gruba genişleteceksin. Tahtadaki puanlar şöyle:

On sekiz puanın genel ortalaması (66 + 78 + 90) ÷ 18 = 234 ÷ 18 = 13.

Mekanizma

Toplam yayılımı ikiye bölmek

Her puanın genel ortalamadan sapmasının karesini alıp toplarsan toplam kareler toplamını bulursun. Broşür grubunun ilk hastası için (9 − 13)² = 16; on sekiz hastada toplam 128. Her hastanın genel ortalamadan uzaklığı iki adımdan oluşuyor: kendi grup ortalamasından uzaklığı ve grup ortalamasının genel ortalamadan uzaklığı. İlk hastada 9 − 13 = (9 − 11) + (11 − 13) = −2 + −2.

Grup içi parça, tablodaki grup içi kareler toplamlarının toplamı: 28 + 24 + 28 = 80. Gruplar arası parça için her grubun ortalamasının genel ortalamadan sapması karesini alıp grup büyüklüğüyle çarpıyorsun: 6 × (11 − 13)² + 6 × (13 − 13)² + 6 × (15 − 13)² = 24 + 0 + 24 = 48. İki parçanın toplamı 48 + 80 = 128. Çapraz terimler her grubun içinde sapmaların toplamı sıfır olduğu için yok oluyor; ayrışım kesin bir eşitlik, yaklaşım değil.

Serbestlik dereceleri ve ortalama kareler

Kareler toplamları, farklı sayıda bağımsız bilgiye dayandıkları için doğrudan karşılaştırılamaz. Grup ortalamaları üç tane ama genel ortalama sabitlenince yalnız ikisi serbest; gruplar arası serbestlik derecesi k − 1 = 3 − 1 = 2. Her grubun içinde altı sapmanın beşi serbest; üç grupta 3 × 5 = 15, yani N − k = 18 − 3 = 15. Toplam 17 = 18 − 1.

Kareler toplamını serbestlik derecesine bölünce ortalama kare çıkıyor. Gruplar arası ortalama kare 48 ÷ 2 = 24, grup içi ortalama kare 80 ÷ 15 ≈ 5,33. Grup içi olanı tanıyorsun: gruplar eşit büyüklükte olduğu için üç varyansın düz ortalaması, (5,6 + 4,8 + 5,6) ÷ 3 = 16 ÷ 3 ≈ 5,33. t testindeki birleştirilmiş varyansın üç gruplu sürümü bu.

Gruplar arası ortalama karenin neyi tahmin ettiğini görmek için ortalamalara bak. 11, 13 ve 15'in varyansı 4. Ortalamanın örnekleme varyansı, tek bir puanın varyansının grup büyüklüğüne bölümü; yöntemler gerçekten eşdeğerse ortalamaların varyansı σ² ÷ 6 olmalı ve 6 × 4 = 24 de σ²'nin ikinci bir tahmini olur. Sıfır hipotezi altında iki ortalama kare aynı şeyi tahmin ediyor; yöntemler farklıysa gruplar arası olan fazladan şişiyor.

Oran ve dağılımı

Bu oran F = 24 ÷ 5,33 = 4,5. Sıfır hipotezi doğru, puanlar her grupta normal dağılmış ve varyanslar eşitse bu oran iki serbestlik dereceli bir dağılıma uyar: pay için 2, payda için 15. Beklenen değeri 15 ÷ 13 ≈ 1,15; ortalamalar gürültünün getirebileceğinden fazla ayrıldıkça F sağa kayıyor. Ki-kare dağılımını tanımıştın (L02-P02-M02-D07); F, iki bağımsız ki-kare değişkeninin kendi serbestlik derecelerine bölünüp birbirine oranlanmasıyla kurulan dağılım.

F(2, 15) dağılımında yüzde beşlik sağ kuyruğun başladığı nokta 3,68. Gözlenen 4,5 bu noktanın ötesinde ve kuyruk alanı p ≈ 0,029. Nuriye Hanım'ın tahtaya çizdiği özet tablo:

Sağ kuyruktan okumak bir yön iddiası değil: ortalamalar hangi sırayla ayrılırsa ayrılsın gruplar arası kareler toplamı büyür. Ronald Fisher bu tablo düzenini 1925'te Statistical Methods for Research Workers kitabında sundu; F harfini oranın tablolarını hazırlayan George Snedecor, Fisher'a saygı olarak koydu.

İki grupta F ile t aynı test

Sevinç'in en küçük p'yi veren çiftini, broşür ile öğret-geri alı, varyans analiziyle yeniden hesapla. On iki puanın genel ortalaması 13; gruplar arası kareler toplamı 6 × 2² + 6 × 2² = 48, serbestlik derecesi 1. Grup içi kareler toplamı 28 + 28 = 56, serbestlik derecesi 10, ortalama kare 56 ÷ 10 = 5,6. F = 48 ÷ 5,6 ≈ 8,571.

Aynı çiftin birleştirilmiş varyanslı t testi: standart hata √(5,6 × 2 ÷ 6) ≈ 1,366, t = 4 ÷ 1,366 ≈ 2,928 ve t² ≈ 8,571. İki p değeri de 0,0151. Kritik değerler de aynı ilişkiyi taşıyor: on serbestlik dereceli t'nin iki yönlü kritik değeri 2,228, karesi 4,96 ve F(1, 10) dağılımının yüzde beşlik noktası da 4,96. t testinin iki kuyruğu, F'de karesi alındığı için tek bir sağ kuyrukta birleşiyor.

Anlamlı F neyi söylemez

F ≈ 4,5 ve p ≈ 0,029, üç ortalamanın hepsinin eşit olmadığını söylüyor. Hangi çiftin ayrıldığını söylemiyor; eşit aralıklı üç ortalama ile tek bir grubun kopması aynı F'yi verebilir. Farkın yeri için ikili karşılaştırmalara dönülür, bu sefer aile boyu hatayı koruyarak.

En basit yol Bonferroni: yüzde beşi üç teste bölmek, 0,05 ÷ 3 ≈ 0,017. Broşür ile öğret-geri al çiftinin 0,0151'i bu eşiğin altında, öteki ikisinin 0,16'sı üstünde. John Tukey'nin dürüstçe anlamlı fark (honestly significant difference, HSD) yöntemi bütün çiftleri grup içi ortalama kareyi ortak payda alarak karşılaştırıyor. Üç grup ve on beş serbestlik derecesinde kritik değer 3,67, anlamlı sayılacak en küçük fark 3,67 × √(5,33 ÷ 6) ≈ 3,46 puan. Broşür ile öğret-geri al arasındaki 4 puan bu sınırı geçiyor (Tukey p ≈ 0,023), iki puanlık farklar geçmiyor.

Üç ayrı t testinin gerçek yanılma olasılığı 0,143'ün biraz altında, çünkü çiftler grup paylaşıyor. Sıfır hipotezi altında altışar kişilik üç grupla 100.000 veri seti üretildi (tohum 20261003); en az bir çiftin p < 0,05 verdiği set sayısı 12.291, oran ≈ 0,123. Bağımlılık payı biraz küçültüyor ama yüzde beşe indirmiyor.

Varsayımlar ve Welch'in üç gruplu sürümü

F'nin dağılımı üç varsayıma dayanıyor. Gözlemler bağımsız olmalı; aynı hastanın iki ölçümü tabloya girseydi bu bozulurdu. Puanlar her grupta yaklaşık normal dağılmalı; eşit ve orta büyüklükteki gruplarda test buna görece dayanıklı. Varyanslar eşit olmalı ve asıl kırılganlık burada.

Bağımsız iki örneklemde varyanslar eşit değilken Welch t testini kullanmıştın. Bernard Welch aynı düzeltmeyi 1951'de Biometrika'da üç ve daha çok grup için önerdi. Nuriye Hanım'ın tablosunda varyanslar neredeyse eşit; Welch ANOVA yine de F ≈ 4,02, payda serbestlik derecesi ≈ 10 ve p ≈ 0,052 veriyor. Varyanslar gerçekten eşitse düzeltmenin bedeli, küçük gruplarda kaybedilen serbestlik derecesi.

Varsayım bozulunca tablo tersine dönüyor. Ortalamaları eşit, büyüklükleri 4, 8 ve 12, standart sapmaları 3, 2 ve 1 olan gruplarla 20.000 veri seti üretildi (tohum 20261004). Klasik F 3.340 sette p < 0,05 verdi (0,167), Welch ANOVA 1.282 sette (0,064). Büyük varyans büyük gruba verilince klasik test 452 sette reddedip (0,023) tutucuya döndü; Welch 971 sette (0,049).

Normallik de şüpheliyse sıraya dayalı karşılık Kruskal–Wallis testi, Mann–Whitney'nin üç ve daha çok gruba genellemesi; William Kruskal ile Allen Wallis 1952'de Amerikan İstatistik Derneği'nin dergisinde (JASA) yayımladı. Bu tabloya uygulandığında p ≈ 0,056 verecek.

Etkinin büyüklüğü

p değeri farkın rastlantıyla açıklanabilirliğini ölçüyor, büyüklüğünü değil. Varyans analizinin doğal etki ölçüsü, toplam yayılımın ne kadarının gruplardan geldiği: η² = 48 ÷ 128 = 0,375. Bu örneklemde puanlardaki yayılımın üçte birinden fazlası yöntem farkına denk düşüyor.

On sekiz kişide bu oran iyimser, çünkü grup içi gürültü de gruplar arası kareler toplamına karışıyor. Düzeltilmiş sürüm omega kare bu payı düşüyor: (48 − 2 × 5,33) ÷ (128 + 5,33) = 37,33 ÷ 133,33 ≈ 0,28. Aynı veriden iki ölçü, dörtte bir oranında farklı sonuç.

Klinik gerçeklik

Sevinç notunu yeniden yazıyor. İlk satırda F(2, 15) = 4,5, p ≈ 0,029, η² ≈ 0,38 ve omega kare ≈ 0,28. İkinci satırda Tukey karşılaştırması: öğret-geri al broşürden ortalama dört puan yüksek, farkın yüzde doksan beşlik aralığı 0,5 ile 7,5 puan arasında. Son satır bir sınır çiziyor: videonun yeri belirsiz ve on sekiz hastalık pilot hiçbir yöntemi tek başına servis standardı yapmaz.

Üç ya da daha çok grubu karşılaştıran bir makalede önce şuna bak: genel bir F testi ve ardından bir düzeltme mi var, yoksa her çift yüzde beşlik eşikle mi sınandı? Grup büyüklükleri çok farklıysa en küçük grubun en büyük varyansı taşıyıp taşımadığını kontrol et ve Welch ANOVA'yı ara. p değerinin yanında η² ya da omega kare yoksa etkinin büyüklüğünü öğrenmemişsindir.

Kendini sına

1. Broşür grubunun ikinci hastasının genel ortalamadan sapmasını iki parçaya ayır. 128 = 48 + 80 eşitliğini doğrula.
2. Gruplar arası serbestlik derecesi neden 2, grup içi neden 15? Dört grup ve grup başına beş kişi olsaydı ne olurdu?
3. 11, 13 ve 15'in varyansını 6 ile çarpmak neden bir varyans tahmini veriyor? Sıfır hipotezi yanlışsa bu tahmine ne olur?
4. Video ile öğret-geri al çiftinde F'yi hesapla ve t² ile karşılaştır.
5. Üç ayrı t testinin aile boyu hata oranı neden 0,143 değil de ≈ 0,123 çıktı?
6. η² = 0,375 ile omega kare ≈ 0,28 arasındaki fark neyi düzeltiyor?

Bir sonraki derse köprü

Bu dersteki on sekiz hastanın her birinden tek bir puan alındı. Nuriye Hanım aynı hastaları bir hafta, bir ay ve üç ay sonra aynı testle yeniden arasaydı her hastadan üç puan gelirdi. O zaman grup içi yayılımın bir kısmı hastaların kalıcı bilgi düzeyi farkından geliyor olurdu: kişiler arası bu yayılım hata teriminden ayrılabilir mi, ve aynı kişinin ölçümleri arasındaki bağımlılık F testinin hangi varsayımını zorlar?