Çoklu Regresyon

Açılış sahnesi

Ocağın ikinci perşembesi, Kırşehir. Başhekimlikten merkez laboratuvara tek satırlık bir cevap geliyor ve cevap bir soru: ikinci analizör yerine gündüz vardiyasına iki teknisyen eklense sonuç süresi ne kadar kısalır? Laboratuvarı yöneten biyokimyacı Mesude Hanım soruyu raporun sahibi Tanju'ya iletiyor, Tanju da laboratuvarın sorumlu teknisyeni Dürdane Hanım'ın odasına gidiyor. Dürdane Hanım'ın nöbet defterinde eylülden ekim sonuna uzanan kırk iş gününün her birinde gündüz vardiyasında kaç teknisyenin çalıştığı yazılı: en az 3, en çok 7. Çizelgeyi her perşembe ertesi hafta için, günün haftanın neresine düştüğüne ve geçen ayın yüküne bakarak yazıyor.

Tanju sütunu tabloya ekleyince ilk bulduğu şey onu şaşırtıyor. Teknisyen sayısını tek başına sonuç süresine karşı çizdiğinde eğim artı çıkıyor: nöbetteki her fazladan teknisyene ortalamada 3,75 dakika daha uzun bir sonuç süresi eşlik ediyor. "Teknisyen eklersek süre uzayacak mı yani?" diye soruyor. Mesude Hanım defterin sakin günlerle yoğun günlere nasıl dağıldığına bakmasını söylüyor: numune sayısı en düşük on üç günde nöbette ortalama 3,8 teknisyen var, en yüksek on üç günde 5,8.

Bu derste ne olacak

İki açıklayıcı değişkenli bir model kuracak, numune sayısının eğiminin ikinci değişken girince neden 4,3'ten 5,6'ya çıktığını hesaplayacaksın. Kısmi eğimi, öteki değişkenden arındırılmış bir sütunun eğimi olarak elle kuracak; basit eğim ile kısmi eğim arasındaki farkı tek bir çarpımla bağlayacaksın. Ardından modelin neyi ayıklayabildiğini, neyi ayıklayamadığını ve yanlış sütunu modele koymanın neyi bozduğunu tartacaksın.

Sıfır noktası

Tanju'nun raporundaki eğim, numune sayısı yüz farklı iki günün sonuç sürelerinin ortalamada 4,3 dakika ayrıldığını söylüyordu. Cümlede söylenmeyen, o iki günün başka nelerde ayrıldığıydı. Yoğun bir günde laboratuvar yalnız daha çok tüp almıyor; çizelge o güne daha çok teknisyen de yazmış oluyor. Basit eğim bu iki farkı ayırmaz, yüz fazla numuneye ortalamada eşlik eden fazladan kadroyu da içine katar.

Kısmi korelasyonu hesaplarken bu ayıklamanın bir yolunu görmüştün: üçüncü değişkenden düz bir çizgiyle öngörülen payı iki değişkenden de çıkarıp kalanları karşılaştırmak (L02-P05-M01-D06). Orada sonuç birimsiz bir katsayıydı, −1 ile 1 arasında. Başhekimlik ise dakika soruyor.

Mekanizma

Çizgiden düzleme

Modeli iki açıklayıcıyla yaz: süre = a + b₁ × numune + b₂ × teknisyen + hata. Numune yine yüzlük birimle, süre dakikayla giriyor. Katsayılar gene en küçük kareler ölçütüyle bulunur; değişen tek şey, aranan nesnenin artık bir çizgi değil, üç eksenli bir uzayda eğik bir düzlem olması. Tanju'nun kırk gününde sonuç a ≈ 26,4, b₁ ≈ 5,58 ve b₂ ≈ −2,65.

Düzlemi teknisyen sayısına göre dilimlersen birbirine paralel çizgiler elde edersin. Günlük 600 numunede model dört teknisyenli bir güne 26,4 + 5,58 × 6 − 2,65 × 4 ≈ 49,3 dakika, altı teknisyenli bir güne 44,0 dakika öngörüyor. Her iki dilimde de yüz fazla numune 5,58 dakika ekliyor; dilimler arasındaki fark, teknisyen başına 2,65 dakika, numune ne olursa olsun aynı.

Başhekimliğe gidecek cümle bu yüzden değişiyor. Nöbetteki teknisyen sayısı aynıyken günlük numune yüz arttığında süre ortalamada 5,6 dakika uzuyor; numune yükü aynıyken bir teknisyen fazlası süreyi ortalamada 2,7 dakika kısaltıyor. Teknisyenin işareti, tek başına bakıldığındaki artı 3,75'ten eksiye döndü.

Arındırılmış numune

Kısmi eğimin içini görmek için onu iki adımda kur. Önce numune sayısını teknisyen sayısından düz bir çizgiyle öngör; bu veride her fazladan teknisyene ortalamada 1,148 yüz, yani yaklaşık 115 numune fazlası denk geliyor. Her günün gerçek numunesinden bu öngörüyü çıkar. Kalan sütun, numune yükünün kadroyla açıklanamayan kısmıdır: aynı kadroya sahip günler arasında hangisinin beklenenden yoğun geçtiği. Sonra süreyi bu arındırılmış sütuna karşı çiz.

Arındırılmış sütunun kareleri toplamı 45,32, sütun ile sürenin çarpımlarının toplamı 252,8. Eğim 252,8 ÷ 45,32 ≈ 5,58; çoklu modelin b₁'inin aynısı. Ragnar Frisch ile Frederick Waugh bunu 1933'te Econometrica'da yayımlanan "Partial time regressions as compared with individual trends" makalesinde zaman eğilimi için gösterdi, Michael Lovell 1963'te Journal of the American Statistical Association'da genel biçimine kavuşturdu. Sonuç bugün Frisch–Waugh–Lovell teoremi adıyla anılır: çoklu regresyondaki bir katsayı, o değişkenin öteki açıklayıcılardan arındırılmış kısmının sonuçla ilişkisidir. Süreyi de teknisyenden arındırırsan eğim aynı kalır, artıklar da çoklu modelin artıklarıyla birebir örtüşür.

İki arındırılmış sütunun Pearson katsayısı kısmi korelasyonun kendisidir ve üç ikili katsayıdan doğrudan da bulunur. Numune ile süre arasında 0,834, numune ile teknisyen arasında 0,743, teknisyen ile süre arasında 0,470 var: (0,834 − 0,743 × 0,470) ÷ √((1 − 0,552) × (1 − 0,221)) = 0,485 ÷ 0,591 ≈ 0,82. Kısmi korelasyon ilişkinin ne kadar sıkı olduğunu söyler, kısmi eğim ise dakika cinsinden ne kadar büyük olduğunu.

Arındırmanın bir bedeli var. Ham numune sütununun kareleri toplamı 101,17 idi, arındırılmışınki 45,32: 45,32 ÷ 101,17 ≈ 0,448, yani 1 − 0,743². Numunenin yayılımının yarıdan fazlası kadroyla paylaşılan kısma gidiyor ve eğim yalnız geri kalanından kestiriliyor. Bu yüzden b₁'in klasik standart hatası 0,46'dan 0,64'e çıkıyor; huniye dayanıklı sürüm 0,63'ten 0,86'ya, aralık 3,8 ile 7,3 dakikaya. İki açıklayıcı birbirine ne kadar sıkı bağlıysa, ikisini ayırmaya o kadar az bilgi kalır.

Basit eğim nereye gitti

İki eğim arasındaki fark bir rastlantı değil. En küçük kareler, basit eğimi kısmi eğimlere tam olarak bağlayan bir özdeşlik verir: basit eğim = b₁ + b₂ × δ. Burada δ, teknisyen sayısının numune sayısına göre eğimi; bu veride yüz numune başına 0,481 teknisyen. Tanju'nun sayılarıyla 5,578 − 2,652 × 0,481 = 5,578 − 1,276 = 4,302. Raporun 4,3'ü, yüz fazla numunenin kendi 5,6 dakikası ile ona ortalamada eşlik eden yarım teknisyenin geri kazandırdığı 1,3 dakikanın bileşkesiymiş. Özdeşlik öteki yönde de işliyor: −2,652 + 5,578 × 1,148 = 3,751, Tanju'yu şaşırtan artı eğim.

Karıştırıcının regresyondaki görünüşü budur. Karıştırıcı, hem maruziyetle hem sonuçla ilişkili olan ve aradaki nedensel yolda bulunmayan üçüncü değişken olarak tanımlanmıştı (L01-P03-M01-D05). Buradaki ortak neden takvimin kendisi: haftanın günü ve geçen ayın yükü hem o günün numune sayısını hem Dürdane Hanım'ın o güne yazdığı kadroyu belirliyor, kadro da süreyi etkiliyor. Sivas'taki dört hastanenin verisinde üçüncü etken hastanenin kendisiydi ve hastane içine bakılarak sabit tutulmuştu; çoklu regresyon aynı işi bir sütunla yapar ve birden çok etkeni aynı anda taşıyabilir.

Modelin ayıklayamadığı

Kısmi eğim yalnız modele giren değişkeni sabit tutar. Laboratuvarın günlük özetinde numunelerin ne kadarının acil servisten geldiği yazmıyor. Kış başında acil başvurusu arttığında hem toplam numune artabilir hem de acil tüpleri rutin işin önüne geçip rutin sonuçları geciktirebilir. Böyle bir etken varsa 5,6 dakikanın bir kısmı ona aittir ve bu tabloyla kurulacak hiçbir model onu ayıramaz; geriye kalan pay, artık karıştırma adıyla bildiğin boşluktur. Teknisyenin 2,7 dakikası için de aynı soru geçerli: deneyimli teknisyenler çizelgeye daha çok yoğun günlerde yazılıyorsa, katsayı yalnız kişi sayısını ölçmüyor.

İkinci tuzak modele fazlasını koymak. Tanju'nun elinde saat onda analizör kuyruğunda bekleyen tüp sayısı da var. Bu sütun, numune yükünün süreyi uzattığı yolun ta kendisi: tüpler çoğalınca kuyruk uzar, kuyruk uzayınca sonuç gecikir. Kuyruğu modele eklemek numunenin eğimini sıfıra doğru iter ve model artık "kuyruk aynıyken numune ne yapıyor" sorusuna cevap verir; aracı değişkeni işleyen derste bunun adı aşırı düzeltmeydi. Fazla mesai saati başka bir türden tuzak kurar, çünkü hem yoğun günlerde hem sonuçların geciktiği günlerde uzar ve numune ile sürenin ortak sonucudur. Ortak sonuca göre düzeltmenin, aralarında olmayan bir ilişkiyi üretebildiğini ya da var olanı çarpıtabildiğini görmüştün (L01-P03-M01-D07). Dürdane Hanım'ın çizelgesi bu iki sütundan farklı: bir hafta önceden yazıldığı için o günün tüplerinden etkilenmiyor.

Klinik gerçeklik

Tanju başhekimliğe kısa bir not yazıyor. Kırk günlük gözlemde, numune yükü aynıyken bir fazla teknisyenli gün ortalamada 2,7 dakika daha kısa bir sonuç süresiyle birlikte geliyor; huniye dayanıklı aralık 0,03 ile 5,3 dakika kısalmaya uzanıyor ve art arda günlerin birbirine benzemesi bu aralığı iyimser kılıyor. Yedi teknisyen yalnız iki günde çalışmış, dokuzlu bir kadro hiç görülmemiş; iki teknisyen eklemenin etkisi verinin dışına taşan bir öngörü. İkinci analizör sorusuna ise bu tablo hiçbir şey söyleyemez, çünkü kırk günün hiçbirinde iki analizör çalışmadı. Tanju'nun önerisi birkaç hafta boyunca ek teknisyenin hangi günlere yazılacağını kurayla belirlemek.

Bir makalede "yaş, cinsiyet ve beden kitle indeksine göre düzeltilmiş" bir katsayı okurken aynı soruları sor. Hangi değişkenler girmiş, neden girmiş, aralarında maruziyetin sonuca giden yolunda duran ya da maruziyetle sonucun ortak sonucu olan bir değişken var mı? Ham ve düzeltilmiş katsayıyı birlikte ara; aradaki fark, atlanan değişkenlerin kısmi eğimi ile eşlik etme eğimlerinin çarpımıdır. Fark büyükse ölçülmüş değişkenler güçlü bir karıştırma taşıyordur; küçükse yalnız ölçülmüş olanların güçsüz olduğunu öğrenirsin, ölçülmemiş olanlar hakkında hiçbir şey öğrenmezsin.

Kendini sına

1. Basit eğim 4,302, numune için kısmi eğim 5,578 ve teknisyenin numuneye göre eğimi 0,481. Teknisyenin kısmi eğimini özdeşlikten geri hesapla.
2. Numune ile teknisyen arasındaki korelasyon 0,743 yerine 0,3 olsaydı, arındırılmış numune sütununun kareleri toplamı ham toplamın ne kadarı olurdu? b₁'in standart hatası bundan nasıl etkilenirdi?
3. Dürdane Hanım kadroyu önceden değil, sabah tüpler yığıldıkça ek teknisyen çağırarak belirliyor olsaydı teknisyen sayısı modelde hangi rolü üstlenirdi?
4. Fiziksel aktivite ile HbA1c ilişkisini inceleyen bir çalışma yaşa, beden kitle indeksine ve açlık insülinine göre düzeltme yapmış. Hangi değişkenin rolünü sorgularsın, neden?
5. Ham ve düzeltilmiş katsayı neredeyse aynı çıktı. Bu, ölçülmemiş bir karıştırıcı olmadığını gösterir mi?
6. Bir kısmi eğimi "öteki değişken sabitken" diye okumak, verinin hangi bölgesinde en güvenilirdir? Numune ile kadronun hiç birlikte görülmediği bir bileşim için ne söylenebilir?

Bir sonraki derse köprü

Tanju'nun modeli her yüz numuneye, nöbette dört teknisyen de olsa altı teknisyen de olsa, aynı 5,6 dakikayı yazıyor; teknisyen dilimlerinin çizgileri bu yüzden paraleldi. Oysa kalabalık bir kadronun yoğun günü daha rahat karşılaması, yani numunenin maliyetinin kadroya göre değişmesi hiç de şaşırtıcı olmazdı. Bir değişkenin eğimi ötekinin düzeyine göre değişiyorsa modele bu nasıl yazılır ve o zaman "öteki sabitken" diye okunan katsayı neyi anlatır?