Önce özete göz atDersin sonundaki özet, okumaya başlamadan önce yol haritası olarak.
- Regresyon doğrusu, açıklanan değişkenin ortalama değerini açıklayan değişkenin bir fonksiyonu olarak gösterir; eğim birim taşır ve bir birimlik değişimin ortalama etkisini anlatır.
- En küçük kareler yöntemi, kalıntıların kareleri toplamını en küçük yapan doğruyu seçer; eğim kovaryansın açıklayan değişkenin varyansına oranıdır ve doğru ortalamalar noktasından geçer.
- Belirlilik katsayısı yayılımın ne kadarının doğruyla açıklandığını gösterir; basit regresyonda korelasyonun karesidir ama ne nedenselliği ne de eğimin önemini söyler.
- Kalıntılar doğrunun açıklayamadığı kısımdır; desen gösteren kalıntılar doğrusal olmayan bir ilişkiye ya da farklı belirsizliğe işaret eder; doğruyu verinin dışına uzatmak tehlikelidir.
- Ortalamaya dönüş, korelasyon birden küçük olduğunda uç değerlerin kendiliğinden ortalamaya yaklaşmasıdır; Secrist'in yanılgısı gibi, nedensel bir etki sanılmaması için karşılaştırma grubu gerekir.
Öğrenme çıktıları
- Hatırlama — Regresyon doğrusunu, en küçük kareler yöntemini, kalıntıyı, belirlilik katsayısını ve ortalamaya dönüşü tanımlar.
- Anlama — Regresyon eğiminin neyi ölçtüğünü, korelasyon katsayısıyla ilişkisini ve uç değerlerin bir sonraki dönemde neden ortalamaya yaklaşma eğiliminde olduğunu açıklar.
- Uygulama — Küçük bir veriden eğimi, sabit terimi, kalıntıları ve belirlilik katsayısını hesaplar; doğruyu tahmin için kullanır.
- Değerlendirme — Bir regresyon sonucunu, veri aralığının dışına taşma, kalıntıların deseni, karıştırıcı değişkenler ve ortalamaya dönüş yanılgısı açısından değerlendirir.
Sezgi
Açılış
Bir iş dergisi, geçen yılın en kârlı yüz şirketini listeliyor. Bir yıl sonra aynı listeye bakıldığında, bu şirketlerin çoğunun kârlılığı düşmüş. Dergi bunu, başarılı şirketlerin rehavete kapıldığının, yöneticilerin dikkatinin dağıldığının kanıtı olarak yorumluyor. Aynı dönemde en kötü yüz şirketin kârlılığı artmış; dergi bunu da yeni yönetimlerin başarısına bağlıyor.
İki hikâye de ikna edici görünür. Ama ikisinin arkasında, hiçbir yönetim kararı gerektirmeyen tek bir istatistiksel olgu duruyor olabilir. Bir yıl çok iyi giden şirketler, iyi yönetimin yanında biraz da şansın yardımıyla oraya çıkmıştır. Ertesi yıl şans ortalamaya döndüğünde, performans da ortalamaya yaklaşır.
Bu ders, iki değişken arasındaki ilişkiyi bir doğruyla özetleyen yöntemi, yani regresyonu ele alıyor. Yöntemin adı, tam da bu ortalamaya dönüş olgusundan gelir. Bir doğru nasıl çizilir, eğimi ne anlatır, ne kadar iyi uyar ve onu okurken hangi tuzaklar bekler?
Hikâye — Vasatlığın zaferi
1933'te Northwestern Üniversitesi'nden iktisatçı Horace Secrist, on yıllık bir çalışmanın ürünü olan bir kitap yayımladı: The Triumph of Mediocrity in Business, yani iş dünyasında vasatlığın zaferi. Secrist, 49 büyük mağazayı ve 73 farklı sektördeki işletmeleri incelemişti.
Yöntemi basitti. Her sektördeki işletmeleri 1920'deki başarı ölçütüne, örneğin kâr oranına göre dörde ayırdı: en iyi dörtte bir, ikinci dörtte bir, üçüncü dörtte bir ve en kötü dörtte bir. Sonra her grubun 1920'den 1930'a kadar ortalama performansını izledi. Sonuç her sektörde aynıydı: en iyi gruplar zamanla ortalamaya doğru düşüyor, en kötü gruplar ortalamaya doğru yükseliyordu. On yılın sonunda gruplar birbirine çok daha yakındı.
Secrist bu bulguyu iktisadi bir yasa gibi yorumladı. Ona göre rekabet, iyi yönetilen işletmelerin üstünlüğünü aşındırıyor, kötü yönetilenleri yukarı çekiyordu; iş dünyası kaçınılmaz olarak vasatlığa doğru ilerliyordu.
Aynı yıl istatistikçi Harold Hotelling, Amerikan İstatistik Derneği'nin dergisinde kitap hakkında kısa ama yıkıcı bir değerlendirme yayımladı. Hotelling'e göre Secrist'in bulgusu iktisadi bir yasa değil, gruplama yönteminden doğan bir istatistiksel yanılgıydı. İşletmeler 1920'deki performanslarına göre gruplandığında, en iyi gruba yalnızca iyi yönetilenler değil, o yıl şanslı olanlar da girmişti. Şans kalıcı olmadığı için, bu grubun sonraki yıllarda ortalamaya yaklaşması kaçınılmazdı; bunun rekabetle hiçbir ilgisi olması gerekmiyordu.
Hotelling bir noktaya daha dikkat çekti: işletmeler 1930'daki performanslarına göre gruplanıp geriye doğru izlenseydi, aynı yakınsama zamanın ters yönünde de görülürdü. Bu durumda zaman geriye akarken de vasatlık zafer kazanıyor olurdu; bu da bulgunun zamanla değil, gruplamayla ilgili olduğunu kanıtlıyordu. Secrist'in on yıllık emeği, istatistik tarihine regresyon yanılgısının en öğretici örneklerinden biri olarak geçti.
Kavram
Regresyon, bir değişkenin öbürüne göre nasıl değiştiğini bir doğruyla özetler. Bir önceki dersin korelasyon katsayısından farklı olarak, bu doğrunun eğimi bir birim taşır ve yönü vardır: bir değişken açıklayan, öbürü açıklanan olarak seçilir.
Veri ve kanıt
Regresyon kelimesi, bir istatistikçinin ailelerin boy uzunlukları üzerine yaptığı çalışmadan gelir.
Galton'un gözlemi kalıtımla ilgili bir soru olarak başladı, ama sonucunun iki ölçüm arasındaki eksik korelasyonun genel bir sonucu olduğu anlaşıldı. Secrist'in yanılgısı, bu genel sonucun iktisada taşınmasıyla ortaya çıktı.
Aynı yanılgı, Secrist'ten sonra da iktisatta pek çok kez tekrarlandı. Ülkelerin büyüme oranlarında, fon yöneticilerinin getirilerinde ve şirketlerin kârlarında, uç değerlerin zamanla ortalamaya yaklaşması, çoğu zaman nedensel bir mekanizmanın kanıtı olarak sunuldu. İktisatçı Milton Friedman, 1992'de bu yanılgının iktisat literatüründe neden bu kadar kalıcı olduğunu soran bir makale yayımladı.
Yaygın yanlış«Geçen yıl en çok kazandıran fon yöneticileri, bu yıl daha az kazandırdıysa, başarıları onları rehavete sürüklemiştir.»
Getiriler kısmen yeteneğe, kısmen şansa bağlıdır. Bir yıl en üstte yer alanlar, ortalamada biraz da şanslı olanlardır; şans tekrarlanmadığında sonuçları ortalamaya yaklaşır. Bu düşüş, hiçbir davranış değişikliği olmadan da beklenir.
Yaygın yanlış«R² yüksekse model doğrudur; düşükse işe yaramaz.»
Yüksek bir R², zaman içinde birlikte yükselen iki seri gibi anlamsız bir ilişkiden de gelebilir. Düşük bir R² ise, bireysel davranış gibi gürültülü verilerde çok önemli bir etkinin varlığıyla bir arada olabilir. R², doğrunun veriye ne kadar sıkı uyduğunu söyler; ilişkinin nedensel olup olmadığını ya da eğimin ne kadar önemli olduğunu söylemez.
Neden önemli?
Regresyon, iktisatta en çok kullanılan analiz aracıdır. Eğitimde geçen her ek yılın kazanca ne eklediği, faizlerdeki bir puanlık artışın yatırımı ne kadar azalttığı, büyümedeki bir puanlık yavaşlamanın işsizliği ne kadar artırdığı gibi soruların cevapları, çoğu zaman bir regresyon eğimiyle verilir. Temel iktisat dersindeki Okun ilişkisi de böyle bir eğimdir.
Ortalamaya dönüş, politika değerlendirmelerinde özellikle tehlikelidir. Bir yıl çok kötü sonuç alan okullara, bölgelere ya da şirketlere yönelik bir destek programı başlatılırsa, bu birimlerin ertesi yıl iyileşmesi büyük ölçüde ortalamaya dönüşten kaynaklanabilir. Programın etkisini ölçmek için, aynı biçimde seçilmiş ama programa katılmamış bir karşılaştırma grubu gerekir.
Kişisel yargılarda da bu olgu sık görülür. Çok kötü bir sınavın ardından sıkı çalışan bir öğrencinin notu yükseldiğinde, bunun ne kadarının çalışmadan, ne kadarının kötü şansın geçmesinden kaynaklandığını ayırt etmek zordur. Bir yöneticinin kötü bir çeyrekten sonra ekibini azarlaması ve bir sonraki çeyrekte sonuçların düzelmesi, azarın işe yaradığı yanılgısını besleyebilir.
Model
Doğrunun denklemi
Bir regresyon doğrusu, iki sayıyla tanımlanır: sabit terim ve eğim. Sabit terim, açıklayan değişken sıfır olduğunda doğrunun açıklanan değişken için verdiği değerdir. Eğim ise açıklayan değişken bir birim arttığında tahminin ne kadar değiştiğini gösterir. Temel matematik dersindeki eğim tanımının aynısıdır, tek farkla: burada doğru, noktaların tam üzerinden geçmez, onların arasından en iyi biçimde geçer. Eğimin birimi, açıklanan değişkenin biriminin açıklayan değişkenin birimine oranıdır: yıl başına lira, puan başına adet. Bu birim, regresyonu korelasyondan ayıran en önemli özelliktir.
En küçük kareler fikri
Bir nokta bulutunun içinden sonsuz sayıda doğru geçirilebilir. Hangisinin en iyi olduğuna karar vermek için bir ölçüt gerekir. En küçük kareler yöntemi, her noktanın doğruya dikey uzaklığını, yani kalıntısını hesaplar, bu uzaklıkların karelerini toplar ve bu toplamı en küçük yapan doğruyu seçer. Karelerin alınmasının nedeni, pozitif ve negatif uzaklıkların birbirini götürmemesi ve büyük sapmaların daha ağır cezalandırılmasıdır. Yöntemin en büyük avantajı, eğim ve sabit terim için basit ve açık formüller vermesidir.
Eğim ve sabit terimin formülleri
En küçük kareler eğimi, iki değişkenin kovaryansının açıklayan değişkenin varyansına bölünmesiyle bulunur. Bunu korelasyon katsayısı cinsinden de yazmak mümkündür: eğim, korelasyon katsayısı ile iki standart sapmanın oranının çarpımıdır. Sabit terim ise doğrunun iki değişkenin ortalamalarından oluşan noktadan geçmesi koşuluyla bulunur: sabit terim, açıklanan değişkenin ortalaması eksi eğim çarpı açıklayan değişkenin ortalamasıdır. Bu yüzden her en küçük kareler doğrusu, verinin ağırlık merkezinden geçer.
Korelasyon ile eğimin farkı
Korelasyon katsayısı birimsizdir ve iki değişkene simetrik bakar; x ile y'nin yeri değiştiğinde değişmez. Eğim ise birim taşır ve yönlüdür: y'nin x üzerine regresyonu ile x'in y üzerine regresyonu farklı doğrular verir. Güçlü bir korelasyon küçük bir eğimle, zayıf bir korelasyon büyük bir eğimle bir arada olabilir. Bir tarım bölgesinde gübre miktarı ile verim arasındaki bağ gevşek olsa bile, fazladan bir torba gübrenin dönüm başına kaç kilo ek ürün getirdiği, yani eğim, çiftçinin kararı için belirleyicidir. Korelasyon ilişkinin sıkılığını, eğim ise büyüklüğünü anlatır.
Çözümlü örnek — Büyüme ve işsizlik
Varsayımsal bir ekonominin beş yılında GSYH büyümesi (yüzde) ile işsizlik oranındaki değişim (puan) şöyle olsun: (1; 1,0), (2; 0,4), (3; 0,1), (4; −0,4), (5; −0,6).
Ortalamalar. Büyümenin ortalaması 3, işsizlik değişiminin ortalaması 0,1'dir.
Sapmalar. Büyüme sapmaları: −2, −1, 0, 1, 2. İşsizlik değişimi sapmaları: 0,9; 0,3; 0; −0,5; −0,7.
Eğim. Sapma çarpımlarının toplamı −1,8 − 0,3 + 0 − 0,5 − 1,4 = −4,0. Büyüme sapmalarının kareleri toplamı 10. Eğim −4,0 ÷ 10 = −0,4: büyüme bir puan arttığında işsizlik ortalama olarak 0,4 puan daha az artar ya da daha çok düşer.
Sabit terim. 0,1 − (−0,4) × 3 = 1,3. Doğru: işsizlik değişimi = 1,3 − 0,4 × büyüme. Büyüme sıfır olsaydı işsizliğin 1,3 puan artması beklenirdi.
Kalıntılar. Tahminler 0,9; 0,5; 0,1; −0,3; −0,7. Kalıntılar 0,1; −0,1; 0; −0,1; 0,1; toplamları sıfır, kareleri toplamı 0,04.
Belirlilik katsayısı. İşsizlik değişimi sapmalarının kareleri toplamı 1,64. R² = 1 − 0,04 ÷ 1,64 ≈ 0,976: yayılımın yaklaşık yüzde 97,6'sı doğruyla açıklanır.
Tahmin ve sınırı. Büyüme yüzde 3,5 olursa tahmin 1,3 − 1,4 = −0,1 puandır. Ama büyüme yüzde 10 olsaydı doğru −2,7 puan verirdi; bu değer, verinin hiç kapsamadığı bir aralıkta olduğu için güvenilmez.
Sabit terimi yorumlamak
Sabit terim, açıklayan değişken sıfır olduğunda doğrunun verdiği değerdir; ama bu değer her zaman anlamlı değildir. Çözümlü örnekte sıfır büyüme verinin kapsadığı aralığın biraz dışındadır ve 1,3 puanlık tahmin temkinle okunmalıdır. Başka örneklerde sıfır noktası hiç anlam taşımaz: boy ile kilo arasındaki bir regresyonda sıfır santimetre boyundaki bir kişinin kilosu sorulamaz. Bu durumlarda sabit terim, doğrunun doğru yükseklikte durması için gereken teknik bir sayıdır; kendi başına yorumlanmamalıdır. Yorumun asıl yükünü eğim taşır.
Belirlilik katsayısını okumak
R², açıklanan değişkendeki toplam yayılımın, yani ortalamadan sapmaların kareleri toplamının, ne kadarının doğru tarafından açıklandığını gösterir. Geri kalanı kalıntılarda kalır. 0,976 gibi yüksek bir değer, noktaların doğruya çok yakın olduğunu söyler; 0,1 gibi düşük bir değer, yayılımın büyük bölümünün doğrunun dışında kaldığını söyler. Ama R²'nin «iyi» ya da «kötü» sayılacağı eşik alana göre değişir. Makroekonomik zaman serilerinde ortak eğilimler yüzünden yüksek R² değerleri kolayca ortaya çıkar. Bireylerin gelirini ya da tüketimini açıklayan çalışmalarda ise, eğim çok anlamlı ve önemli olsa bile R² genellikle düşüktür, çünkü bireysel davranışta açıklanamayan çok fazla fark vardır.
Kalıntıları incelemek
Bir regresyonun kalitesini anlamanın en iyi yolu, kalıntılara bakmaktır. İyi uyan bir doğrusal modelde kalıntılar sıfırın etrafında rastgele dağılır; belirgin bir desen göstermez. Kalıntılar, açıklayan değişkenin düşük ve yüksek değerlerinde pozitif, ortada negatifse, ilişki bir kavis çiziyordur ve doğru uygun bir özet değildir. Kalıntıların yayılımı açıklayan değişken büyüdükçe artıyorsa, tahminlerin belirsizliği her yerde aynı değildir. Tek bir çok büyük kalıntı, bir aykırı değere ya da bir veri hatasına işaret edebilir. Kalıntı grafiği çizmek, Anscombe'un dersini regresyona uygulamaktır.
Eğimin belirsizliği
Bir örneklemden hesaplanan eğim de bir tahmindir ve örneklemden örnekleme değişir. Bu yüzden eğimin de bir standart hatası vardır. Eğimin standart hatası, kalıntıların yayılımı arttıkça büyür, açıklayan değişkenin yayılımı ve gözlem sayısı arttıkça küçülür. Önceki derslerdeki gibi, eğim için bir güven aralığı kurulabilir ve eğimin sıfırdan farklı olup olmadığı test edilebilir. Regresyon çıktılarında her katsayının yanında görülen standart hata, t istatistiği ve p değeri, bu soruların cevabıdır. Beş gözlemlik bir örnekte eğim ne kadar net görünse de, belirsizliği büyüktür.
Hangi değişken açıklayan?
Regresyonda iki değişkenin rolü simetrik değildir. En küçük kareler, açıklanan değişkendeki dikey uzaklıkları küçültür; bu yüzden y'nin x üzerine regresyonu ile x'in y üzerine regresyonu, korelasyon tam bir değilse, farklı eğimler verir. Hangisinin açıklayan değişken olacağı, sorulan soruya bağlıdır: faizin konut kredisi talebine etkisi soruluyorsa faiz açıklayan, talep açıklanan olur. Bu seçim bir nedensellik iddiası değildir; yalnızca tahminin hangi yönde yapılacağını belirler. Ama okuyucular çoğu zaman açıklayan değişkeni neden, açıklananı sonuç olarak algılar; bu yüzden seçimin gerekçesini açıkça yazmak gerekir.
Logaritmik dönüşüm
İktisattaki pek çok ilişki, düzeyler arasında değil oranlar arasında doğrusaldır. Gelir yüzde 10 arttığında harcamanın yüzde kaç arttığı, gelirin bin lira artmasından daha anlamlı bir sorudur. Bu durumda değişkenlerin logaritması alınarak regresyon kurulur. İki değişkenin de logaritması alındığında eğim, temel iktisat dersindeki esneklik kavramına karşılık gelir: açıklayan değişkendeki yüzde birlik değişimin açıklanan değişkende yaklaşık yüzde kaçlık bir değişime yol açtığını gösterir. Logaritma ayrıca sağa çarpık değişkenleri daha simetrik hâle getirir ve birkaç çok büyük gözlemin doğruyu tek başına sürüklemesini azaltır.
Tahmin ve dışa taşma
Regresyon doğrusu, verinin kapsadığı aralıkta tahmin için kullanılabilir. Ama doğruyu verinin dışına uzatmak, yani dışa taşma, tehlikelidir. Çözümlü örnekteki doğru, yüzde 1 ile 5 arasındaki büyüme oranlarından kurulmuştur; yüzde 10'luk bir büyüme ya da derin bir daralma için aynı ilişkinin geçerli olduğunu gösteren hiçbir veri yoktur. İktisatta birçok ilişki belirli bir aralıkta yaklaşık doğrusaldır, ama uçlarda biçim değiştirir. Ayrıca ekonominin yapısı değiştiğinde, geçmiş veriden kurulan bir doğru, gelecekteki ilişkiyi yansıtmayabilir.
Regresyonu hesap tablosunda kurmak
Basit bir regresyon, özel bir yazılım gerektirmez. Hesap tablolarında eğimi, sabit terimi ve belirlilik katsayısını doğrudan veren işlevler bulunur; saçılım grafiğine bir eğilim çizgisi eklemek de aynı doğruyu çizer ve istenirse denklemini ve R² değerini grafiğin üzerine yazar. Ama bu kolaylık bir tuzak da barındırır: bir tuşla elde edilen doğru, kalıntılara ve aykırı değerlere bakılmadan yorumlanabilir. İyi bir alışkanlık, her regresyonun yanına kalıntıların grafiğini de çizmek ve doğrunun hangi gözlemlere en çok bağlı olduğunu kontrol etmektir. Tek bir gözlem çıkarıldığında eğim belirgin biçimde değişiyorsa, sonuç o gözleme dayanıyor demektir ve bu durum raporda açıkça belirtilmelidir.
Ortalamaya dönüşün matematiği
Ortalamaya dönüş, regresyon doğrusunun kendisinden okunabilir. İki değişken de standart puanlara çevrilirse, regresyon eğimi korelasyon katsayısına eşit olur. Korelasyon 1'den küçük olduğu sürece, bir birimin ilk ölçümdeki standart puanı ne olursa olsun, ikinci ölçümde beklenen standart puanı, ilkinin korelasyon katsayısı kadar küçültülmüş hâlidir. Örneğin iki yılın kârlılığı arasındaki korelasyon 0,5 ise, bir yıl ortalamayı iki standart sapma aşan bir şirketin ertesi yıl ortalama olarak yalnızca bir standart sapma üstünde olması beklenir. Bu, şirketin kötüleştiği anlamına gelmez; ilk ölçümdeki şans payının tekrarlanmadığı anlamına gelir.
Ortalamaya dönüş ve politika değerlendirmesi
Ortalamaya dönüş, bir müdahalenin etkisini ölçerken en sık karşılaşılan tuzaklardan biridir. Bir bölgede kaza sayısı olağandışı yüksek olduğu yıl hız kamerası konursa, ertesi yıl kazaların azalması kısmen ortalamaya dönüşten kaynaklanır. En düşük sınav sonucunu alan okullara ek destek verilirse, ertesi yıl bu okulların sonuçlarının yükselmesi de öyle. Bu tuzaktan kaçınmanın yolu, müdahale edilen birimlerle aynı ölçütle seçilmiş ama müdahale edilmemiş bir karşılaştırma grubu kullanmaktır. En güvenilir yol, uygun birimler arasından müdahaleyi rastgele dağıtmaktır.
Regresyon ve nedensellik
Bir regresyon eğimi, iki değişken arasındaki ortalama ilişkiyi ölçer; nedenselliği kendiliğinden kanıtlamaz. Eğitim ile gelir arasındaki eğim, eğitimin gelire etkisini değil, daha çok eğitim almış kişilerin ortalamada ne kadar fazla kazandığını gösterir. Bu farkın bir kısmı, hem eğitim süresini hem de geliri etkileyen yetenek, aile geçmişi ya da bağlantılar gibi karıştırıcı değişkenlerden kaynaklanabilir. Basit regresyon bu değişkenleri hesaba katmaz. Birden çok açıklayan değişkeni aynı anda kullanan çoklu regresyon ve nedensel etkiyi ayırmaya yönelik yöntemler, ekonometri kurslarının konusudur.
Tartışma: regresyon ne kadar güvenilir?
Regresyonun iktisattaki yeri, uzun süredir tartışma konusudur. Bir grup iktisatçı, gözlemsel verilerle yapılan regresyonların karıştırıcı değişkenler yüzünden çoğu zaman yanıltıcı olduğunu, bu yüzden rastgele deneylerin ya da doğal deneylerin tercih edilmesi gerektiğini savunur. Öbür grup ise pek çok önemli iktisadi sorunun deneyle incelenemeyeceğini, dikkatle kurulmuş ve varsayımları açıkça tartışılmış regresyonların, kusurlarına rağmen, elimizdeki en iyi araçlardan biri olduğunu hatırlatır. Bugün birçok çalışma iki yaklaşımı birleştirir: deneysel ya da yarı deneysel bir tasarım kurar ve sonuçlarını regresyonla tahmin eder.
Modelin sınırları
Basit doğrusal regresyon, iki değişken arasındaki ilişkiyi tek bir doğruyla özetler. İlişki doğrusal değilse, önemli karıştırıcı değişkenler varsa, gözlemler birbirinden bağımsız değilse ya da veri belirli bir aralıkla sınırlıysa, bu özet yanıltıcı olabilir. Doğrunun eğimi ortalama bir ilişkiyi anlatır; bireylerin tek tek nasıl davranacağını söylemez. Bir regresyon sonucu okunurken, verinin kaynağı, gözlem sayısı, kalıntıların deseni, eğimin güven aralığı ve olası karıştırıcı değişkenler birlikte sorulmalıdır.
Uygulama
Özet kartı
- Regresyon doğrusu, açıklanan değişkenin ortalama değerini açıklayan değişkenin bir fonksiyonu olarak gösterir; eğim birim taşır ve bir birimlik değişimin ortalama etkisini anlatır.
- En küçük kareler yöntemi, kalıntıların kareleri toplamını en küçük yapan doğruyu seçer; eğim kovaryansın açıklayan değişkenin varyansına oranıdır ve doğru ortalamalar noktasından geçer.
- Belirlilik katsayısı yayılımın ne kadarının doğruyla açıklandığını gösterir; basit regresyonda korelasyonun karesidir ama ne nedenselliği ne de eğimin önemini söyler.
- Kalıntılar doğrunun açıklayamadığı kısımdır; desen gösteren kalıntılar doğrusal olmayan bir ilişkiye ya da farklı belirsizliğe işaret eder; doğruyu verinin dışına uzatmak tehlikelidir.
- Ortalamaya dönüş, korelasyon birden küçük olduğunda uç değerlerin kendiliğinden ortalamaya yaklaşmasıdır; Secrist'in yanılgısı gibi, nedensel bir etki sanılmaması için karşılaştırma grubu gerekir.
Kavram sözlüğü
| Türkçe | İngilizce | Kısa tanım |
|---|---|---|
| Regresyon doğrusu | Regression line | Açıklanan değişkenin ortalamasını açıklayan değişkene bağlayan doğru |
| En küçük kareler | Least squares | Kalıntıların kareleri toplamını en küçük yapan doğruyu seçme yöntemi |
| Kalıntı | Residual | Gerçek değer ile doğrunun tahmini arasındaki fark |
| Belirlilik katsayısı | Coefficient of determination | Yayılımın doğruyla açıklanan payı; R² |
| Ortalamaya dönüş | Regression to the mean | Uç ölçümlerin bir sonraki ölçümde ortalamaya yaklaşma eğilimi |
Kendini sına
- (Çıktı 1) Regresyon doğrusunun eğimini ve sabit terimini tanımla. Eğimin birimi, korelasyon katsayısından neden farklıdır?
- (Çıktı 2) Secrist'in «vasatlığın zaferi» bulgusu neden bir iktisadi yasa değil, bir istatistiksel yanılgıydı? Hotelling'in önerdiği sınamayı açıkla.
- (Çıktı 3) Dört gözlem (1; 3), (2; 5), (3; 6), (4; 10) olsun. En küçük kareler eğimini ve sabit terimini hesapla.
- (Çıktı 3) Aynı veride kalıntıları ve belirlilik katsayısını hesapla.
- (Çıktı 2) İki yılın kârlılığı arasındaki korelasyon 0,6 olsun. Bir yıl ortalamanın 2,5 standart sapma altında kalan bir şirketin ertesi yıl ortalama olarak nerede olması beklenir? Bu, şirketin yönetiminin iyileştiğini mi gösterir?
- (Çıktı 4) Bir bakanlık, en yüksek trafik kazası sayısına sahip on kavşağa yeni sinyalizasyon kurmuş ve ertesi yıl bu kavşaklarda kazaların yüzde 30 azaldığını açıklamıştır. Bu sonucu değerlendir ve sinyalizasyonun gerçek etkisini ölçmek için nasıl bir karşılaştırma önerirsin?
Cevaplar
- Sabit terim, açıklayan değişken sıfırken doğrunun verdiği değerdir; eğim, açıklayan değişken bir birim arttığında tahminin ortalama olarak ne kadar değiştiğidir. Eğimin birimi, açıklanan değişkenin biriminin açıklayan değişkenin birimine oranıdır, örneğin yıl başına lira; korelasyon katsayısı ise birimsizdir ve ilişkinin büyüklüğünü değil sıkılığını ölçer.
- İşletmeler 1920'deki performanslarına göre gruplandığında, en iyi gruba yetenekli olanların yanında o yıl şanslı olanlar da girmişti; şans tekrarlanmadığı için grup kendiliğinden ortalamaya yaklaştı. Bu, rekabetin değil gruplama yönteminin sonucuydu. Hotelling, işletmeler 1930'daki performanslarına göre gruplanıp geriye doğru izlenseydi aynı yakınsamanın ters yönde görüleceğine dikkat çekti; zamanın yönünden bağımsız bir yakınsama, bunun bir yasa değil istatistiksel bir olgu olduğunu kanıtlar.
- Ortalamalar 2,5 ve 6'dır. x sapmaları −1,5; −0,5; 0,5; 1,5. y sapmaları −3; −1; 0; 4. Çarpımlar toplamı 4,5 + 0,5 + 0 + 6 = 11. x sapmalarının kareleri toplamı 5. Eğim 11 ÷ 5 = 2,2. Sabit terim 6 − 2,2 × 2,5 = 0,5. Doğru: y = 0,5 + 2,2x.
- Tahminler 2,7; 4,9; 7,1; 9,3. Kalıntılar 0,3; 0,1; −1,1; 0,7; toplamları sıfırdır. Kalıntı kareleri toplamı 0,09 + 0,01 + 1,21 + 0,49 = 1,80. y sapmalarının kareleri toplamı 9 + 1 + 0 + 16 = 26. R² = 1 − 1,80 ÷ 26 ≈ 0,93.
- Beklenen standart puan 0,6 × (−2,5) = −1,5'tir; şirketin ertesi yıl ortalamanın 1,5 standart sapma altında olması beklenir. Bu iyileşme, yönetimde hiçbir değişiklik olmasa da beklenir; ilk yılın kötü sonucundaki şans payının tekrarlanmamasından kaynaklanır. Yönetimin iyileştiğini söylemek için beklenenden daha fazla bir iyileşme görmek gerekir.
- Kavşaklar en yüksek kaza sayısına göre seçildiği için, o yılki olağandışı yüksek sayıların bir kısmı şanstan kaynaklanır ve ertesi yıl kendiliğinden azalması beklenir; yüzde 30'luk düşüşün bir kısmı ortalamaya dönüştür. Gerçek etkiyi ölçmek için, aynı ölçütle seçilmiş ama sinyalizasyon kurulmamış benzer kavşakların kaza sayısındaki değişim karşılaştırma grubu olarak kullanılmalı; mümkünse sinyalizasyon uygun kavşaklar arasında rastgele dağıtılmalı ve birkaç yıllık veriye bakılmalıdır.
İleri okuma
- Francis Galton (1886). «Regression towards Mediocrity in Hereditary Stature». Journal of the Anthropological Institute 15. Regresyon kavramının doğduğu makale.
- Horace Secrist (1933). The Triumph of Mediocrity in Business. Northwestern University. Regresyon yanılgısının iktisattaki en bilinen örneği.
- Milton Friedman (1992). «Do Old Fallacies Ever Die?». Journal of Economic Literature 30(4). Regresyon yanılgısının iktisattaki kalıcılığı üzerine.
- Stephen M. Stigler (1997). «Regression towards the Mean, Historically Considered». Statistical Methods in Medical Research 6(2). Ortalamaya dönüş kavramının tarihçesi.
Sonraki derse köprü
Bu derste bir veri kümesinden en iyi doğruyu çizdik ve o doğrunun ne söyleyip ne söylemediğini tartıştık. Ama en iyi analiz yöntemi bile, verinin nasıl toplandığındaki bir kusuru düzeltemez. İktisattaki sayıların büyük kısmı anketlerden gelir: işsizlik, gelir, tüketim, beklentiler, siyasi eğilimler. Bir anket, rastgele örneklemin kusursuz kurallarına rağmen nasıl sistematik olarak yanılabilir? Kimlere ulaşılamaz, kimler cevap vermez, sorunun biçimi cevabı nasıl değiştirir? Anketleri ve örneklem yanlılığını sıradaki ders ele alıyor.