Değişen varyans

Öğrenme çıktıları

• Hatırlama — Değişen varyansı, dayanıklı standart hatayı, Breusch–Pagan testini, White testini, ağırlıklı en küçük kareleri ve uygulanabilir genelleştirilmiş en küçük kareleri tanımlar.
• Anlama — Hata varyansı gözlemden gözleme değiştiğinde en küçük kareler tahmininin neden sapmasız kaldığını ama standart hataların ve testlerin neden yanıltıcı hâle geldiğini açıklar.
• Uygulama — Bir Breusch–Pagan test istatistiğini hesaplar, sıradan ve dayanıklı standart hatalarla kurulan testlerin sonuçlarını karşılaştırır ve gruplanmış verilerde ağırlıkları belirler.
• Değerlendirme — Dayanıklı standart hataları varsayılan olarak kullanma pratiğini, ağırlıklı tahminin kazançlarını ve iki standart hatanın ayrışmasının bir model sorununa işaret edip etmediğini tartar.

Sezgi

Açılış

Gelirleri düşük hanelerin lokanta harcamaları birbirine yakındır: çoğu çok az harcar. Gelir arttıkça harcamalar da artar, ama aynı gelirdeki haneler arasındaki farklar da büyür. Bazı varlıklı haneler sık sık dışarıda yer, bazıları neredeyse hiç yemez. Gelir ile harcama arasındaki ilişkiyi gösteren bir grafikte noktalar, sağa doğru açılan bir huni gibi yayılır. Bu yayılım, ilişkinin kendisi hakkında değil, onun ne kadar kesin bilinebileceği hakkında bir şey söyler.

Önceki derste kalıntı grafiklerinin bir modelin biçimindeki sorunları ortaya çıkarabileceğini ve huni biçimli bir örüntünün başka bir soruna işaret ettiğini gördük. Bu derste o soruna, yani hata teriminin yayılımının gözlemden gözleme değişmesine bakıyoruz. Sorunun tahminleri nasıl etkilediğini, nasıl sınandığını ve iktisadın en çok atıf alan makalelerinden birinin önerdiği çözümü inceleyeceğiz.

Hikâye — Varsayımdan kurtaran formül

1970'lerin sonunda uygulamalı iktisatçılar bir ikilemle karşı karşıyaydı. Klasik varsayımlara göre hata teriminin varyansı her gözlem için aynı olmalıydı; oysa gerçek verilerde bu nadiren doğruydu. Büyük şirketlerin yatırımları küçüklerinkinden çok daha fazla dalgalanıyor, zengin hanelerin harcamaları yoksullarınkinden çok daha geniş bir aralığa yayılıyordu. Bu durumda ders kitabı formülünün verdiği standart hatalar yanlıştı. Düzeltmek için ise varyansın nasıl değiştiğini tam olarak modellemek gerekiyordu; bu da çoğu zaman bilinmeyen bir şeyi bilmeyi gerektiriyordu.

1980'de, henüz yirmi dokuz yaşındaki ekonometrici Halbert White, Econometrica dergisinde yayımladığı makalede bu ikilemden bir çıkış yolu gösterdi. Varyansın hangi biçimde değiştiğini bilmeye gerek kalmadan, standart hataları tutarlı biçimde tahmin eden bir formül önerdi. Fikrin kökleri, istatistikçiler Friedhelm Eicker ve Peter Huber'in 1960'lardaki çalışmalarına uzanıyordu; ama White onu iktisatçıların doğrudan kullanabileceği bir biçime soktu ve aynı makalede değişen varyans için bir test de önerdi.

Önerilen formül birkaç yıl içinde uygulamalı çalışmaların standart donanımına girdi. 2006'da yapılan bir inceleme, White'ın makalesini 1970'ten bu yana önde gelen iktisat dergilerinde yayımlanmış makaleler arasında en çok atıf alanı olarak belirledi. Günümüzde istatistik paketlerinin çoğunda «dayanıklı» ya da «robust» seçeneği, White'ın formülünü ya da onun geliştirilmiş biçimlerini uygular. White 2012'de hayatını kaybetti; onun adını taşıyan standart hatalar, uygulamalı iktisadın gündelik dili hâline geldi.

Kavram

White'ın çözdüğü sorun, klasik varsayımlardan birinin bozulmasıyla ilgiliydi. Bu bozulma iktisat yazınında kendi adıyla anılır.

Standart hataları düzeltmenin en yaygın yolu, varyansın biçimini bilmeden işleyen bir formül kullanmaktır. White'ın önerisi budur.

Değişen varyansın varlığını sınamak için, kalıntıların büyüklüğünün açıklayıcı değişkenlerle ilişkili olup olmadığına bakılır. Bu mantığa dayanan ilk yaygın test, 1979'da önerildi.

Değişen varyans her zaman açıklayıcı değişkenlerle doğrusal bir ilişki izlemez. Daha genel bir test, kareleri ve çarpımları da hesaba katar.

Varyansın biçimi biliniyorsa, standart hataları düzeltmenin ötesine geçip daha kesin tahminler elde etmek mümkündür. Bunun yolu, gürültülü gözlemlere daha az ağırlık vermektir.

Varyansın biçimi çoğu zaman bilinmez, ama veriden tahmin edilebilir. Bu tahmin, ağırlıkları belirlemek için kullanılabilir.

Veri ve kanıt

White'ın katkısının değeri, bir bilinmeyeni modellemek zorunda kalmadan geçerli çıkarım yapmayı mümkün kılmasıydı. Araştırmacı artık hata varyansının geliri, şirket büyüklüğünü veya bir başka etkeni hangi biçimde izlediğini bilmeden, katsayıların kesinliğini güvenilir biçimde raporlayabiliyordu. Bu esneklik, uygulamalı iktisattaki daha geniş bir dönüşümle de uyumluydu: araştırmacılar varsayımları azaltan yöntemleri tercih etmeye başladı. Sonraki çalışmalar, özellikle küçük örneklemlerde formülün standart hataları olduğundan küçük gösterebileceğini fark etti ve düzeltilmiş biçimler önerdi.

King ve Roberts'ın uyarısı, dayanıklı standart hataların neyi düzelttiğini ve neyi düzeltmediğini netleştirir. Doğrusal modelde değişen varyans tek sorunsa, dayanıklı standart hatalar geçerli çıkarım sağlar ve katsayılar sapmasız kalır. Ama ayrışma, önceki derste gördüğümüz fonksiyonel biçim hatasından ya da çıkarılan bir değişkenden kaynaklanıyorsa, standart hataları düzeltmek katsayılardaki sapmayı gidermez. Bu yüzden iki standart hatanın belirgin biçimde ayrışması, modelin biçimine yeniden bakmak için bir işarettir.

Neden önemli?

Bir politikanın etkisinin istatistiksel olarak anlamlı olup olmadığı, standart hatalara bağlıdır. Değişen varyans göz ardı edildiğinde, standart hatalar olduğundan küçük görünebilir ve aslında belirsiz olan bir etki kesinmiş gibi raporlanabilir. Tersi de olabilir: standart hatalar olduğundan büyük görünür ve önemli bir etki fark edilmez. Her iki hâlde de tablo, verilerin gerçekte ne kadar bilgi taşıdığını yanlış yansıtır.

Değişen varyans, ekonomik verilerde istisna değil, kuraldır. Gelir, harcama, şirket büyüklüğü, ihracat ve servet gibi değişkenlerin yayılımı, düzeyleriyle birlikte büyür. Türkiye'deki hane bütçe araştırmalarında, şirket bilançolarında ya da il düzeyindeki verilerde de benzer örüntüler görülür. Bu yüzden bugün uygulamalı çalışmaların çoğu, dayanıklı standart hataları varsayılan olarak raporlar; bir çalışmayı okurken hangi standart hataların kullanıldığına bakmak, sonuçların güvenilirliğini değerlendirmenin ilk adımlarından biridir.

Model

Değişen varyans nerede görülür?

Değişen varyansın en yaygın kaynağı, açıklanan değişkenin ölçeğidir. Hane geliri arttıkça harcama tercihlerinin çeşitliliği artar; bir şirket büyüdükçe yatırım ve kârındaki dalgalanmaların mutlak büyüklüğü de büyür. Bu durumda hata teriminin varyansı, açıklayıcı değişkenin düzeyiyle birlikte yükselir ve kalıntı grafiği huni biçimini alır.

İkinci bir kaynak, verilerin gruplanmasıdır. İl ya da sektör ortalamaları gibi gruplanmış veriler kullanıldığında, küçük grupların ortalamaları büyük gruplarınkinden daha fazla dalgalanır. Üçüncü kaynak, açıklanan değişkenin yapısıdır: kukla değişkenler dersinde gördüğümüz doğrusal olasılık modelinde, hata teriminin varyansı tahmin edilen olasılığa bağlıdır ve bu modelde değişen varyans kaçınılmazdır.

Sonuçlar: ne kaybedilir, ne korunur?

Değişen varyans, en küçük kareler tahminlerinin sapmasızlığını ve tutarlılığını etkilemez. Klasik varsayımlar dersinde belirttiğimiz üzere, bu iki özellik koşullu sıfır ortalama varsayımına dayanır; varyansın sabit olup olmaması bu varsayımla ilgili değildir. Katsayılar, ortalamada doğru değerlerinin çevresinde dağılmaya devam eder.

Kaybedilen iki şey vardır. Birincisi, sabit varyans varsayan klasik standart hatalar artık katsayıların gerçek dağılımını yansıtmaz. İkincisi, Gauss–Markov teoremi artık geçerli değildir: daha düşük varyanslı bir doğrusal ve sapmasız seçenek bulunabilir. Birinci kayıp çıkarımı, ikincisi kesinliği etkiler; birincisi dayanıklı standart hatalarla, ikincisi ağırlıklı tahminle giderilebilir.

Çözümlü örnek — Yanıltıcı kesinlik

Hane gelirinin 1 ile 20 bin lira arasında değiştiği, gelirin düşük düzeylerde yoğunlaştığı 200 hanelik bir örneklem düşünelim. Aylık lokanta harcaması, 2 artı 0,5 çarpı gelir artı bir hata teriminden oluşsun; hata teriminin standart sapması gelirin karesiyle orantılı olarak artsın. Bu ekonomiden 5 bin kez örneklem çekip her birinde en küçük kareler eğimini hesapladığımızı düşünelim.

Eğim tahminlerinin ortalaması 0,50 çıkar: tahmin sapmasızdır. Tahminlerin gerçek standart sapması yaklaşık 0,159'dur. Oysa standart formülle hesaplanan standart hataların ortalaması yaklaşık 0,079'dur, yani gerçek belirsizliğin yarısı kadar. White'ın dayanıklı standart hatalarının ortalaması ise yaklaşık 0,154'tür ve gerçeğe çok yakındır. Gerçek eğimin 0,5 olduğu hipotezini yüzde 5 düzeyinde sınadığımızda, standart formül bu doğru hipotezi örneklemlerin yaklaşık yüzde 34'ünde yanlışlıkla reddeder; dayanıklı standart hatalarla bu oran yaklaşık yüzde 6'ya iner.

Görsel tanı

Değişen varyansı fark etmenin ilk adımı, kalıntıları uydurulmuş değerlere ya da şüphelenilen açıklayıcı değişkene göre çizmektir. Kalıntıların yayılımı sağa ya da sola doğru genişliyorsa, huni biçimi değişen varyansa işaret eder. Kalıntıların mutlak değerlerini ya da karelerini çizmek, örüntüyü daha belirgin hâle getirebilir.

Görsel tanı, varyansın hangi değişkenle ve hangi biçimde ilişkili olduğuna dair ipuçları verir. Bu ipuçları, ağırlıklı tahminde hangi ağırlıkların kullanılacağına karar vermek için de değerlidir. Ama grafikler, özellikle modelde çok sayıda açıklayıcı değişken bulunduğunda, resmî testlerin yerini tutmaz.

Doğrusal olasılık modelinde kaçınılmaz yayılım

Açıklanan değişken yalnızca sıfır ya da bir değerini aldığında, hata teriminin varyansı modelin kendi yapısından doğar. Tahmin edilen olasılık p ise, hata teriminin varyansı p çarpı bir eksi p olur. Bu çarpım, olasılık yüzde 50 olduğunda 0,25 ile en yüksek değerine ulaşır; olasılık yüzde 10 ya da yüzde 90 olduğunda 0,09'a düşer.

Bu yüzden doğrusal olasılık modelinde sabit varyans baştan imkânsızdır ve test etmeye bile gerek yoktur. Uygulamada bu modeller dayanıklı standart hatalarla raporlanır. Varyansın biçimi bilindiği için ağırlıklı tahmin de mümkündür, ama tahmin edilen olasılıklar sıfırın altına ya da birin üstüne düştüğünde ağırlıklar tanımsız hâle gelir; bu da ağırlıklı yolu pratikte kırılgan kılar.

Breusch–Pagan testi

Trevor Breusch ve Adrian Pagan'ın 1979'da önerdiği test, basit bir fikre dayanır. Varyans sabitse, kalıntıların büyüklüğü açıklayıcı değişkenlerle ilişkili olmamalıdır. Bunu sınamak için ilk adımda asıl regresyon kurulur ve her gözlemin kalıntısının karesi alınır. Sonra bu kareler, açıklayıcı değişkenlerle yardımcı bir regresyona sokulur.

Test istatistiği, gözlem sayısı ile yardımcı regresyonun belirlilik katsayısının çarpımıdır. Sabit varyans varsayımı altında bu istatistik, serbestlik derecesi açıklayıcı değişken sayısına eşit olan bir ki-kare dağılımına uyar. İstatistik kritik değeri aşarsa, sabit varyans varsayımı reddedilir.

Çözümlü örnek — Testi hesaplamak

Tek açıklayıcı değişkenli bir modelde 200 gözlemin kalıntılarının kareleri, açıklayıcı değişkenle regresyona sokulmuş ve yardımcı regresyonun belirlilik katsayısı 0,06 bulunmuş olsun. Test istatistiği, 200 ile 0,06'nın çarpımı olan 12'dir. Bir serbestlik dereceli ki-kare dağılımının yüzde 5 düzeyindeki kritik değeri yaklaşık 3,84'tür.

12, kritik değerin çok üzerindedir; sabit varyans varsayımı güçlü biçimde reddedilir. Aynı yardımcı regresyonun belirlilik katsayısı 0,01 olsaydı, test istatistiği 2 olurdu ve varsayım reddedilemezdi. Dikkat edilmesi gereken nokta, büyük örneklemlerde çok küçük belirlilik katsayılarının bile anlamlı bir test sonucu verebileceğidir; bu durumda değişen varyansın varlığı kadar önemi de değerlendirilmelidir.

Gruplar arasında yayılım karşılaştırması

Daha eski ve sezgisel bir yol, örneklemi şüphelenilen değişkene göre sıralayıp iki uçtaki grupların kalıntı varyanslarını karşılaştırmaktır. Stephen Goldfeld ve Richard Quandt'ın 1965'te önerdiği bu yaklaşımda, ortadaki gözlemler dışarıda bırakılır ve iki uç grubun varyanslarının oranı bir F dağılımıyla sınanır.

Örneğin gelire göre sıralanmış haneler arasında en yoksul üçte birin kalıntı varyansı 4, en varlıklı üçte birinki 36 çıkmışsa, oran 9'dur. Bu oran, grupların büyüklüğüne göre belirlenen kritik değeri aştığında sabit varyans reddedilir. Yöntemin sınırı, varyansın hangi değişkene bağlı olduğunun önceden bilinmesini gerektirmesidir.

White testi

Breusch–Pagan testi, varyansın açıklayıcı değişkenlerle doğrusal olarak ilişkili olduğunu varsayar. White'ın önerdiği test daha geneldir: yardımcı regresyona açıklayıcı değişkenlerin yanında onların karelerini ve birbirleriyle çarpımlarını da ekler. Böylece varyansın bir değişkenin karesiyle ya da iki değişkenin etkileşimiyle ilişkili olduğu durumları da yakalayabilir.

Bu genelliğin bedeli, yardımcı regresyondaki terim sayısının hızla artmasıdır. Beş açıklayıcı değişkenli bir modelde yardımcı regresyon yirmiden fazla terim içerir; bu da küçük örneklemlerde testin gücünü azaltır. Bu yüzden uygulamada White testinin, kareleri ve çarpımları yerine uydurulmuş değerleri ve onların karesini kullanan sadeleştirilmiş biçimleri de kullanılır.

Dayanıklı standart hataların mantığı

Standart formül, bütün gözlemlerin aynı hata varyansına sahip olduğunu varsayar ve bu ortak varyansı kalıntıların ortalamasıyla tahmin eder. Dayanıklı standart hatalar ise her gözlemin kendi kalıntısının karesini, o gözlemin varyansının bir tahmini olarak kullanır. Açıklayıcı değişkenin ortalamasından uzak ve büyük kalıntılı gözlemler, standart hataya daha fazla katkıda bulunur.

Bu yaklaşımın gücü, varyansın biçimi hakkında hiçbir varsayım gerektirmemesidir. Sınırı ise büyük örneklemlere dayanmasıdır. James MacKinnon ve Halbert White 1985'te, küçük örneklemlerde formülün standart hataları olduğundan küçük gösterebileceğini gösterdi ve kalıntıları gözlemlerin kaldıraç değerlerine göre düzelten biçimler önerdi. Bugün yazılımlar bu biçimleri farklı kısaltmalarla sunar; küçük örneklemlerde düzeltilmiş biçimlerin kullanılması önerilir.

Ağırlıklı en küçük kareler

Varyansın biçimi biliniyorsa, standart hataları düzeltmenin ötesine geçmek mümkündür. Ağırlıklı en küçük kareler, her gözlemi hata varyansının tersiyle ağırlıklandırır: gürültülü gözlemler tahmini daha az, kesin gözlemler daha fazla etkiler. Bu dönüşümden sonra model sabit varyanslı hâle gelir ve Gauss–Markov teoreminin güvencesi yeniden sağlanır.

Varyansın biçimi, verinin yapısından biliniyor olabilir. Gruplanmış verilerde, bir grup ortalamasının varyansı grubun büyüklüğüyle ters orantılıdır; bu durumda doğal ağırlık, grubun gözlem sayısıdır. Varyansın bir açıklayıcı değişkenle orantılı olduğu biliniyorsa, ağırlık o değişkenin tersi olur.

Çözümlü örnek — Gruplanmış veride ağırlıklar

Bir araştırmacı, illerin ortalama hane harcamalarını ortalama gelirleriyle ilişkilendiriyor. İl ortalamaları farklı büyüklükteki örneklemlerden hesaplanmış: bir ilde 2.000, bir başkasında 200 hane anketlenmiş. Hane düzeyindeki harcamaların varyansı her ilde aynıysa, 200 hanelik bir ilin ortalamasının varyansı, 2.000 hanelik bir ilinkinin 10 katıdır.

Ağırlıklı en küçük kareler, her ilin gözlemini anketlenen hane sayısıyla ağırlıklandırır. 2.000 hanelik il, 200 hanelik ile göre 10 kat daha fazla ağırlık alır. Böylece örneklem gürültüsünün büyük olduğu küçük illerin ortalamaları, tahmini daha az etkiler. Bu ağırlıklandırma, tahminin kesinliğini artırır; ama iller arasındaki ilişkinin gerçekten aynı olduğu varsayımına dayanır. İlişki il büyüklüğüne göre farklıysa, ağırlıklı ve ağırlıksız tahminler farklı soruların cevabı olur.

Uygulanabilir genelleştirilmiş en küçük kareler

Varyansın biçimi bilinmediğinde, veriden tahmin edilebilir. İlk aşamada asıl regresyon ağırlıksız olarak kurulur; kalıntıların karelerinin logaritması, açıklayıcı değişkenlerle regresyona sokularak her gözlemin varyansı tahmin edilir. İkinci aşamada model, bu tahmin edilen varyansların tersiyle ağırlıklandırılarak yeniden tahmin edilir.

Varyans modeli doğruysa, bu yöntem büyük örneklemlerde en küçük karelerden daha kesin tahminler verir. Ama varyans modeli yanlışsa, kazanç kaybolabilir ve standart hatalar yine yanıltıcı olabilir. Bu yüzden uygulamada, uygulanabilir genelleştirilmiş en küçük kareler tahmininin kendisine de dayanıklı standart hatalar eklemek güvenli bir yoldur.

Test gücü ve örneklem büyüklüğü

Değişen varyans testleri, her istatistiksel test gibi, örneklem büyüklüğüne duyarlıdır. On bin gözlemli bir hane anketinde, standart hataları ancak yüzde birkaç değiştiren hafif bir değişen varyans bile testte çok güçlü biçimde anlamlı çıkabilir. Kırk gözlemli bir il verisinde ise standart hataları ciddi biçimde bozan bir yayılım farkı fark edilmeyebilir.

Bu yüzden test sonucu tek başına bir karar ölçütü olmamalıdır. Daha bilgilendirici soru, sıradan ve dayanıklı standart hataların ne kadar farklı olduğudur. Fark küçükse, hangi standart hatanın raporlandığı sonucu değiştirmez; fark büyükse, test ne derse desin, çıkarım dayanıklı standart hatalara dayandırılmalı ve modelin biçimi sorgulanmalıdır.

Raporlamada şeffaflık

Bir regresyon tablosu okunurken, standart hataların nasıl hesaplandığı tablonun altındaki notta yazmalıdır. «Parantez içinde dayanıklı standart hatalar» ifadesi, okura değişen varyansın hesaba katıldığını söyler. Böyle bir not yoksa, yazılımın varsayılan ayarının kullanıldığı ve standart hataların sabit varyans varsayımına dayandığı düşünülebilir.

Hangi düzeltilmiş biçimin seçildiği de önemlidir. Küçük örneklemlerde farklı biçimler birbirinden belirgin ölçüde farklı standart hatalar verebilir. İyi bir raporda, sonuçların farklı standart hata seçimlerine karşı ne kadar sağlam olduğu da gösterilir; örneğin ek tabloda sıradan, dayanıklı ve ağırlıklı tahminler yan yana verilir.

Hangi yol?

Uygulamalı iktisatta bugünkü yaygın pratik, katsayıları ağırlıksız olarak bulup dayanıklı standart hataları raporlamaktır. Bu yaklaşım, varyansın biçimi hakkında hiçbir varsayım gerektirmez ve katsayıların yorumu değişmez. Kesinlik kaybı, çoğu zaman büyük örneklemlerde kabul edilebilir düzeydedir.

Ağırlıklı tahmin, varyansın biçimi güvenilir biçimde bilindiğinde ya da kesinlik kritik olduğunda tercih edilir. Önceki derste gördüğümüz logaritma dönüşümü de bir seçenektir: gelir gibi değişkenlerin logaritması alındığında, yayılım genellikle dengelenir ve değişen varyans azalır. Ama dönüşümün katsayıların yorumunu değiştirdiği unutulmamalıdır. Hangi yol seçilirse seçilsin, King ve Roberts'ın uyarısı geçerlidir: sıradan ve dayanıklı standart hatalar arasındaki büyük bir fark, modelin biçimini yeniden düşünmek için bir nedendir.

Değişen varyansın ötesi

Dayanıklı standart hatalar, gözlemlerin hata terimlerinin birbirinden bağımsız olduğunu varsayar; yalnızca varyansların farklı olmasına izin verir. Ama pek çok veride hatalar birbirine bağlıdır: aynı sınıftaki öğrencilerin, aynı ildeki hanelerin ya da aynı şirketin farklı yıllardaki gözlemlerinin hataları birlikte hareket edebilir.

Bu durumda standart hataların, gözlemlerin gruplar içinde ilişkili olmasına izin verecek biçimde hesaplanması gerekir. Zaman serilerinde hataların dönemden döneme bağlı olması ise ayrı bir sorundur. Bu konuları sıradaki derste, otokorelasyonu ele alırken inceleyeceğiz.

Uygulama

Özet kartı

1. Değişen varyans, hata varyansının açıklayıcı değişkenlerin değerine göre değişmesidir; ekonomik verilerde gelir, harcama ve şirket büyüklüğü gibi değişkenlerle yaygın olarak ortaya çıkar ve kalıntı grafiğinde huni biçiminde görünür.
2. Koşullu sıfır ortalama varsayımı sağlandığı sürece değişen varyans katsayıları saptırmaz; ama klasik standart hatalar ve onlara dayanan çıkarım güvenilmez hâle gelir; benzetimde standart formül gerçek belirsizliğin yarısını gösterdi ve doğru bir hipotezi yüzde 5 yerine yüzde 34 oranında reddetti.
3. Breusch–Pagan testi kalıntı karelerini açıklayıcı değişkenlerle, White testi bunlara ek olarak kare ve çarpım terimleriyle ilişkilendirir; örnekte 200 gözlem ve 0,06'lık belirlilik katsayısı, 3,84'lük kritik değeri aşan 12'lik bir istatistik verdi.
4. White'ın 1980'deki dayanıklı standart hataları, varyansın biçimini bilmeden geçerli çıkarım sağlar ve 1970'ten bu yana iktisadın en çok atıf alan makalesinin konusudur; küçük örneklemlerde düzeltilmiş biçimleri kullanılmalıdır.
5. Ağırlıklı ve uygulanabilir genelleştirilmiş en küçük kareler, varyansın biçimi biliniyorsa ya da güvenilir biçimde tahmin edilebiliyorsa daha kesin tahminler verir; King ve Roberts, sıradan ve dayanıklı standart hataların belirgin biçimde ayrışmasının model hatasına işaret edebileceğini vurguladı.

Kavram sözlüğü

Kendini sına

1. (Çıktı 1) Değişen varyans, ağırlıksız regresyon katsayılarının hangi özelliklerini bozar, hangilerini korur?
2. (Çıktı 2) Dayanıklı standart hatalar neden varyansın biçimini bilmeyi gerektirmez? Hangi durumlarda yetersiz kalırlar?
3. (Çıktı 3) Üç açıklayıcı değişkenli bir modelin 150 gözlemlik kalıntı kareleri, bu değişkenlerle regresyona sokulmuş ve belirlilik katsayısı 0,08 bulunmuştur. Breusch–Pagan istatistiğini hesapla. Üç serbestlik dereceli ki-kare dağılımının yüzde 5 kritik değeri yaklaşık 7,81 ise sonucu yorumla.
4. (Çıktı 3) Tahmin edilen eğim 0,30; sıradan standart hatası 0,10, dayanıklı standart hatası 0,18'dir. Her iki standart hatayla t istatistiğini ve iki standart hata genişliğinde bir aralığı hesapla. Sonuç nasıl değişir?
5. (Çıktı 3) Gruplanmış bir veride üç ilin ortalamaları sırasıyla 400, 1.600 ve 100 hanelik örneklemlerden hesaplanmıştır. Hane düzeyindeki varyans her ilde aynıysa, ağırlıklı en küçük karelerde göreli ağırlıklar ne olur?
6. (Çıktı 4) Bir araştırmacı, «Her regresyonda dayanıklı standart hata kullanıyorum; böylece değişen varyansı test etmeme ve modelimi sorgulamama gerek kalmıyor» diyor. White'ın katkısını, King ve Roberts'ın eleştirisini ve dayanıklı standart hataların neyi düzeltip neyi düzeltmediğini kullanarak bu yaklaşımı değerlendir.

Cevaplar

1. Koşullu sıfır ortalama varsayımı sağlandığı sürece, değişen varyans en küçük kareler tahminlerinin sapmasızlığını ve tutarlılığını etkilemez. Bozduğu iki özellik vardır: klasik formülün verdiği standart hatalar gerçek belirsizlikten sapar, bu nedenle t testleri ve aralıklar güvenini yitirir; ayrıca Gauss–Markov teoreminin sağladığı en düşük varyans üstünlüğü ortadan kalkar.
2. Dayanıklı standart hatalar, her gözlemin varyansını o gözlemin kendi kalıntısının karesiyle tahmin eder; varyansın açıklayıcı değişkenlerle hangi biçimde ilişkili olduğunu modellemeye gerek duymaz. Büyük örneklemlerde tutarlıdırlar. Yetersiz kaldıkları durumlar şunlardır: küçük örneklemlerde standart hataları olduğundan küçük gösterebilirler; hatalar gözlemler arasında ilişkiliyse geçersizdirler; ve katsayıları saptıran çıkarılan değişken ya da yanlış fonksiyonel biçim gibi sorunları düzeltmezler.
3. Breusch–Pagan istatistiği, 150 ile 0,08'in çarpımı olan 12'dir. Bu değer, 7,81'lik kritik değeri aşar; sabit varyans varsayımı yüzde 5 düzeyinde reddedilir ve değişen varyansın varlığına dair güçlü bir kanıt vardır.
4. Sıradan standart hatayla t istatistiği 0,30 bölü 0,10, yani 3'tür; aralık kabaca 0,10 ile 0,50 arasında kalır ve katsayı anlamlıdır. Dayanıklı standart hatayla t istatistiği 0,30 bölü 0,18, yani yaklaşık 1,67'dir; aralık kabaca −0,06 ile 0,66 arasına genişler ve sıfırı içine alır. Değişen varyans hesaba katıldığında katsayı geleneksel ölçütlerle anlamlı olmaktan çıkar; ayrıca iki standart hata arasındaki büyük fark, modelin gözden geçirilmesi için bir işarettir.
5. Bir grup ortalamasının varyansı, grubun büyüklüğüyle ters orantılıdır; ağırlıklar hane sayısıyla orantılı olmalıdır. Göreli ağırlıklar 400, 1.600 ve 100'dür; en küçük ilin ağırlığı 1 kabul edilirse 4, 16 ve 1 olur.
6. Yaklaşımın bir kısmı yerindedir: White'ın katkısı sayesinde dayanıklı standart hatalar, varyansın biçimini bilmeden geçerli çıkarım sağlar ve bunları varsayılan olarak kullanmak bugün yaygın ve makul bir pratiktir. Ama yaklaşım iki noktada eksiktir. Birincisi, dayanıklı standart hatalar yalnızca değişen varyansın standart hatalar üzerindeki etkisini düzeltir; çıkarılan değişken, yanlış fonksiyonel biçim ya da ters nedensellik gibi katsayıları saptıran sorunları çözmez. İkincisi, King ve Roberts'ın gösterdiği gibi, sıradan ve dayanıklı standart hatalar arasındaki büyük bir fark, modelin yanlış kurulduğunun bir işareti olabilir; bu farkı görmezden gelmek, düzeltilmesi gereken bir sorunu gizlemek anlamına gelir. Bu yüzden dayanıklı standart hatalar kullanılırken de kalıntılara bakmak ve modelin biçimini sorgulamak gerekir.

İleri okuma

• Halbert White (1980). «A Heteroskedasticity-Consistent Covariance Matrix Estimator and a Direct Test for Heteroskedasticity». Econometrica 48(4). Dayanıklı standart hataların iktisattaki temel kaynağı.
• Trevor S. Breusch ve Adrian R. Pagan (1979). «A Simple Test for Heteroscedasticity and Random Coefficient Variation». Econometrica 47(5). Değişen varyans testinin klasik çalışması.
• James G. MacKinnon ve Halbert White (1985). «Some Heteroskedasticity-Consistent Covariance Matrix Estimators with Improved Finite Sample Properties». Journal of Econometrics 29(3). Küçük örneklemler için düzeltilmiş biçimler.
• Gary King ve Margaret E. Roberts (2015). «How Robust Standard Errors Expose Methodological Problems They Do Not Fix, and What to Do About It». Political Analysis 23(2). Dayanıklı standart hataların sınırları üzerine.

Sonraki derse köprü

Bu derste dayanıklı standart hataların, varyansların farklı olmasına izin verdiğini ama gözlemlerin hata terimlerinin birbirinden bağımsız olduğunu varsaydığını gördük. Zaman içinde izlenen verilerde bu varsayım sık sık bozulur: bu çeyreğin şoku gelecek çeyreğe taşınır, bir ayın beklenmedik sıcaklığı bir sonraki ayın enerji talebini de etkiler. Hatalar dönemden döneme bağlı olduğunda tahminlere ne olur, bu bağlılık nasıl fark edilir ve standart hatalar nasıl düzeltilir? Sıradaki ders otokorelasyonu ele alıyor: zaman serilerinde hataların birbirine bağlılığını, sonuçlarını, sınanmasını ve düzeltilmesini inceleyeceğiz.