Klasik varsayımlar

Öğrenme çıktıları

• Hatırlama — Klasik doğrusal regresyon modelini, sapmasız tahmin ediciyi, koşullu sıfır ortalama varsayımını, sabit varyansı, Gauss–Markov teoremini ve tutarlılığı tanımlar.
• Anlama — Bir regresyon eğiminin hangi varsayımlar altında sapmasız ve en kesin olduğunu, her varsayımın bozulmasının hangi özelliği ortadan kaldırdığını açıklar.
• Uygulama — Modelden çıkarılan bir değişkenin eğimi ne kadar saptırdığını ve iki farklı tahmin edicinin varyansını hesaplayarak hangisinin daha kesin olduğunu gösterir.
• Değerlendirme — Varsayımların uygulamadaki inandırıcılığını, bir sonucun hangi varsayıma en duyarlı olduğunu ve bu varsayımları sınamanın sınırlarını tartar.

Sezgi

Açılış

Bir doğru uydurmak kolaydır; zor olan, o doğrunun neyi gösterdiğinden emin olmaktır. Regresyon yazılımı, hangi veriyi verirseniz verin, size bir eğim döndürür. Ama o eğimin anakütledeki ilişkiye ne ölçüde işaret ettiği, yöntemin kendisine değil, verilerin nasıl oluştuğuna dair bazı koşulların sağlanmasına bağlıdır. Bu koşullar, ekonometrinin küçük harfle yazılmış sözleşme maddeleri gibidir: çoğu zaman okunmaz, ama sonucun geçerliliği onlara bağlıdır.

Geçen hafta hesapladığımız eğimler, her yeni örneklemde biraz farklı çıkıyordu. Bu derste o dalgalanmanın merkezinin doğru değerde olup olmadığını ve dalgalanmanın genişliğini belirleyen koşullara bakıyoruz. Her bir koşulun ne anlama geldiğini, bozulduğunda ne kaybedildiğini ve uygulamada ne kadar inandırıcı olduğunu tartışacağız.

Hikâye — Polis mi suçu artırıyor?

ABD şehirlerinin verilerine bakan bir araştırmacı, şaşırtıcı bir ilişkiyle karşılaşır: kişi başına daha fazla polisi olan şehirlerde suç oranları da daha yüksektir. Verilere en küçük kareler yöntemiyle bir doğru uydurulduğunda, polis sayısının katsayısı pozitif çıkar. Bu sonuç harfiyen alınsaydı, suçu azaltmanın yolu polis sayısını azaltmak olurdu.

Kimse bu yorumu ciddiye almaz, çünkü ilişkinin arkasındaki süreç açıktır: suçun yüksek olduğu şehirler daha fazla polis işe alır. Polis sayısı, suçu etkileyen bir değişken olduğu kadar, suçtan etkilenen bir değişkendir de. En küçük kareler yöntemi bu iki yönlü ilişkiyi birbirinden ayıramaz ve ikisinin karışımını tek bir katsayıda toplar. Steven Levitt 1997'de, belediye başkanlığı ve valilik seçimlerinden önceki yıllarda polis alımının arttığını fark etti ve bu seçim takvimini, polis sayısındaki suçtan bağımsız değişimleri ayırmak için kullandı. Bu yolla polis sayısının şiddet suçlarını azalttığı sonucuna ulaştı.

Hikâyenin bir devamı da oldu. 2002'de Justin McCrary, Levitt'in verilerini ve kodunu yeniden çalıştırdığında, bilgisayar programındaki bir ağırlıklandırma hatası buldu. Hata düzeltildiğinde temel sonuçlar istatistiksel olarak anlamlı olmaktan çıkıyordu. Levitt aynı yıl, bu kez itfaiyeci sayısındaki değişimleri kullanarak polisin suçu azalttığı sonucunu yeniden savundu. Tartışma, iki dersi birlikte öğretti: basit bir regresyonun varsayımları bozulduğunda sonuç ters yöne bile dönebilir, ve bu sorunu çözmek için geliştirilen yöntemler de dikkatli bir sınamaya muhtaçtır.

Kavram

Polis ve suç örneği, en küçük kareler tahmininin güvenilirliğinin veri üretme sürecine dair koşullara bağlı olduğunu gösterir. Bu koşullar, bir model çerçevesinde birlikte ifade edilir.

Bir tahmin edicinin ilk sınavı, ortalamada doğru sonucu verip vermediğidir. Tek bir örneklemde tahmin gerçek değerden sapabilir; önemli olan, sapmaların sistematik olup olmadığıdır.

Sapmasızlık için en kritik koşul, hata teriminin açıklayıcı değişkenlerle ilişkisiz olmasıdır. Polis örneğinde bozulan koşul budur.

Tahminin kesinliği ise hata teriminin yayılımına bağlıdır. Bu yayılımın açıklayıcı değişkenin değerine göre değişmediği varsayılır.

Varsayımlar sağlandığında en küçük kareler yöntemi yalnızca sapmasız değil, belirli bir sınıftaki tahmin ediciler arasında en kesin olanıdır. Bu sonuç, yöntemin yaygınlığının en önemli kuramsal gerekçesidir.

Uygulamada gözlem sayısı çoğu zaman büyüktür. Büyük örneklemlerde, küçük örneklem varsayımlarının bir kısmı gevşetilebilir.

Veri ve kanıt

Bu yorum, ekonometrik sonuçların iki ayrı nedenle yanıltıcı olabileceğini gösterir. Birincisi, basit bir regresyonun varsayımlarının bozulmasıdır: polis ve suç arasındaki iki yönlü ilişki, en küçük kareler tahminini sapmalı kılar. İkincisi, bu sorunu gidermek için kullanılan daha karmaşık yöntemlerin kendi varsayımları ve uygulama hatalarıdır. Verilerin ve programların paylaşılması, ikinci tür sorunların yakalanmasını mümkün kıldı; bugün pek çok iktisat dergisi, yayımlanan makalelerin verilerini ve programlarını paylaşmayı zorunlu tutuyor.

Freedman'ın eleştirisi, varsayımların teknik bir ayrıntı olmadığını, sonucun anlamını belirleyen iddialar olduğunu hatırlatır. Koşullu sıfır ortalama varsayımını kabul etmek, modelde yer almayan hiçbir etkenin açıklayıcı değişkenle ilişkili olmadığını iddia etmektir. Bu iddia, verilerin kendisinden sınanamaz; ancak veri üretme sürecine dair bilgiyle ve dikkatli bir araştırma tasarımıyla desteklenebilir. Bu eleştiri, önceki derslerde gördüğümüz güvenilirlik devriminin de düşünsel kaynaklarından biri oldu.

Neden önemli?

Klasik varsayımlar, bir regresyon sonucunu okurken sorulması gereken soruların listesidir. Bir raporda «eğitimin kazanca etkisi yüzde 8» ya da «vergi indirimi istihdamı yüzde 2 artırdı» gibi bir sonuçla karşılaşıldığında, ilk soru bu sonucun hangi varsayımlara dayandığıdır. Modelde yer almayan etkenler açıklayıcı değişkenle ilişkili mi? Açıklanan değişken açıklayıcı değişkeni de etkiliyor olabilir mi? Hataların yayılımı gözlemden gözleme değişiyor mu?

Bu soruların cevabı, bir politikanın başarısına dair iddiaların gücünü belirler. Varsayımlar sağlanmıyorsa, bir politika işe yaradığı hâlde yaramıyor, ya da yaramadığı hâlde yarıyor gibi görünebilir. Kursun geri kalanında, bu varsayımların her birinin bozulmasını ayrı ayrı inceleyecek ve bozulduklarında neler yapılabileceğini göreceğiz.

Model

Varsayımlar neden gerekli?

En küçük kareler yöntemi, bir veri setine uygulandığında her zaman bir eğim verir. Bu eğimin anakütledeki gerçek parametreyle ilişkisi hakkında bir şey söyleyebilmek için, verilerin nasıl üretildiğine dair varsayımlara ihtiyaç vardır. Varsayımlar, yöntemin mekanik bir hesaptan bir çıkarım aracına dönüşmesini sağlar.

Varsayımların her biri, en küçük kareler tahmininin belirli bir özelliğini güvence altına alır. Bazıları sapmasızlık için, bazıları kesinlik için, bazıları da test ve güven aralıklarının doğruluğu için gereklidir. Hangi varsayımın hangi özelliği sağladığını bilmek, bir varsayım bozulduğunda neyin kaybedildiğini ve neyin korunduğunu anlamayı sağlar.

Doğrusallık ve rastgele örneklem

İlk varsayım, anakütlede açıklanan değişkenin açıklayıcı değişkenlerin doğrusal bir fonksiyonu ile bir hata teriminin toplamı olmasıdır. Buradaki doğrusallık parametrelerle ilgilidir, değişkenlerle değil: kazancın logaritmasını eğitim yılının karesiyle ilişkilendiren bir model de parametrelerde doğrusaldır. Bu esneklik, fonksiyonel form dersinde önem kazanacak.

İkinci varsayım, gözlemlerin anakütleden rastgele çekilmiş olmasıdır. Kesit verisinde bu, her gözlemin aynı anakütleden bağımsız olarak seçildiği anlamına gelir. Örneklem belirli bir biçimde seçilmişse, örneğin yalnızca çalışanların kazançları gözlenmişse ve çalışıp çalışmama kararı kazançla ilişkiliyse, bu varsayım bozulur.

Değişkenlik

Üçüncü varsayım, açıklayıcı değişkenin örneklemde değişkenlik göstermesidir. Bütün çalışanların eğitim yılı aynıysa, eğitimin kazançla ilişkisini tahmin etmek mümkün değildir; eğimin formülündeki payda sıfır olur. Modelde birkaç açıklayıcı değişken bulunduğunda bu varsayım, hiçbir değişkenin öbürlerinin tam bir doğrusal bileşimi olmamasını gerektirir.

Bu varsayım genellikle sorun çıkarmaz ve bozulduğunda yazılım bunu hemen bildirir. Ama değişkenlerin birbirine çok yakın olduğu durumlar, tam bir bozulma olmasa da tahminlerin kesinliğini ciddi biçimde azaltabilir; bu durumu kursun ilerleyen bir bölümünde, çoklu doğrusal bağlantıyı ele alırken göreceğiz.

Koşullu sıfır ortalama

Dördüncü varsayım, en kritik olanıdır: açıklayıcı değişkenlerin her değeri için hata teriminin ortalaması sıfırdır. Bu, modelde yer almayan etkenlerin açıklayıcı değişkenlerle ilişkili olmadığı anlamına gelir. İlk dört varsayım sağlandığında, en küçük kareler tahmin edicisi sapmasızdır.

Bu varsayım üç yaygın durumda bozulur. Karıştırıcı değişkenler modelden çıkarıldığında, örneğin kazanç regresyonunda yetenek gözlenmediğinde, hata terimi eğitimle ilişkili hâle gelir. Açıklanan değişken açıklayıcı değişkeni de etkilediğinde, polis ve suç örneğinde olduğu gibi, ters nedensellik varsayımı bozar. Açıklayıcı değişken hatalı ölçüldüğünde de, önceki derslerde gördüğümüz gibi, tahmin sıfıra doğru çekilir.

Çözümlü örnek — Çıkarılan değişkenin bedeli

Kazancın gerçekte eğitim yılı ve yeteneğe bağlı olduğunu varsayalım: her ek eğitim yılı kazancı 1 birim, yetenekteki her birimlik artış ise 2 birim artırıyor olsun. Yetenek doğrudan gözlenemiyor ve modelden çıkarılıyor. Aynı zamanda yetenekli kişiler daha çok okuyor: yetenekteki her birimlik artış, eğitim yılında ortalamada 2 yıllık bir artışla ilişkili; eğitimin toplam varyansı 8, yeteneğin varyansı 1.

Bu durumda yalnızca eğitimi içeren bir regresyonun eğimi, gerçek etki olan 1'e ek olarak, yeteneğin kazanca etkisi olan 2 ile yeteneğin eğitimle ilişkisinin çarpımını da içerir. Yetenek ile eğitim arasındaki kovaryans 2'dir; bu kovaryansın eğitimin varyansına oranı 2 bölü 8, yani 0,25'tir. Sapma 2 ile 0,25'in çarpımı olan 0,5'tir ve en küçük kareler eğimi ortalamada 1,5 olur. Her biri 200 kişiden oluşan on bin benzetim örnekleminde hesaplanan eğimlerin ortalaması da 1,50 çıkar. Gözlem sayısı ne kadar artırılsa da, tahmin 1'e değil 1,5'e yaklaşır: tahmin edici ne sapmasızdır ne de tutarlıdır.

Sabit varyans ve bağımsız hatalar

Beşinci varsayım, hata teriminin varyansının açıklayıcı değişkenlerin bütün değerleri için aynı olmasıdır. Pek çok ekonomik veride bu varsayım bozulur: yüksek gelirli hanelerin harcamaları, düşük gelirlilerinkinden çok daha fazla dalgalanır. Altıncı varsayım ise farklı gözlemlerin hata terimlerinin birbiriyle ilişkisiz olmasıdır. Zaman serisi verilerinde, bir dönemin şokunun sonraki dönemlere yayılması bu varsayımı sık sık bozar.

Bu iki varsayımın bozulması, tahminin sapmasızlığını etkilemez. Ama standart formüllerle hesaplanan standart hatalar yanlış olur; tahminler olduğundan daha kesin ya da daha belirsiz görünebilir. Ayrıca en küçük kareler, en kesin tahmin edici olma özelliğini yitirir. Bu sorunları ve çözümlerini, değişen varyans ve otokorelasyonu ele alacağımız derslerde ayrıntılı olarak inceleyeceğiz.

Ölçüm hatası ve sıfıra doğru çekilme

Koşullu sıfır ortalama varsayımını bozan üçüncü durum, açıklayıcı değişkenin hatalı ölçülmesidir. Eğitim yılı ankette yanlış bildirildiğinde, kaydedilen değer gerçek değer ile rastgele bir ölçüm hatasının toplamıdır. Bu hata, regresyonda hata teriminin bir parçası hâline gelir ve kaydedilen eğitim yılıyla ilişkilidir; varsayım bozulur.

Ölçüm hatası rastgele olduğunda, sonuç sistematik bir yöndedir: tahmin edilen eğim sıfıra doğru çekilir. Çekilmenin büyüklüğü, gerçek değişkenin varyansının, gerçek değişkenin varyansı ile ölçüm hatasının varyansının toplamına oranıdır. Ölçüm ne kadar gürültülüyse, bu oran o kadar küçülür ve eğim o kadar zayıf görünür.

Çözümlü örnek — Gürültülü ölçüm

Gerçek eğitim yıllarının varyansı 8, eğitimin kazanca gerçek etkisi 1 olsun. Anket cevaplarındaki rastgele hataların varyansı ise 2 olsun. Çekilme oranı 8 bölü 8 artı 2, yani 0,8'dir. En küçük kareler eğimi ortalamada 1 yerine 0,8 bulunur: gerçek etkinin beşte biri kaybolur.

Hata varyansı 8'e çıkarsa oran yarıya iner ve eğim ortalamada 0,5 olur. Bu sonuç, gözlem sayısına bağlı değildir; örneklem büyüdükçe tahmin 1'e değil, 0,8'e ya da 0,5'e yakınsar. Bir etkinin «küçük» ya da «anlamsız» çıkması, bu yüzden bazen gerçek bir etkisizliği değil, ölçümün kalitesizliğini yansıtır. Bu yüzden iyi bir araştırma, değişkenlerin nasıl ölçüldüğünü de raporlar ve mümkünse aynı değişkenin iki farklı kaynaktan gelen ölçümlerini karşılaştırarak hatanın büyüklüğünü tahmin etmeye çalışır.

Seçilmiş örneklem

Rastgele örneklem varsayımı, örneklemin açıklanan değişkene bağlı biçimde seçildiği durumlarda da bozulur. Kadınların kazançlarını incelemek isteyen bir araştırmacı, yalnızca çalışan kadınların kazancını gözleyebilir. Çalışma kararı, kişinin elde edebileceği ücretle ilişkiliyse, gözlenen örneklem rastgele değildir ve tahminler sapmalı olur.

James Heckman 1979'da, bu tür seçilim sorununu bir tür eksik değişken sorunu olarak ele alan ve düzeltmek için bir yöntem öneren bir çalışma yayımladı; bu ve benzeri çalışmaları nedeniyle 2000'de Nobel ödülünü paylaştı. Seçilmiş örneklem sorunu, ekonomik verilerin önemli bir kısmında, örneğin yalnızca hayatta kalan şirketlerin, yalnızca kredi alabilen hanelerin ya da yalnızca ankete cevap verenlerin gözlendiği durumlarda karşımıza çıkar. Bu durumların her birinde sorulması gereken soru aynıdır: gözlemediğimiz birimler, gözlediklerimizden sonucu etkileyecek biçimde farklı mı? Cevap evetse, örneklemin büyüklüğü sorunu hafifletmez; yalnızca seçilmiş bir grubun özelliklerini daha kesin biçimde tahmin etmemizi sağlar.

Gauss–Markov teoremi

İlk altı varsayım sağlandığında, Gauss–Markov teoremi en küçük kareler yöntemine güçlü bir üstünlük tanır. Gözlemlerin doğrusal bir fonksiyonu olarak yazılabilen ve sapmasız olan bütün tahmin ediciler arasında, en küçük kareler tahmininin varyansı en küçüktür. Başka bir deyişle, bu sınıftaki hiçbir yöntem ortalamada daha kesin bir tahmin veremez.

Teoremin sınırları da önemlidir. Karşılaştırma yalnızca doğrusal ve sapmasız tahmin ediciler arasında yapılır; hafifçe sapan ama çok daha dar bir aralıkta dağılan bir tahmin edici, bazı amaçlar için tercih edilebilir. Varsayımlar bozulduğunda teoremin güvencesi de ortadan kalkar. Teorem, en küçük kareler yönteminin her durumda en iyi olduğunu değil, belirli koşullar altında rakipsiz olduğunu söyler.

Çözümlü örnek — İki tahmin edicinin yarışı

Eğitim yılları 7, 10, 12, 14 ve 17 olan beş çalışan düşünelim. Eğimi tahmin etmenin en küçük kareler dışında bir yolu, yalnızca en az ve en çok okumuş iki kişiyi kullanmaktır: iki kazanç arasındaki farkı, aradaki 10 yıllık eğitim farkına bölmek. Bu tahmin edici de doğrusaldır ve varsayımlar altında sapmasızdır.

Eğitim yıllarının ortalaması 12, ortalamadan sapmaların kareleri iki uçta 25'er, iki içte 4'er, ortada sıfırdır; toplamları 58'dir. Hata teriminin standart sapması 2 ise, en küçük kareler eğiminin standart sapması 2 bölü 58'in karekökü, yani yaklaşık 0,263'tür. İki uç gözlemi kullanan tahmin edicinin standart sapması ise iki hatanın farkından gelir: 2 çarpı 2'nin karekökü bölü 10, yani yaklaşık 0,283. Doğru eğimi 0,9 alarak kurduğumuz on bin yapay örneklemde iki yöntemin tahminleri de ortalamada 0,90 çıkar; yayılımları ise sırasıyla yaklaşık 0,26 ve 0,28'dir. İkisi de sapmasızdır; en küçük kareler, Gauss–Markov teoreminin söylediği gibi daha kesindir.

Normallik

Yedinci varsayım, hata teriminin normal dağılmasıdır. Bu varsayım sapmasızlık ya da Gauss–Markov teoremi için gerekli değildir. Ama küçük örneklemlerde katsayılar için kesin test istatistikleri ve güven aralıkları kurmak için kullanılır: hata terimi normal dağıldığında, tahmin edilen katsayılar da normal dağılır ve istatistik derslerinde gördüğümüz t dağılımı kesin olarak uygulanabilir.

Normallik, ekonomik verilerde çoğu zaman sağlanmaz: kazançlar ve servetler sağa çarpıktır, finansal getiriler kalın kuyrukludur. Neyse ki büyük örneklemlerde bu varsayıma ihtiyaç azalır.

Büyük örneklemler

Örneklem büyüdükçe, merkezî limit teoremi sayesinde en küçük kareler tahminlerinin dağılımı, hata terimi normal dağılmasa bile yaklaşık olarak normal hâle gelir. Bu yüzden yüzlerce ya da binlerce gözlemle çalışırken, normallik varsayımı pratikte önemini yitirir ve test sonuçları yaklaşık olarak geçerli kalır.

Büyük örneklemlerde asıl önemli özellik tutarlılıktır. Koşullu sıfır ortalama varsayımının biraz daha zayıf bir biçimi, yani hata teriminin açıklayıcı değişkenlerle ilişkisiz olması, en küçük kareler tahmininin tutarlı olması için yeterlidir. Ama bu zayıf koşul bile bozulursa, polis ve suç örneğinde ya da çıkarılan yetenek örneğinde olduğu gibi, veri miktarını artırmak sorunu çözmez; tahmin yanlış bir değere daha kesin biçimde yakınsar.

Hangi varsayım neyi sağlar?

Varsayımların rolleri bir özet tabloda toplanabilir. Doğrusallık, rastgele örneklem, değişkenlik ve koşullu sıfır ortalama birlikte sapmasızlığı sağlar. Bunlara sabit varyans ve bağımsız hatalar eklendiğinde, standart hata formülleri geçerli olur ve Gauss–Markov teoremi en küçük kareler yönteminin en kesin doğrusal sapmasız tahmin edici olduğunu güvence altına alır.

Normallik eklendiğinde, küçük örneklemlerde kesin testler yapılabilir. Uygulamadaki önemleri de farklıdır: koşullu sıfır ortalama bozulduğunda sonuç tamamen yanıltıcı olabilir; sabit varyans ya da bağımsızlık bozulduğunda ise çoğu zaman standart hataları düzelten yöntemlerle sorun büyük ölçüde giderilebilir. Bu yüzden uygulamalı iktisatçıların en çok zaman harcadığı soru, hata teriminin açıklayıcı değişkenlerle ilişkili olup olmadığıdır.

Varsayımları sınamak

Bazı varsayımlar verilerle sınanabilir. Kalıntıların açıklayıcı değişkene göre grafiği, yayılımın değişip değişmediğini gösterebilir; zaman serisi kalıntılarının kendi geçmiş değerleriyle ilişkisi, bağımsızlığın bozulup bozulmadığını ortaya çıkarabilir. Bu sınamaları, ilgili derslerde ayrıntılı olarak göreceğiz.

Koşullu sıfır ortalama varsayımı ise doğrudan sınanamaz, çünkü hata terimi gözlenemez ve kalıntılar yapısı gereği açıklayıcı değişkenle ilişkisizdir. Bu varsayımı desteklemenin yolu, veri üretme sürecine dair bilgiye dayanan akıl yürütme, önemli karıştırıcı değişkenlerin modele eklenmesi ve Freedman'ın vurguladığı türden özenli bir araştırma tasarımıdır. Varsayım ne kadar iddialıysa, onu destekleyen kanıtın o kadar güçlü olması gerekir.

Uygulama

Özet kartı

1. Regresyon her veri kümesinde bir eğim üretir; bu eğimin anakütledeki parametreye ne kadar güvenilir biçimde işaret ettiği, klasik doğrusal regresyon modelinin varsayımlarına bağlıdır.
2. Doğrusallık, rastgele örneklem, değişkenlik ve koşullu sıfır ortalama birlikte sapmasızlığı sağlar; koşullu sıfır ortalama, çıkarılan karıştırıcı değişkenler, ters nedensellik ve ölçüm hatası nedeniyle bozulur ve bu durumda veri miktarını artırmak sorunu çözmez.
3. Sabit varyans ve bağımsız hatalar eklendiğinde Gauss–Markov teoremi en küçük kareler yöntemini en kesin doğrusal sapmasız tahmin edici yapar; beş gözlemlik örnekte en küçük kareler eğiminin standart sapması yaklaşık 0,32, uç nokta tahmininki yaklaşık 0,35 çıktı.
4. Normallik küçük örneklemlerde kesin testler için gereklidir; büyük örneklemlerde merkezî limit teoremi bu ihtiyacı azaltır ve asıl önemli özellik tutarlılık olur.
5. Polis ve suç tartışması ile McCrary'nin yeniden hesaplaması, varsayımların bozulmasının sonucu ters çevirebileceğini ve çözüm yöntemlerinin de sınanması gerektiğini gösterdi; Freedman'a göre en kritik varsayım, veriden değil özenli araştırma tasarımından destek alabilir.

Kavram sözlüğü

Kendini sına

1. (Çıktı 1) Sapmasızlık ile tutarlılık arasındaki fark nedir? Bir tahmin edici sapmalı ama tutarlı olabilir mi?
2. (Çıktı 2) Koşullu sıfır ortalama varsayımı hangi üç yaygın durumda bozulur? Her birini bir örnekle göster.
3. (Çıktı 3) Kazanç, eğitim yılının 0,8 katı ile yeteneğin 3 katının toplamına bağlıdır. Yetenek modelden çıkarılmıştır; yetenek ile eğitim arasındaki kovaryans 1,5, eğitimin varyansı 6'dır. Yalnızca eğitimi içeren regresyonun eğimi ortalamada kaç olur?
4. (Çıktı 3) Eğitim yılları 4, 8, 12, 16 ve 20 olan beş gözlemde hata teriminin standart sapması 3'tür. En küçük kareler eğiminin ve yalnızca ilk ve son gözleme dayanan tahmin edicinin standart sapmalarını hesapla. Hangisi daha kesindir?
5. (Çıktı 2) Sabit varyans varsayımı bozulduğunda en küçük kareler tahmininin hangi özelliği korunur, hangileri kaybolur?
6. (Çıktı 4) Bir veri analisti, «Elimde on bin gözlem var; bu kadar büyük bir örneklemde varsayımların bozulması önemli değildir, en küçük kareler zaten doğru sonuca yakınsar» diyor. Tutarlılık kavramını, çıkarılan değişken örneğini ve farklı varsayımların farklı rollerini kullanarak bu yaklaşımı eleştir.

Cevaplar

1. Sapmasızlık, belirli bir örneklem büyüklüğünde tahminlerin ortalamasının gerçek değere eşit olmasıdır. Tutarlılık ise gözlem sayısı arttıkça tahminlerin doğru değerin çevresinde giderek daralan bir aralığa sıkışmasıdır. Bir tahmin edici küçük örneklemlerde sistematik olarak sapabilir, ama bu sapma örneklem büyüdükçe küçülüp kayboluyorsa, sapmalı ama tutarlıdır.
2. Birincisi, açıklayıcı değişkenle ilişkili bir karıştırıcı değişkenin modelden çıkarılmasıdır; kazanç regresyonunda yeteneğin gözlenmemesi gibi. İkincisi, ters nedenselliktir; suçun polis sayısını artırması gibi. Üçüncüsü, açıklayıcı değişkenin hatalı ölçülmesidir; eğitim yıllarının ankette yanlış bildirilmesi gibi.
3. Sapma, yeteneğin kazanca etkisi olan 3 ile yetenek-eğitim kovaryansının eğitim varyansına oranının, yani 1,5 bölü 6'nın, 0,25'in çarpımıdır: 0,75. Eğim ortalamada 0,8 artı 0,75, yani 1,55 olur.
4. Ortalama 12'dir; sapma kareleri 64, 16, 0, 16 ve 64, toplamları 160'tır. En küçük kareler eğiminin standart sapması 3 bölü 160'ın karekökü, yani yaklaşık 0,237'dir. Uç nokta tahmin edicisi iki gözlemin farkını 16 yıla böler; standart sapması 3 çarpı 2'nin karekökü bölü 16, yani yaklaşık 0,265'tir. En küçük kareler daha dar bir aralıkta dağılır ve daha kesindir.
5. Sabit varyans bozulduğunda, öbür varsayımlar sağlanıyorsa en küçük kareler tahmini sapmasız ve tutarlı kalır. Ama standart formüllerle hesaplanan standart hatalar yanlış olur, bu yüzden testler ve güven aralıkları yanıltıcı olabilir. Ayrıca Gauss–Markov teoreminin güvencesi ortadan kalkar ve en küçük kareler en kesin doğrusal sapmasız tahmin edici olmayabilir.
6. Görüş, varsayımların rollerini karıştırıyor. Büyük örneklem, normallik varsayımının önemini azaltır ve tahminlerin kesinliğini artırır. Ama tutarlılık, hata teriminin açıklayıcı değişkenlerle ilişkisiz olmasını gerektirir. Çıkarılan yetenek örneğinde, gerçek etki 1 iken en küçük kareler eğimi gözlem sayısı hangi düzeye çıkarsa çıksın 1,5'e yakınsar; on bin gözlem, yanlış bir değeri daha kesin tahmin etmekten başka bir şey sağlamaz. Sabit varyans ya da bağımsızlık bozulmalarında ise tahmin tutarlı kalır, ama standart hatalar düzeltilmezse kesinlik yanlış değerlendirilir. Büyük örneklem, en kritik varsayımın yerini tutmaz.

İleri okuma

• Justin McCrary (2002). «Using Electoral Cycles in Police Hiring to Estimate the Effect of Police on Crime: Comment». American Economic Review 92(4). Bir ekonometrik sonucun yeniden hesaplanması.
• Steven D. Levitt (1997). «Using Electoral Cycles in Police Hiring to Estimate the Effect of Police on Crime». American Economic Review 87(3). Polis ve suç arasındaki iki yönlü ilişkiyi ayırma girişimi.
• David A. Freedman (1991). «Statistical Models and Shoe Leather». Sociological Methodology 21. Regresyon varsayımlarına ve araştırma tasarımına dair klasik bir eleştiri.
• Joshua D. Angrist ve Jörn-Steffen Pischke (2009). Mostly Harmless Econometrics: An Empiricist's Companion. Princeton University Press. Regresyonun nedensel yorumu ve varsayımların uygulamadaki anlamı.

Sonraki derse köprü

Bu derste koşullu sıfır ortalama varsayımının en sık, modelden çıkarılan ve açıklayıcı değişkenle ilişkili etkenler yüzünden bozulduğunu gördük. Bu sorunun en doğal çözümü, bu etkenleri modele eklemektir. Birden fazla açıklayıcı değişken aynı anda modele girdiğinde katsayılar nasıl hesaplanır, her katsayı neyi ölçer ve bir değişkeni eklemek öbür katsayıları neden değiştirir? Sıradaki ders çoklu regresyonu ele alıyor: birden çok değişkenle en küçük kareler tahminini, katsayıların «diğer değişkenler sabitken» yorumunu ve çıkarılan değişken yanlılığının genel biçimini inceleyeceğiz.