Evrensel yaklaşım ve sınırı

Açılış

Mayıs ortasında bir perşembe öğleden sonra, son hasta çıktıktan sonra Dr. Seda Hanım'ın odasına bir satıcı geldi. Taner Bey bir yazılım firmasını temsil ediyordu ve getirdiği araç, diyabeti ya da yüksek tansiyonu olan hastalarda böbrek süzme hızının önümüzdeki iki yılda belirgin düşüp düşmeyeceğini tahmin ediyordu. Broşürün ilk sayfasında kalın harflerle bir cümle vardı: "Sinir ağları her fonksiyonu öğrenebilir. Bu, matematiksel olarak kanıtlanmıştır. Sistemimiz bu yüzden her hastanın riskini öğrenir."

Necati Bey broşürü Seda Hanım'dan önce okudu. "Matematik kanıtladıysa bize tartışacak ne kalıyor?"

Seda Hanım sayfayı çevirdi. Arkada küçük bir dipnot vardı: bir yazar adı ve bin dokuz yüz seksen dokuz. Aracın bir üniversite hastanesinin nefroloji polikliniğinden bin sekiz yüz hastanın kayıtlarıyla eğitildiği yazıyordu.

"Kanıtlanan şey ne?" diye sordu. "Tam olarak hangi cümle kanıtlandı?"

Taner Bey gülümsedi. "Ağın her ilişkiyi yakalayabileceği. Teknik ekibimiz makaleyi gönderir."

Makale akşam geldi. On iki sayfaydı, çoğu Seda Hanım'ın okuyamadığı işaretlerle doluydu. Ama son sayfada sade bir cümle vardı ve Seda Hanım onu iki kez okudu: yazar, anlattığı özelliklerin güçlü olduğunu, ama yalnız varlık üzerinde durduğunu yazıyordu. Kaç nöron gerektiği sorusu açık kalıyordu.

Seda Hanım broşürün kenarına iki satır yazdı. Birinci satır: makalede var olduğu kanıtlanan ağ. İkinci satır: bin sekiz yüz hastayla bulunmuş ve bize satılan ağ. Arasına bir soru işareti koydu.

Tek fikir

Evrensel yaklaşım teoremi, yeterince birimli tek ara katmanlı bir ağın sınırlı bir bölgede her sürekli fonksiyona istenen yakınlıkta yaklaşabileceğini söyler. Bu bir varlık sonucudur; o ağırlıkları bulmanın, az veriyle bulmanın ve yeni hastada tutmanın garantisi değildir.

Nasıl çalışır

Ders 8.1'deki tek nöron YA DA'da takılıp kalmıştı, çünkü çizebildiği tek sınır düz bir çizgiydi. Nöronları yan yana bir ara katmana koyup çıktılarını son bir nöronda toplayınca ne kadar şey çizilebilir? Bunu bir eğri üzerinde görelim.

Eğrimiz x'in karesi olsun, x sıfırla bir arasında. Algılayıcı gibi keskin kesen bir birim, belli bir noktadan sonra bir, öncesinde sıfır verir: bir basamaktır. Böyle birimleri farklı noktalara yerleştirip her birinin çıktısını bir ağırlıkla çarparsak bir merdiven elde ederiz. Aralığı dört eşit parçaya bölelim ve her parçada eğrinin o parçanın başındaki değerini kullanalım: sıfır, on altıda bir, dörtte bir ve on altıda dokuz. Ağ üç basamak biriminden oluşur: çeyrek noktasında on altıda birlik, yarıda on altıda üçlük, dörtte üçte on altıda beşlik birer sıçrama. En büyük hata bire çok yakın bir yerde çıkar: eğri neredeyse bire varmışken merdiven hâlâ on altıda dokuzda durur, fark on altıda yedidir.

Parçaları sıklaştırınca hata küçülür. On basamakta en büyük hata sıfır virgül on dokuz, yirmi basamakta yaklaşık sıfır virgül on olur; basamak sayısı iki katına çıkınca hata kabaca yarıya iner.

Basamak yerine kırık doğru kullanan birimler daha verimlidir. Böyle bir birim sıfırın altını sıfırlar, üstünü olduğu gibi geçirir; ağırlıkla çarpınca belli bir noktadan sonra eğimi değiştiren bir dirsek çizer. Dört parçalı bir kırık doğru eğriyi parça uçlarından geçerek izler: ağ, çeyrek çarpı x ile başlar ve çeyrek, yarım ve dörtte üç noktalarının her birinde eğime yarım ekler. Parça eğimleri sıfır virgül yirmi beş, sıfır virgül yetmiş beş, bir virgül yirmi beş ve bir virgül yetmiş beş olur; x bir iken toplam tam birdir.

Tablonun üçüncü sütunu teoremin sezgisini taşır: birim eklendikçe aralığın içindeki hata istenildiği kadar küçültülebilir. Dördüncü sütun ise teoremin hiçbir şey söylemediği yeri gösterir.

Hornik ve arkadaşlarının üçüncü maddesi bir hekim için en tanıdık olanıdır. Aynı yaşta, aynı süzme hızında, aynı ilaçlarla iki hasta iki yıl sonra farklı yerlere varır. Ölçülen girdiler sonucu tam belirlemiyorsa yakalanacak tek bir eğri yoktur; teoremin söz ettiği fonksiyon ancak ortalama riskin kendisi olabilir ve bin sekiz yüz hasta o ortalamayı ancak gürültüsüyle birlikte gösterir.

Temsil gücünün iki yüzü vardır. Ders 4.1'de beş noktadan tam geçen polinom sekiz parçalı dosya için beş yüz seksen üç bin lira diyordu; esneklik veriyi kusursuz izlemiş, aralığın dışında saçmalamıştı. Ders 6.1'de ezberi, 6.3'te aşırı öğrenmeyi gördük: her eğriyi çizebilen bir aile, verideki gürültüyü de çizebilir. Teorem bu iki eğriyi birbirinden ayırmaz.

Sahada

Nerede yanılır

Teoremi bir başarı vaadi gibi okumak, en sık rastlanan yanılgıdır ve her seferinde aynı boşluktan doğar: "yaklaşabilen bir ağ vardır" cümlesi, "eğitim o ağı bulur" cümlesine kayar. Bu iki cümlenin arasında üç ayrı adım durur.

Birincisi birim sayısıdır. Teorem yeterince birim der ve kaç olduğunu söylemez. Bizim eğrimizde dört parça yetiyordu, çünkü tek girdi vardı. Böbrek aracının onlarca girdisi vardır; Cybenko'nun kuşkusu tam da girdi sayısı arttıkça gereken birimin patlayabileceğiydi.

İkincisi ağırlıkları bulmaktır. Tabloyu biz kurduk, çünkü eğriyi biliyorduk ve dirsekleri ona göre yerleştirdik. Gerçekte eğri bilinmez; ağırlıklar örneklerden, adım adım bir arama ile bulunur. Teorem bu aramanın iyi ağırlıklara varacağına dair hiçbir şey söylemez.

Üçüncüsü örnekler ile yeni hastadır. Teorem fonksiyonun tamamını biliyormuş gibi konuşur; elde ise birkaç yüz ya da birkaç bin nokta vardır. O noktaların arası da dışı da ağın tercihine kalır. Böbrek aracı bir üniversite hastanesinin nefroloji hastalarıyla eğitildiyse, aile hekimine gelen daha erken evre hastalar o aralığın kenarında ya da dışında kalabilir; tablonun dördüncü sütununda gördüğümüz düz devam orada da olur ve ağ bundan hiçbir uyarı vermez.

Bu yanılgı en çok, bir ürünün güvenilirliği sorulduğunda cevap olarak bir makale gösterildiğinde ortaya çıkar. Teorem doğru bir matematiktir; yanlış olan, ürünün kendi verisinde ölçülmüş hatasının yerine konmasıdır.

Uygulama

Kâğıt kalemle küçük bir kırık doğru ağı kuracak ve teoremin sezgisiyle sınırını aynı çizelgede göreceksin. Eğrin dört çarpı x çarpı bir eksi x olsun: sıfırda ve birde sıfır, ortada bir olan bir tepe.

1. Sıfır, çeyrek, yarım, dörtte üç ve bir noktalarında eğrinin değerini hesapla.
2. Ardışık noktalar arasındaki dört eğimi bul.
3. Ağı yaz: ilk eğimle başlayan bir doğru, artı her iç noktada eğim değişimi çarpı o noktadan sonrası, sıfırın altı sıfırlanarak.
4. Sekizde bir ve sekizde üç noktalarında ağın değerini ve eğrinin değerini hesapla; farkı yaz.
5. Bir virgül yirmi beş ve bir buçuk noktalarında aynı karşılaştırmayı yap.
6. Parça sayısını sekize çıkar ve dördüncü ile beşinci adımları tekrarla.

Sonuçlar şöyle olmalı. Değerler sıfır, sıfır virgül yetmiş beş, bir, sıfır virgül yetmiş beş ve sıfırdır; eğimler üç, bir, eksi bir ve eksi üç. Ağ, üç çarpı x eksi iki çarpı x eksi çeyreğin artı kısmı, eksi iki çarpı x eksi yarımın artı kısmı, eksi iki çarpı x eksi dörtte üçün artı kısmıdır. Sekizde birde ağ sekizde üç, eğri on altıda yedi der; fark on altıda birdir ve aralıktaki en büyük hata budur. Sekizde üçte de fark aynıdır. Bir virgül yirmi beşte ağ eksi sıfır virgül yetmiş beş, eğri eksi bir virgül yirmi beş; bir buçukta ağ eksi bir buçuk, eğri eksi üç der. Sekiz parçada aralıktaki en büyük hata dörtte birine, altmış dörtte bire iner; ama bir virgül yirmi beşte ağ eksi sekizde yedi der, eğri yine eksi bir virgül yirmi beştir ve fark hâlâ büyüktür.

Defter: «Var olan ağ, bulunan ağ» adlı bir sayfaya iki çizelgeni koy. Altına teoremin cevapladığı soruyu bir satırda, cevaplamadığı soruları ayrı satırlarda yaz. Sonra bir yapay zekâ ürününün tanıtımında gördüğün bir "kanıtlanmıştır" cümlesini düşün ve hangi satıra ait olduğunu işaretle.

Hata köşesi

Sorumluluk

Teoremi broşüre koyan firma, ürünü hakkında hiçbir ölçüm vermemiş olur; bu boşluğu doldurmak satın alma kararını veren hekimin sorumluluğudur. Seda Hanım'ın sorması gereken soru matematik değil, veridir: ağ hangi hastalarla eğitildi, kendi merkezinin hastalarına benzeyen ayrılmış bir grupta hata ne kadardı, eğitim aralığının dışına düşen hastada araç bunu bildiriyor mu? Bunlar doğrulanmadan aracın verdiği düşük risk bir hastanın takibini seyreltebilir; o zararı broşürü yazan değil, kontrol randevusu ertelenen hasta taşır.

Kapanış

1. Evrensel yaklaşım teoremi, yeterince birimli tek ara katmanlı bir ağın sınırlı bir bölgede her sürekli fonksiyona istenen yakınlıkta yaklaşabileceğini kanıtlar; basamaklar ya da kırık doğrular eklendikçe aralık içindeki hata küçülür.
2. Teorem bir varlık sonucudur: kaç birim gerektiğini, ağırlıkların nasıl bulunacağını, kaç örnek gerektiğini ve aralığın dışında ne olacağını söylemez.
3. Bir ürünün güvenilirliği teoremle değil, kendi verisinde ve kullanılacağı insanlarda ölçülmüş hatasıyla gösterilir.

Üç soru

1. Seda Hanım'ın broşürüne yazdığı iki satır arasındaki fark nedir?
2. Kırık doğru ağına parça eklemek aralığın içindeki ve dışındaki hatayı nasıl etkiler?
3. Hornik ve arkadaşlarının sıraladığı üç başarısızlık kaynağından hangisini birim eklemek gideremez ve neden?

Yanıtlar

1. Birinci satır, ağırlıkları uygun seçildiğinde eğriye yaklaşan bir ağın var olduğunu söyler; teoremin kanıtladığı budur. İkinci satır, bin sekiz yüz hastanın kayıtlarından eğitimle bulunmuş belirli bir ağdır. Onun iyi olup olmadığı ancak Seda Hanım'ın hastalarına benzeyen ayrılmış bir grupta ölçülerek anlaşılır.
2. Aralığın içinde hata hızla küçülür: x karede parça sayısı iki katına çıkınca en büyük hata dörtte birine iner. Aralığın dışında ise ağın son parçası düz devam eder; dört parçada da on parçada da x iki iken ağ gerçek değer olan dörtten çok uzak kalır.
3. Girdiyle hedef arasındaki ilişkinin rastlantısal olması. Aynı girdilere sahip iki hasta farklı sonuçlara varıyorsa yakalanacak tek bir kesin eğri yoktur. Birim eklemek ağı esnetir, ama girdilerde bulunmayan bilgiyi yaratamaz; yalnız gürültüyü izleme olanağını artırır.

Sonraki derse köprü

Bu derste ağırlıkları biz yerleştirdik, çünkü eğriyi önceden biliyorduk; teoremin sustuğu yer, ağırlıkların örneklerden nasıl bulunacağıydı. Ders 8.6, Küçük bir ağı elle izle, bir atölye: iki katmanlı küçük bir ağda bir girdinin ileri geçişte çıktıya nasıl dönüştüğünü ve geri geçişte her ağırlığın ne kadar düzeltileceğini kâğıt üzerinde tek tek hesaplayacaksın.