İçeriğe geç

10.5 · Seviye 2 · Sinir Ağları ve Derin Öğrenme

Görüntüde kısa yollar

modelin nesne yerine arka plana ya da işarete bakması

Yapay Zekâ Akademisi — M10, Makine Görüşü · 2.375 kelime · 3 saha durumu · ≈ 11 dk okuma · 16 dk dinleme

Saha durumlarındaki kişiler ve kurumlar kurgusaldır; kaynaklar gerçektir. Belirli ürün ve modeller hakkındaki gözlemler yazıldıkları tarihte geçerlidir ve «Tarihli gözlem» etiketiyle yılı belirtilerek verilir. Yapay zekâ çıktıları doğrulanmadan karar dayanağı yapılmaz; dersler hukuki, tıbbi ya da mali danışmanlığın yerini tutmaz.

Açılış

Dr. Ebru Hanım'ın e-postası iki ekran görüntüsünden ve tek satırdan ibaretti: "Buna bir bakar mısın?"

Göz dibi programının yeni sürümü yüzdenin yanında bir renk katmanı da gösteriyordu; fotoğrafın hangi bölgesinin yüzdeyi yükselttiğini kırmızıyla boyuyordu. Ebru Hanım, Dr. Seda Hanım'ın sevk ettiği hastaları kendi polikliniğindeki kamerayla yeniden çektirip programdan geçirmişti, iki yerin sonuçlarını karşılaştırmak için.

Birinci görüntüde kırmızı, sarı lekenin hemen yanındaki küçük kanamaların üstündeydi. Program yüzde yetmiş bir demişti, Ebru Hanım da muayenede retinopati bulmuştu. İkinci görüntü elli yaşında bir kadının gözüydü. Muayenede retinopati yoktu, program yüzde altmış sekiz diyordu. Kırmızı gözün üstünde değildi. Fotoğrafın sağ alt köşesindeydi; poliklinik kamerasının tarihi ve bölümün adını beyaz harflerle bastığı şeritte.

Ebru Hanım'ın satırının altında bir not daha vardı: "Şeridi siyaha boyayıp aynı fotoğrafı yeniden verdim. Yüzde dokuz."

Seda Hanım satıcının teknik sorumlusunu aradı ve eğitim fotoğraflarının nereden geldiğini sordu. Retinopatili örneklerin çoğu üç hastanenin göz kliniği arşivindendi. Sağlam gözlerin çoğu tarama programlarından, aile sağlığı merkezlerinin kameralarından.

Dr. Necati Bey ekrana eğildi. "Şeridi kesin, iş biter."

Seda Hanım kâğıda bir liste yazmaya başladı. Hastanede göz bebeği damla ile büyütülür, merkezde çoğu zaman büyütülmez. Hastanenin kamerası başka bir marka, flaşı başka bir renkteydi. Hastaneye gelen hastalar daha yaşlı, şekerleri daha uzun süredir yüksekti. Şerit görünüyordu. Listenin geri kalanı görünmüyordu.

Tek fikir

Bir model, eğitim verisinde etiketle birlikte gezen her ipucunu kullanabilir; nesneye bakmak zorunda değildir. Aynı kaynaktan gelen test bunu ödüllendirir, bu yüzden modelin neye baktığı ayrıca sınanır.

Nasıl çalışır

Ders 10.1'de filtrelerin aradıkları desenin ne olduğunu bilmediğini söylemiştik: bir eziğin gölgesi de, bir baskının yaldızı da aynı kenar filtresinde parlar. Ders 6.5'te tedarikçinin beyaz masası etiketin yerine geçmişti; Ders 6.6'da röntgen modeli hastaneyi tanıyordu. Bu olayların ortak bir adı var.

Yazarların oyuncak örneği şöyle: üç katmanlı, tam bağlı bir ağ yıldız ile hilali ayırmayı öğreniyor. Eğitim fotoğraflarında yıldızlar hep sağ üstte ya da sol altta, hilaller sol üstte ya da sağ altta. Ağ aynı düzende hazırlanmış testte çok iyi sonuç veriyor. Şekiller rastgele yerlere konunca başarı yazı turaya iniyor. Ağ şekli değil konumu öğrenmişti. Yazarlar bir dipnotta, evrişimli bir ağın bu kısa yola kuruluşu gereği kapalı olduğunu ekler: Ders 10.1'deki gibi aynı filtre her konumda dolaşınca konum kolay bir ipucu olmaktan çıkar. Kuruluş bir kısa yolu kapatır, ötekileri kapatmaz.

Neden kısa yol? Sınıflandırıcı, eğitim verisinde iki sınıfı güvenle ayıran herhangi bir özelliği seçebilir; amaçlanan özelliği seçmesi için hiçbir sebep yoktur. Yazarlar burada dilbilimdeki en az çaba ilkesini anar. Çimeni bulmak ineği bulmaktan kolaysa ve eğitim fotoğraflarındaki ineklerin çoğu çimendeyse, ağ çimeni öğrenir.

Kısa yolun psikolojideki adı daha eskidir.

Hans hile yapmıyordu; ödül, işaretin olduğu yerdeydi. Bir modelin neye baktığını görmek için ise pikselleri sorgulayan araçlar gerekir.

Ebru Hanım'ın ekranındaki kırmızı katman böyle bir haritaydı.

Tıbbi görüntüde aynı desen daha pahalıdır.

Sahada

Nerede yanılır

Belirginlik haritası en çok güvenildiği anda yanıltabilir. Kırmızı bir bölge, modelin oraya baktığını söyler gibi görünür; oysa haritayı üreten yöntem de bir hesaptır ve kendi kusurları vardır. Bazı yöntemlerin ürettiği haritalar, Ders 10.1'deki kenar filtresinin çıktısına şaşırtıcı biçimde benzer; görüntünün kenarlarını gösterirler, modelin kararını değil.

Harita doğru olsa bile yalnız nerede sorusuna cevap verir. Ebru Hanım'ın şeridi kolay bir vakaydı, çünkü bir yazının hastalıkla ilgisi olmadığını herkes bilir. Kırmızı göz bebeğinin kenarına düşseydi, bunun damlayla büyütülmüş göz bebeğinden mi yoksa kenardaki bir kanamadan mı geldiğini harita söylemezdi.

Necati Bey'in önerisi de yarım kalır. Bir kısa yolu kapatmak, modeli doğrudan amaçlanan çözüme götürmez; eğitim verisinde etiketle birlikte gezen bir sonraki ipucuna götürebilir. DeGrave ve arkadaşlarının haritalarında yazı ve işaretlerin yanında hastanın duruş biçimi, filmin çekiliş yönü, omuzların görüntüdeki yeri de vardı. Şerit siyaha boyanır, büyütülmüş göz bebeği kalır.

Ders 6.6'da kısa yolu yalnız başka bir kaynaktan alınmış ölçümün gösterdiğini söylemiştik. Bu da tam değil. DeGrave ve arkadaşları, hastanın cinsiyeti ve filmin çekiliş yönü gibi bazı ipuçlarının dış hastanelerde de etiketle birlikte gezdiğini gösterdi; böyle bir kısa yol dış testi geçer. Dış test gereklidir, yeterli değildir. Ona eklenen sınama, ipucunu bilerek değiştirmektir: yazıyı taşı, zemini değiştir, aynı gözü iki kamerayla çek ve kararın ipucuyla mı nesneyle mi oynadığına bak.

Uygulama

Kısa yolun sınamada nasıl ödüllendirildiğini kâğıt üstünde hesaplayacak, sonra onu ortaya çıkaracak deneyi tasarlayacaksın.

  1. Satıcının test kümesi bin fotoğraf. İki yüzü poliklinik şeritli, bunların yüz ellisi retinopatili. Sekiz yüzü merkez kamerasından, bunların kırkı retinopatili. Kural şu: şerit varsa hasta, yoksa sağlam.
  2. Dört kutuyu doldur: hasta deyip haklı çıktığı, hasta deyip yanıldığı, sağlam deyip hastayı kaçırdığı, sağlam deyip haklı çıktığı fotoğraf sayısı.
  3. Doğruluğu ve duyarlılığı, yani gerçekten retinopatili gözlerin kaçta kaçının yakalandığını hesapla.
  4. Seda Hanım'ın merkezinde dört yüz fotoğraf çekildi, hiçbirinde şerit yok, yirmisi retinopatili. Aynı iki sayıyı hesapla.
  5. Ebru Hanım'ın polikliniğinde yüz fotoğraf, hepsi şeritli, otuzu retinopatili. Doğruluğu hesapla.
  6. Kuralı ele verecek üç deney yaz. Biri şeridi taşısın ya da kapatsın, biri aynı gözü iki kamerayla çeksin, üçüncüsünü kendin bul. Her deneyin yanına, model gerçekten göze bakıyorsa sonucun ne olması gerektiğini yaz.

İkinci adımda kutular yüz elli, elli, kırk ve yedi yüz altmış çıkar. Üçüncü adımda doğruluk yüzde doksan bir, duyarlılık yüz doksanda yüz elli, yaklaşık yüzde yetmiş dokuz. Dördüncü adımda kural her fotoğrafa sağlam der: doğruluk yüzde doksan beşe çıkar, duyarlılık sıfırdır. Beşinci adımda kural hepsine hasta der, doğruluk yüzde otuz. Merkezde doğruluğun artıp hiçbir hastanın yakalanmaması, tek bir sayıya neden bakılmadığının özeti. Altıncı adımın üçüncü deneyi için ipucu: Seda Hanım'ın listesi.

Defter: "Neye bakıyor?" sayfasına dört kutuyu üç yer için alt alta çiz. Altına üç deneyini yaz ve yanlarına, gözünün önündeki bir tanıma işinde, bir yüz kilidinde ya da bir bitki uygulamasında etiketle birlikte gezebilecek bir ipucu ekle.

Hata köşesi

Yaygın yanlış"Veri büyüdükçe kısa yollar kendiliğinden kaybolur."
Doğrusu

Geirhos ve arkadaşları tersini vurgular: veri setini birkaç kat büyütmek, toplama biçimindeki sistematik farkları ortadan kaldırmaz. Hasta görüntüler bir yerden, sağlamlar başka bir yerden geldikçe, milyon görüntülük bir set de aynı kısa yolu taşır.

Yaygın yanlış"Model başka bir hastanede de iyi çalıştıysa kısa yol kullanmıyordur."
Doğrusu

Dış hastanede de etiketle birlikte gezen bir ipucu dış testi geçer. DeGrave ve arkadaşları cinsiyet ve çekiliş yönü gibi ipuçlarının iki veri setinde de tahmin edilebildiğini gösterdi. İyi dış sonuç gerekli bir işarettir; modelin hastalığa baktığının kanıtı değildir.

Sorumluluk

Ebru Hanım'ın şeridi, satıcının kendi test raporunda hiçbir zaman görünmezdi; o rapor eğitimle aynı arşivden gelen fotoğraflarla yazılmıştı. Seda Hanım'ın kararı şu: programın yeni sürümü merkezde, satıcı eğitim fotoğraflarının hangi kurumdan, hangi kameradan, göz bebeği büyütülerek mi çekildiğini sınıf sınıf belgeleyene kadar kullanılmayacak. Sınama fotoğraflarını satıcı değil merkez ve Ebru Hanım'ın polikliniği seçecek; şerit kapatma ve aynı gözün iki kamerayla çekimi bu sınamanın parçası olacak. Bir kısa yolun bedelini, yüzde doksan beşlik bir doğruluk içinde kaybolan yirmi hasta öder; o yüzden sonucu doğrulamak, karar veren hekimin sorumluluğunda kalır.

Kapanış

  1. Kısa yol öğrenmesi, modelin etiketle birlikte gezen ama görevle ilgisiz bir ipucunu öğrenmesidir; eğitimle aynı kaynaktan gelen test bu ipucunu ödüllendirir, çünkü ipucu orada da çalışır.
  2. Akıllı Hans etkisinin dersi, doğru cevabın doğru nedeni göstermediğidir: Hans soranı okuyordu, at sınıflandırıcısı köşedeki yazıyı, göğüs filmi modelleri sağ ve sol işaretini.
  3. Belirginlik haritası nereye bakıldığını gösterir ama kendisi de sınanmalıdır; kısa yolu ele veren, ipucunu bilerek değiştiren deneydir, ve dış testi geçmek tek başına yetmez.

Üç soru

  1. Yıldız ve hilal örneğinde tam bağlı ağ hangi kısa yolu öğrendi ve evrişimli bir ağ bu kısa yola neden kapalıdır?
  2. Pfungst'un kartları kimsenin görmediği denemeler neyi ayırdı ve bu, Ebru Hanım'ın şeridi siyaha boyamasına nasıl benzer?
  3. Uygulamadaki kural Seda Hanım'ın merkezinde yüzde doksan beş doğruluk aldı. Bu sayı neden iyi haber değildir?

Yanıtlar

  1. Eğitim fotoğraflarında yıldızlar ve hilaller sabit köşelerde durduğu için ağ şekil yerine konumu öğrendi; şekiller rastgele yerlere konunca başarı şansa indi. Evrişimde aynı filtre görüntünün her konumunda dolaştığı için konum kolay bir ipucu olmaz. Bu yalnız konum kısa yolunu kapatır; doku ya da arka plan gibi ipuçları açık kalır.
  2. Soranın cevabı bildiği denemelerde at neredeyse hep doğru, bilmediği denemelerde neredeyse hep yanlış cevap verdi. Bu, bilginin attan değil sorandan geldiğini ayırdı. Ebru Hanım da şüpheli ipucunu kaldırıp aynı fotoğrafı yeniden verdi; yüzde altmış sekizin yüzde dokuza inmesi, kararın gözden değil şeritten geldiğini gösterdi.
  3. Merkezde retinopati seyrek olduğu için her fotoğrafa sağlam diyen kural da yüksek doğruluk alır. Yirmi hastanın hiçbiri yakalanmadı; duyarlılık sıfır. Doğruluk, kısa yolun hastayı görmediğini örttü; sevk kararı için bakılması gereken sayı yakalanan hasta oranıdır.

Sonraki derse köprü

Bu derste modelin nesneye değil çevresindeki işarete bakabildiğini gördük. Ders 10.6, Yüz tanıma, nesnenin bir insanın yüzü olduğu işi ele alıyor: bir yüzü karşılaştırılabilir sayılara çeviren tekniği, hata oranlarının hangi gruplarda ve hangi koşullarda ölçüldüğünü ve bu sistemlerin nerede, kimin üzerinde kullanılacağına dair toplumsal tartışmayı. Bir yüz kilidini açan teknik, kalabalıkta birini arayan teknikle aynı mı, ve aynı hata ikisinde aynı bedeli mi doğurur?

Anlamadığın bir yer mi var?

Mentor yalnız bu dersin metnine dayanarak cevap verir. Metinde geçmeyen bir şey sorarsan uydurmaz, geçmediğini söyler.