Aktarım öğrenmesi

Açılış

Okul bahçesinin arka tarafındaki asma çardağında yaprakların bir kısmı beyaz bir tozla kaplanmıştı, bir kısmında kahverengi lekeler vardı. Bahçeye bakan görevli ilaçlama yapıp yapmamayı soruyordu. Zeynep Hanım soruyu sınıfa getirdi.

Elçin ile Mert iki teneffüs boyunca telefonla yaprak fotoğrafladı: kırk beşi sağlıklı, kırk beşi beyaz tozlu, kırk beşi lekeli. Doruk tarayıcıda çalışan ücretsiz bir eğitim aracı buldu. Araç her sınıf için bir klasör istiyordu. Doruk her klasörden beşer fotoğrafı kenara ayırdı, kalan yüz yirmi fotoğrafı yükledi ve düğmeye bastı. Bir dakika geçmeden eğitim bitti. Kenara ayrılan on beş fotoğrafın on dördünü doğru bildi.

Berk inanmadı. "Ders 9'da ağ eğitmek günler sürüyordu, milyonlarca fotoğraf gerekiyordu. Yüz yirmi fotoğrafla bir dakikada nasıl oldu?"

Doruk aracın yardım sayfasını açtı. Tek cümle yazıyordu: araç, genel fotoğraflarla önceden eğitilmiş bir ağdan başlıyor ve yalnız son katmanı sizin fotoğraflarınızla eğitiyordu.

Zeynep Hanım tahtaya iki soru yazdı. Ağ bu çardağın yapraklarını hiç görmemişti; yanına yüz yirmi fotoğraf koyunca ona ne öğretilmiş oldu? Ve yaprak yerine bir göz dibi fotoğrafı verseydik aynı kolaylık kalır mıydı?

Tek fikir

Aktarım öğrenmesi, büyük bir veriyle eğitilmiş bir ağın katmanlarını yeni bir işin başlangıç noktası yapar; az veriyle yalnız son katmanlar ya da küçük adımlarla bütün ağ ayarlanır. Kazanç, iki işin görüntüleri birbirine ne kadar benziyorsa o kadar büyüktür.

Nasıl çalışır

Ders 8.3'te mühendisin sayfalarında ilk katmanların kenara ve renge, sonrakilerin köşeye ve parçalara tepki verdiğini görmüştük. Doğal fotoğraflarla eğitilen ağların hemen hepsinde ilk katman benzer şeyler öğrenir: farklı yönlerde kenar bulan filtreler ve renk lekelerine duyarlı filtreler. Bir kenar, kedinin kulağında da asma yaprağının damarında da kenardır. Bir ağın kedi ve araba fotoğraflarıyla öğrendiği alt katmanlar, yaprak için de büyük ölçüde işe yarar.

Önceden eğitilmiş bir ağı yeni işe iki yolla bağlarsın. Birinci yolda ağın gövdesine dokunmazsın. Bir fotoğraf gövdeden geçer, son katmandan hemen önce uzun bir sayı listesine dönüşür; o liste, ağın fotoğraf hakkında bildiği her şeyin özetidir. Eski son katmanı atar, yerine kendi sınıf sayın kadar çıkışı olan yeni bir katman koyar ve yalnız onu eğitirsin. Gövdenin ağırlıkları donmuş kalır; Murat Bey'in Ders 8.4'te tedarikçi raporunda okuduğu "ilk katmanlar donduruldu" satırı bu yolun bir türüdür. İkinci yol gövdeyi de oynatır.

Ders 4.6'da tedarikçi mühendisinin Murat Bey'e verdiği cevap tam bu küçük oranın gerekçesiydi: ağ milyonlarca fotoğrafla iyi bir yere gelmiştir, üç bin fotoğrafla büyük adımlar atılırsa o yerden uzaklaşılır.

Doruk'un aracında kaç sayının eğitildiğini hesaplayalım. Genel fotoğraflarla eğitilen, yaygın kullanılan elli katmanlı bir evrişimli ağın gövdesinde yirmi üç milyon beş yüz sekiz bin otuz iki ağırlık vardır. Gövdenin sonunda her fotoğraf iki bin kırk sekiz sayılık bir listeye dönüşür. Üç sınıflı yeni son katman her sınıf için iki bin kırk sekiz ağırlık ve bir sapma taşır: altı bin yüz kırk yedi sayı. Bütün ağ yirmi üç milyon beş yüz on dört bin yüz yetmiş dokuz sayıdır; Doruk'un düğmesi bunun on binde üçünden azını eğitti. Bir dakikanın sırrı bu: yüz yirmi fotoğraf yirmi üç milyon sayıyı değil, altı bin sayıyı ayarladı.

Kartın son cümlesi bir uyarı taşır. "Yalnız son bloğu da açalım" önerisi küçük bir adım gibi duyulur, ama eğitilen sayıyı altı binden on beş milyona çıkarır.

Hangi katmanın ne kadar taşınabildiğini ölçen bir deney var.

Peki kazanç her yerde aynı mı? Kornblith, Shlens ve Le on altı ağı on iki ayrı fotoğraf setinde sınadı.

Az veriyle çalışmanın bir yolu daha var: elindeki fotoğrafları çoğaltmak.

Asma yaprağı yukarıdan çekildiyse çeyrek tur döndürmek ve aynada çevirmek yaprağın hastalığını değiştirmez. Dört dönüş ile iki çevirme her fotoğraftan sekiz sürüm verir; yüz yirmi fotoğraf dokuz yüz altmışa çıkar. Ama bu dokuz yüz altmış, yüz yirmi yaprağın bilgisidir; yeni bir dal, yeni bir ışık, yeni bir hastalık evresi eklenmedi. Dönüşümü seçerken soru hep aynıdır: bu değişiklikten sonra etiket hâlâ doğru mu? Rengi kaydırmak, beyaz tozu sarımsıya, sağlıklı yaprağın parlamasını beyaza çevirebilir. Bu sınıfta renk, hastalığın kendisidir.

Sahada

Nerede yanılır

Aktarım, iki görevin görüntüleri birbirine benzediği ölçüde çalışır ve bu benzerliği kimse bir sayı olarak vermez. Yosinski ve arkadaşlarının deneyinde görevler uzaklaştıkça kayıp yüzde sekizden yüzde yirmi beşe çıktı. Bir asma yaprağı genel fotoğraflara oldukça benzer: renkli, doğal ışıkta, ortada bir nesne. Bir göz dibi fotoğrafı ise başka bir dünyadır.

Bu kartın bir dersi var: aktarımın faydası, küçük veriyle büyük bir ağı eğitmenin zorluğuyla karışabilir. Ağı küçültmek de aynı işi görebiliyorsa, satıcının "önceden eğitildi" cümlesi bir kalite göstergesi değildir.

İkinci tuzak sınama setinin boyudur. Doruk'un on beşte on dördü yüzde doksan üç virgül üç eder, ama tek bir fotoğraf daha yanlış olsa yüzde seksen altı virgül yediye iner. On beş fotoğraf, aynı çardaktan, aynı hafta, aynı iki telefonla çekildi. Ağ yalnız son katmanını ayarlarken bu fotoğrafların bütün ortak özelliklerini de kullanmakta serbestti.

Üçüncüsü, önceden eğitilmiş model kendi eğitim verisinin boşluklarını da taşır. Genel fotoğraf setinde az bulunan bir şey, gövdenin sayı listesinde de silik kalır; son katman o silik sayılarla ancak bu kadarını yapabilir.

Uygulama

Kâğıt ve hesap makinesiyle bir aktarım kararı kartı dolduracaksın.

1. Kâğıdın üstüne üç satır aç: sıfırdan eğitim, yalnız son katman, son blok ile son katman.
2. Sıfırdan eğitim satırına bütün ağı yaz: gövde yirmi üç milyon beş yüz sekiz bin otuz iki, üstüne son katman.
3. Son katmanı kendin hesapla: gövdenin çıktısı iki bin kırk sekiz sayı, sınıf sayısı üç. Ağırlık sayısı iki bin kırk sekiz çarpı üç, sapma sayısı üç. Sonucu ikinci satıra yaz.
4. Üçüncü satıra son bloğun on dört milyon dokuz yüz altmış dört bin yedi yüz otuz altı ağırlığını ve son katmanı topla.
5. Her satırda eğitilen sayıyı yüz yirmi fotoğrafa böl: bir fotoğrafa kaç ayarlanacak sayı düşüyor?
6. Altı dönüşümü iki sütuna ayır: çeyrek tur döndürme, aynada çevirme, kenarlardan biraz kırpma, parlaklığı biraz artırma, renk tonunu kaydırma, fotoğrafı bulanıklaştırma. Sol sütun "etiket korunur", sağ sütun "etiket bozulabilir". Her dönüşümün yanına tek gerekçe yaz.
7. Sol sütundaki dönüşümlerden yalnız döndürme ve çevirmeyi kullanırsan yüz yirmi fotoğraf kaça çıkar?

İkinci satır altı bin yüz kırk yedi, üçüncü satır on dört milyon dokuz yüz yetmiş bin sekiz yüz seksen üç olmalı. Beşinci adımda son katman için fotoğraf başına elli bir civarı sayı çıkar, son blok açılınca yüz yirmi beş bine yakın. Yedinci adımın cevabı dokuz yüz altmış. Renk tonunu kaydırmanın neden sağ sütunda olduğunu, bu derste renk ile hastalık arasındaki bağı düşünerek yaz; bulanıklaştırma için de ince lekelerin kaybolup kaybolmayacağını sor.

Defter: "Ödünç ağ" sayfasına üç satırı ve iki sütunu geçir. Altına, kartın üçüncü satırındaki fotoğraf başına düşen sayıya bakarak, son bloğu açmadan önce kaç fotoğraf daha toplamak isteyeceğini ve bunu neye dayandırdığını iki cümleyle yaz.

Hata köşesi

Sorumluluk

Doruk'un aracı on beşte on dört dedi, ama çardağın ilaçlanıp ilaçlanmayacağı kararı aracın değil. Zeynep Hanım sınıfla bir kural yazdı: aracın çıktısı görevliye ancak bir öneri olarak gider, ilaçlamadan önce bir ziraat mühendisi yaprağı görüp hastalığı doğrular. Önceden eğitilmiş modeli kim seçti, hangi verilerle eğitildi, o verinin kullanım izni var mı, ince ayar hangi fotoğraflarla yapıldı ve hangi katmanlar açıldı: bunları satıcıdan yazılı istemek alıcının sorumluluğudur. Aktarımın faydası da zararı da hedef görevin kendi fotoğraflarında ölçülmedikçe bilinmez; yanlış ret alan müşteri, yanlış tanı alan hasta, gereksiz ilaçlanan asma bu ölçümün yapılmadığı yerde bedel öder.

Kapanış

1. Aktarım öğrenmesi, büyük bir veriyle önceden eğitilmiş bir ağın ağırlıklarını yeni işin başlangıcı yapar; gövde dondurulup yalnız yeni son katman eğitilebilir ya da küçük bir öğrenme oranıyla ince ayar yapılabilir.
2. Yüz yirmi fotoğrafın bir dakikada yetmesinin nedeni, eğitilen sayının yirmi üç milyon değil altı bin olmasıdır; son bloğu açmak bu sayıyı on beş milyona çıkarır ve veri ihtiyacını da büyütür.
3. Kazanç, kaynak ile hedef görevin benzerliğine bağlıdır: benzer görevlerde ilk katmanlar neredeyse kayıpsız taşınır, ince sınıflı ve tıbbi görüntülerde fark küçülür ya da kaybolur; veri artırma örnek sayısını artırır ama yeni bilgi eklemez.

Üç soru

1. Zeynep Hanım'ın tahtadaki ilk sorusuna dön: ağ asma yapraklarını hiç görmemişken yüz yirmi fotoğraf ona tam olarak neyi öğretti, neyi öğretmedi?
2. Hatice Hanım'ın modeli "ot" ile "pamuk"u hızla ayırdı ama iki ot türünü ayıramadı. Kornblith ve arkadaşlarının ince sınıflı görevlerdeki bulgusu bunu nasıl açıklar?
3. Bir satıcı tıbbi görüntü yazılımının "milyonlarca genel fotoğrafla önceden eğitildiğini" söylüyor. Raghu ve arkadaşlarının sonucuna göre bu cümleden ne çıkarılabilir, ne çıkarılamaz?

Yanıtlar

1. Gövdenin ağırlıkları genel fotoğraflarla öğrenilmişti ve hiç değişmedi; kenar, renk, doku ve parça bulan katmanlar olduğu gibi kaldı. Yüz yirmi fotoğraf yalnız son katmanın altı bin yüz kırk yedi sayısını ayarladı, yani gövdenin ürettiği iki bin kırk sekiz sayılık listeyi üç sınıfa bölmeyi öğretti. Gövdenin göremediği bir farkı son katman öğrenemez.
2. Genel fotoğraf setinde iki ot türünün ayrımı yoksa gövdenin son katmanları bu ayrımı taşıyan sayılar üretmez. Kornblith ve arkadaşları uçak ve otomobil modelleri gibi ince sınıflı görevlerde ince ayarın sıfırdan eğitime üstünlüğünün en iyi ağda bir puanın altında kaldığını ölçtü; ince ayrım için hedef görevin kendi etiketli fotoğrafları gerekir.
3. Önceden eğitim, eğitimin daha hızlı başladığını ve küçük veriyle büyük bir ağın kurulabildiğini gösterebilir. Raghu ve arkadaşlarının ölçümünde göz dibi ve göğüs filmlerinde aktarım başarımı ya hiç ya çok az değiştirdi, küçük ağlar sıfırdan aynı yere vardı. Cümle başarım hakkında bir şey söylemez; başarım ancak kendi hastalarının görüntülerinde ölçülür.

Sonraki derse köprü

Doruk'un on beşte on dördü bir soruyu daha açık bırakıyor. Fotoğrafların hepsi aynı çardakta, aynı hafta çekildi; son katman doğru cevaba giden her ipucunu kullanmakta serbestti. Ders 10.5, Görüntüde kısa yollar, bir modelin nesnenin kendisi yerine arka plana ya da fotoğraftaki bir işarete bakarak doğru cevap verebildiği durumları ele alıyor: başarının kaynağı yaprağın lekesi miydi, yoksa lekeli yaprakların çekildiği yer mi?