Model, veri, çıkarım

Açılış

Murat Bey'in fabrikasında, Gaziantep'te, kalite kontrol kamerası sonunda banda kuruldu. Önceki ay epey tartışılan fotoğraf işi geçici olarak iki kalite teknisyenine verilmişti; bu işin kalıcı olarak kimde kalacağı hâlâ konuşuluyordu. Teknisyenler bir hafta boyunca banttan çekilmiş üç bin fotoğrafı tek tek "kusurlu" ya da "sağlam" diye ayırdı. Tedarikçinin mühendisi fotoğrafları alıp gitti, dört gün sonra kameraya yüklenecek bir dosyayla döndü. O günden sonra kamera her kutuya bakıp saniyenin küçük bir kesrinde karar veriyor, kusurlu gördüğünü bir hava üflemesiyle banttan atıyordu. İlk üç hafta Murat Bey'in elindeki sayılar iyiydi.

Dördüncü haftanın pazartesi sabahı fabrikanın en büyük müşterilerinden bir baklava firması yeni kutusuna geçti. Yeni kapakta, baklavanın buharı çıksın diye bilerek bırakılmış dört milimetrelik bir aralık vardı. Kamera öğlene kadar bandın neredeyse tamamını reddetti. Vardiya amiri telaşla aradığında Murat Bey önce kamerayı kapattırdı, sonra tedarikçinin mühendisini aradı. Mühendisin cevabı kısaydı: "Kamera bu kutuyu hiç görmedi. Yeni kutudan etiketli fotoğraf toplayıp yeniden eğitmemiz gerekiyor."

Murat Bey'in aklına takılan soru şuydu: Kamera üç haftadır her gün on binlerce kutu görüyordu. Bu sabah da yüzlerce yeni kutu görmüştü. Neden bunlardan bir şey öğrenmemişti? Öğrendiği şey o hâlde neredeydi, ve neden ancak tedarikçinin bilgisayarında değiştirilebiliyordu?

Tek fikir

Bir modelin bildiği şey, eğitim anında veriden süzülüp sayılara dönüşmüş ayarlardır. Kullanım anında model bu ayarları yalnızca uygular; çoğu sistemde gördüğü yeni şeyden kendiliğinden öğrenmez.

Nasıl çalışır

Önce kelimeleri yerine oturtalım. Murat Bey'in kamerasının içinde çalışan şeye model denir, ama bu kelime gündelik dilde maket ya da örnek anlamına geldiği için yanıltabilir.

Bu sayıların nereden geldiğini görmek için kamerayı çok küçük bir örneğe indirelim. Gerçek kamera fotoğrafın bütün noktalarına bakar ve binlerce, çoğu zaman milyonlarca sayıyı birlikte kullanır. Biz tek bir ölçüye ve tek bir sayıya bakacağız: kapak kapandığında kenarda kalan aralık.

Teknisyenlerin ayırdığı fotoğraflardan on tanesini alalım. Beş sağlam kutunun kapak aralıkları milimetre olarak bir, bir buçuk, iki, iki ve iki buçuk. Beş kusurlu kutununki üç buçuk, dört, beş, altı ve yedi. Modelimizin kuralı şu biçimde olsun: aralık bir eşikten büyükse kutu kusurludur. Kuralın biçimini insan seçti; eşiğin kaç olacağını ise veri söyleyecek. Bir eşik dene, on kutunun kaçını doğru ayırdığına bak, yanlış ayırdığı kutu varsa eşiği o yöne kaydır. Bu tekrar edilen deneme ve düzeltme sürecine eğitim denir.

Eğitim bittiğinde elimizde kalan şey on fotoğraf değil, "üç" sayısıdır. Fotoğrafları silsek de model çalışmaya devam eder; modelin içine bakan biri ise o tek sayıdan on fotoğrafı geri kuramaz. Modelin "bildiği" dediğimiz şey tam olarak budur: verinin kendisi değil, veriden süzülmüş ayar. Gerçek kamerada bu ayar çok sayıda değerden oluşan bir dosyadır ve mühendisin dört gün sonra getirdiği şey oydu.

Sonra kamera banda kurulur ve başka bir an başlar. Bant üzerinden gelen her yeni kutu ölçülür, ölçü eşikle karşılaştırılır, karar verilir. Bu anda eşik değişmez.

İki anın maliyeti farklıdır. Eğitim için önce veri toplanır, etiketlenir, model denenir, sınanır; Murat Bey'in fabrikasında bu iş iki teknisyenin bir haftasını ve mühendisin dört gününü aldı. Çıkarım ise her kutuda tekrarlanır ve tek seferi çok hafiftir; kamera bir kutunun kararını göz açıp kapayıncaya kadar verir. Tek seferi hafif olsa da günde on binlerce kez tekrarlandığı için çıkarımın toplam faturası küçük değildir; hangi donanımda, nerede çalışacağı da bir tasarım kararıdır.

Murat Bey'in sorusunun cevabı da buradadır. Kamera üç hafta boyunca on binlerce kutu gördü, ama her birini yalnız çıkarım için gördü. Hiçbirine bir teknisyen "bu sağlam" ya da "bu kusurlu" etiketi koymadı; olsa da kamera o etiketi alıp eşiğini yeniden ayarlayacak biçimde kurulmamıştı. Yeni baklava kutusunun aralığı dört milimetre ve bu, modelin gözünde kusurlu demektir. Model yanılmıyor, ona öğretileni uyguluyor. Dünya değişti, model değişmedi.

Bazı sistemler bu iki anı birbirine bağlar. Kullanım sırasında toplanan girdiler ve kullanıcı düzeltmeleri saklanır, sonra bir insan ya da bir süreç bunları yeni eğitim verisine ekler ve model aralıklarla yeniden eğitilir.

Sahada

Nerede yanılır

Murat Bey'in pazartesi sabahı yaşadığı bozulma sessiz değildi; bandın tamamı reddedildi ve herkes fark etti. Daha tehlikelisi, dünyanın yavaş ve kısmen değişmesidir. Elif'in modeli hiçbir gün çökmedi, yalnızca her ay biraz daha yanıldı. Çıkarım anında model kendi ayarlarının eskidiğini bilemez, çünkü elinde eğitim anındaki dünyadan başka bir dünya yoktur. Bu yüzden eskime modelin içinden değil, dışarıdan, yani tahmin ile gerçekleşen sonucun düzenli karşılaştırılmasından fark edilir.

İkinci bir yanılgı alanı, modelin içinde verinin durmadığı sezgisinin fazla rahatlatıcı olmasıdır. Kapak aralığı örneğinde tek bir sayıdan on fotoğraf geri kurulamaz. Büyük modellerde ise ayar sayısı milyarlara çıkabilir ve bu ayarlar eğitim verisinin bazı parçalarını neredeyse kelimesi kelimesine taşıyabilir.

Demek ki "model veriyi değil ayarı bilir" cümlesi kural olarak doğru, mahremiyet güvencesi olarak eksiktir. Eğitim verisinde kişisel bilgi varsa, bu bilginin modelin çıktısında bir gün yeniden belirmesi ihtimali ciddiye alınır. Kişisel verinin modele girip girmediği sorusu, eğitim anında sorulması gereken sorudur; kullanım anında sorulduğunda iş çoktan olmuştur.

Uygulama

Bu derste, her gün kullandığın araçların içindeki iki anı ayıracaksın. Amaç, bir sistemle karşılaştığında "bu şu anda öğreniyor mu, yoksa önceden öğrendiğini mi uyguluyor?" sorusunu sormayı alışkanlık hâline getirmek.

Bitirdiğinde üç satıra birlikte bak. Kaç tanesinde dördüncü soruya açık bir cevap bulabildin? Çoğu zaman girdiyi ve çıktıyı rahatça yazabilirsin, eğitim verisinin türünü tahmin edebilirsin, ama kullanım verisinin eğitime girip girmediğini bulmak için birkaç sayfa aramak gerekir. Bu aramanın kendisi de bir bulgudur: bir aracın bu soruya ne kadar kolay cevap verdiği, kullanıcısına ne kadar hesap verdiğini gösterir.

Son olarak üç özellikten birini seç ve kendine şunu sor: yarın bu özelliğin bilmediği bir şey olsa, bunu ilk kim fark eder? Sen mi, aracı yapan şirket mi, yoksa hiç kimse mi?

Defter: Sayfanın adı "İki an". Altında üç satırlık bir tablo: özellik, çıkarımda giren ve çıkan, eğitim verisi tahmini, eğitimden beri değişmiş olabilecek şey, kullanım verisi eğitime giriyor mu. Tablonun altına tek cümle: bu üç özellikten hangisinin eskimesini en geç fark edersin ve neden.

Hata köşesi

Sorumluluk

Modelin ayarları eğitim anında donar, ama dünya donmaz. Bu aradaki farkı izlemek modelin değil, onu kullanan kurumun işidir. Murat Bey'in fabrikasında yeni kutu tasarımı geleceği haftalar önce biliniyordu; bunu kalite ekibine ve kamera tedarikçisine haber vermek bir insan kararıydı ve verilmedi. Bir modeli kullanan herkes şunlardan sorumludur: modelin hangi tarihteki, hangi veriyle eğitildiğini bilmek, tahminleri gerçekleşen sonuçlarla düzenli olarak doğrulamak, dünyada modelin bilmediği bir değişiklik olduğunda kullanımı durdurma ya da yeniden eğitme kararını zamanında vermek. Eğitim verisine kimin bilgisinin girdiği sorusu da eğitim anında, verinin sahibine zarar dokunmadan önce cevaplanmalıdır.

Kapanış

1. Model, bir girdiyi çıktıya çeviren ve ayarlarını veriden almış bir hesap düzenidir; bildiği şey verinin kendisi değil, veriden süzülmüş bu ayarlardır.
2. Eğitim, ayarların etiketli örneklerle düzeltildiği pahalı ve seyrek andır; çıkarım, sabit ayarların her yeni girdiye uygulandığı ucuz ve sürekli andır, ve çoğu sistem bu anda öğrenmez.
3. Eğitimden sonra dünya değişirse model bunu kendi başına fark etmez; eskimeyi tahmini gerçek sonuçla karşılaştıran insan yakalar.

Üç soru

1. Murat Bey'in kamerası üç hafta boyunca on binlerce kutu gördüğü hâlde yeni baklava kutusunu neden tanımadı?
2. Kapak aralığı örneğinde eğitimden sonra elde ne kalır, ve on fotoğraf silinirse model çalışmaya devam eder mi?
3. Bir uygulama "kullanıcılarımızın verisiyle sürekli gelişiyoruz" diyorsa, bunun kullanım anında öğrenmek anlamına gelip gelmediğini anlamak için ne sorarsın?

Yanıtlar

1. Çünkü o on binlerce kutuyu yalnızca çıkarım için gördü: her kutuda ayarlarını sabit tutup bir karar verdi. Hiçbir kutuya etiket konmadı ve kamera kullanım sırasında ayarlarını değiştirecek biçimde kurulmamıştı. Yeni kutunun dört milimetrelik aralığı, eğitimde öğrenilen ayara göre kusur demekti; bunu düzeltmek yeni etiketli fotoğraflarla yapılacak bir eğitim gerektirir.
2. Elde yalnızca eşik kalır, yani yaklaşık üç milimetre. Fotoğraflar silinse de model bu sayıyla her yeni kutuya karar vermeye devam eder. O tek sayıdan on fotoğraf geri kurulamaz; ama milyarlarca ayarı olan büyük modellerde ayarların, eğitim verisinin bazı parçalarını aynen taşıyabildiği gösterilmiştir.
3. Kullanım verisinin nerede saklandığını, ne sıklıkla ve hangi seçimden geçerek yeni bir eğitim turuna girdiğini, kimin onayıyla girdiğini ve bundan çıkmanın bir yolu olup olmadığını sorarsın. Çoğu zaman cevap, verinin saklanıp ayrı bir eğitimde kullanıldığıdır; bu, modelin o anda öğrenmesinden farklıdır ve mahremiyet açısından ayrıca konuşulmalıdır.

Sonraki derse köprü

Bu derste Murat Bey'in kamerasında eğitim anı ile çıkarım anının ayrıldığını ve eğitimin tedarikçinin bilgisayarında, çıkarımın bant başında yapıldığını gördük. Ders 1.5, Gündelik hayattaki yapay zekâ, bant başından çıkıp her gün dokunduğumuz ama çoğu zaman fark etmediğimiz modellere bakıyor: video önerileri, yüz kilidi ve makine çevirisi. Her birinin kullanım anında neyi girdi aldığını, neyi en iyilemeye ayarlandığını ve yanıldığında bunu fark edip edemeyeceğimizi soracağız; yüz kilidinde çıkarımın neden uzaktaki bir sunucuda değil elimizdeki cihazda yapıldığını da göreceğiz.