Gündelik hayattaki yapay zekâ

Açılış

Ekimin ikinci haftasında bir salı sabahı, Zeynep Hanım'ın telefonu mutfağın loş ışığında, o daha gözünü tam açmadan kilidini kaldırdı. Çay demlenirken ekranda bir önceki gece açık bıraktığı video platformu duruyordu. Gece ders hazırlığı için bir mitoz anlatımı izlemişti; şimdi altında altı yeni video sıralanmıştı. Dördü hücre bölünmesi üzerineydi, biri on birinci sınıf için hazırlanmış bir mayoz özetiydi, sonuncusu ise bir yemek kanalının ekmek tarifiydi. Hiçbirini aramamıştı.

Tramvayda okul e-postasına baktı; "ödül kazandınız" başlıklı bir ileti yine kendiliğinden istenmeyenler klasörüne düşmüştü. Öğle arasında, bölüm başkanının paylaştığı İngilizce bir makaleyi okumak için metni bir çeviri aracına yapıştırdı. Makale yaprak gözeneklerini açıp kapayan bekçi hücreleri üzerineydi. Çeviri akıcıydı, ama bir paragrafta "the plant" ifadesi "fabrika" diye çıkmıştı ve cümle bir an tuhaf bir yere gitmişti. Zeynep Hanım yanlışı biyolojiyi bildiği için yakaladı.

Akşam defterini açtığında geçen haftanın sayfası gözüne çarptı: "yapay zekâ" kelimesini üç yerde duymuş, üçünü de yazmıştı. Bu salı kelimeyi kimse söylememişti. Yine de telefon onu tanımış, platform ne izleyeceğini tahmin etmiş, posta kutusu bir iletiyi ayıklamış, çeviri aracı bir cümleyi başka bir dile taşımış ve birinde yanılmıştı. Kaleminin ucunda bir soru kaldı: bugün kaç modelle karşılaştım, ve hangisi yanılsaydı bunu hiç fark etmezdim?

Tek fikir

En çok kullandığımız yapay zekâ sistemleri adı söylenmeden çalışır. Görünmeyen bir model yanıldığında yanılgısı da görünmez kalır; bu yüzden her birinin girdisini, çıktısını ve neyi en iyilemeye çalıştığını sormak gerekir.

Nasıl çalışır

Ders 1.1'deki üç soru, yani girdinin, çıktının ve aradaki dönüşümün sahibinin ne olduğu, burada da işe yarar. Gündelik sistemler için onlara bir dördüncüsünü eklemek gerekiyor: sistem neyi başarı sayıyor? Görünmeyen modellerin her biri bir hedefe göre ayarlanmıştır ve kullanıcı o hedefi çoğu zaman bilmez. Zeynep Hanım'ın salısından üç sistemi bu dört soruyla açalım. Posta kutusundaki istenmeyen ileti süzgeci de bu görünmeyen modellerden biridir; onu Ders 1.2'de ayrıntısıyla ele aldık, burada yalnız listeye ekliyoruz.

İlk sistem video önerileridir.

Girdisi Zeynep Hanım'ın izleme geçmişi, aramaları, hangi videoyu ne kadar izlediği ve benzer geçmişe sahip milyonlarca başka kullanıcının davranışıdır. Çıktısı ekrandaki altı videodur. Dönüşümü, bu davranışlardan öğrenilmiş bir model yapar. Dördüncü soru en önemlisidir, çünkü "en iyi öneri" kendiliğinden tanımlı değildir. Kullanıcının en çok tıklayacağı video mu, en uzun izleyeceği mi, yoksa izledikten sonra memnun kalacağı mı? Bu üçü aynı listeyi vermez.

Kartın asıl dersi tarihten bağımsızdır. Bir öneri sistemi ölçebildiği şeyi en iyiler, ölçmek istediği şeyi değil. Tıklama ölçülebilir, izlenme süresi ölçülebilir; "bu video bana iyi geldi" ise ölçülemez ya da çok seyrek ölçülür. Hedef ne kadar dikkatle seçilirse seçilsin, memnuniyetin yerine bir vekil konur. Zeynep Hanım'ın listesindeki ekmek tarifi bu yüzden bir hata sayılmayabilir: sistemin bakış açısından, onun gibi izleyicilerin o videoyu sonuna kadar izleme olasılığı yüksek olabilir.

İkinci sistem telefonun yüz kilidiydi.

Girdisi kameranın o anda aldığı yüz görüntüsüdür; çıktısı tek bir karardır: kilit açılır ya da açılmaz. Dönüşümü, binlerce farklı yüzden öğrenilmiş bir model yapar: görüntüyü bir sayı dizisine çevirir ve bu diziyi kayıt sırasında saklanan diziyle karşılaştırır. İki dizi yeterince yakınsa kilit açılır. "Yeterince yakın" sözünün arkasında bir eşik durur ve o eşiği kullanıcı değil, üretici seçer.

Burada iki tür hata vardır ve biri azaldıkça öteki artar. Yanlış kabulde sistem başka birini sahibi sanıp kilidi açar. Yanlış ret durumunda sahibini tanımaz ve şifre ister. Eşik sıkılaştırılırsa yabancının telefonu açma olasılığı düşer ama sahibi sabah loş ışıkta, gözlüğüyle ya da yeni uzattığı sakalla daha sık reddedilir. Eşik gevşetilirse sahibi hiç beklemez ama benzer yüzlü biri için kapı aralanır. İkisini birden sıfıra indiren bir eşik yoktur; her eşik bu iki hatanın bir paylaşımıdır.

Kartın son cümlesi önemlidir. Üretici, güvenlik açısından önem taşıyan yanlış kabul için bir sayı yayımlar; kullanıcının her sabah yaşadığı yanlış ret ise belgede sayı olarak yer almaz. Bir hatanın ölçülüp yayımlanması, onun kimin için önemli sayıldığını da gösterir.

Yüz kilidinin bir özelliği daha var: eşleştirme telefonun içinde yapılabilir. Bu tasarımda yüz bir sunucuya gitmez; model cihazda çalışır. Bu mahremiyet açısından iyi bir tasarımdır, ama bir sonucu vardır: kilit yanıldığında ne kullanıcı ne de üretici bunu kendiliğinden öğrenir. Sahibini reddetmesi yalnızca "bir daha baktım, açıldı" diye yaşanır; başkasına açılması ise ancak biri fark ederse görünür.

Üçüncü sistem çeviriydi.

Girdisi kaynak dildeki metin, çıktısı hedef dildeki metindir. Dönüşümü, milyonlarca cümle çiftinden öğrenilmiş bir model yapar. Model bir cümleyi anlamlandırırken o kalıbın eğitim metinlerinde en sık hangi karşılıkla geçtiğine yaslanır. "Plant" kelimesi bir biyoloji makalesinde bitki demektir, bir ekonomi haberinde fabrika; model bağlamı yanlış okursa sonuç akıcı ama yanlış bir cümle olur. Akıcılık burada tuzaktır: kötü çevrilmiş ama bozuk görünen bir cümle okuru uyarır, iyi akan yanlış bir cümle uyarmaz.

Türkçe bu konuda öğretici bir dildir, çünkü "o" zamiri cinsiyet taşımaz. İngilizce ise "he" ile "she" arasında seçim yapmayı zorunlu kılar. Türkçeden İngilizceye çeviren bir model, kaynakta bulunmayan bir bilgiyi uydurmak zorunda kalır ve bunu eğitim metinlerindeki sıklığa göre yapar.

Bu sayılar bugünkü bir çeviri aracı hakkında hüküm vermez. Kalıcı olan mekanizmadır: kaynak metinde olmayan bir bilgi hedef dilde zorunluysa, model o boşluğu veriden öğrendiği en sık örüntüyle doldurur. Zeynep Hanım "o bir biyoloji öğretmeni" cümlesini İngilizceye çevirse, çıkan zamir Zeynep Hanım'ı değil, modelin okuduğu metinleri yansıtır.

Üç sistemin ortak noktası görünmezliktir. Hiçbiri kendini tanıtmaz, hiçbiri "şu konuda emin değilim" demez, ve üçü de kullanıcı yanılgıyı fark etmedikçe yanılgısını kimseye bildirmez. Ders 1.4'teki ayrımla söylersek, bu modellerin eğitimi bir kez ve başka bir yerde yapılmıştır; bizim gördüğümüz yalnızca kullanım anıdır ve o anda modelin neyi bildiği ya da bilmediği ekrana yansımaz.

Sahada

Nerede yanılır

Görünmeyen modellerin hatası kullanıcının fark edip etmemesine bağlıdır ve fark etmek de çoğu zaman kullanıcının alan bilgisine. Zeynep Hanım "fabrika" kelimesini yakaladı çünkü biyoloji öğretmeniydi; aynı yanlış bir hukuk metninde olsaydı büyük ihtimalle okuyup geçerdi. Murat Bey hattı durdurmadan önce aslını sordurduğu için yanlış bölümü suçlamadı. Hatayı görünür kılan sistem değil, kullanıcının o gün yanında taşıdığı bilgidir.

Öneri sistemlerinde yanılgı daha sinsidir, çünkü tek bir öneride hata yoktur. Ekmek tarifi videosu kendi başına yanlış değildir; Elif'in listesindeki deprem videoları da tek tek doğru bilgi içerebilir. Sorun listenin bütününde, haftalar içinde biriken yöndedir. Sistem izlenme süresi gibi bir vekili en iyilediğinde, o vekil ile kullanıcının gerçek çıkarı arasındaki fark tek tek önerilerde değil, uzun dönemde ortaya çıkar. Hiçbir uyarı ışığı yanmaz; yalnızca akış yavaşça bir yöne kayar.

Yüz kilidinde yanılgı iki yöne de sessizdir. Yanlış ret küçük bir sinir bozukluğu olarak yaşanır ve unutulur; yanlış kabul ise sahibinin yokluğunda olur. Üreticinin verdiği olasılık rastgele bir yabancı içindir. Kerem rastgele bir yabancı değildi; ağabeyine benzeyen, on üç yaşından küçük bir kardeşti. Bir olasılığın hangi nüfus için hesaplandığını sormadan onu kendi evine taşımak, sayıyı yanlış okumaktır.

Çeviride yanılgı en çok kaynak dilde olmayan bir bilginin hedef dilde zorunlu olduğu yerde ortaya çıkar: Türkçeden İngilizceye zamirin cinsiyeti, resmi ve samimi hitap ayrımı, bir kelimenin birden çok anlamı. Bunu fark etmenin pratik yolu, önemli bir metni hedef dilden yeniden kaynak dile çevirip iki metni karşılaştırmaktır; ama bu yalnızca kaba yanlışları yakalar. Asıl güvence, sonucun önemli olduğu yerde iki dili bilen bir insana okutmaktır.

Uygulama

Bu derste defterine bir günün görünmeyen modellerini yazacaksın. Ders 1.1'deki kelime avında "yapay zekâ" kelimesini arıyordun; bu kez kelimenin hiç söylenmediği yerleri arıyorsun.

Gün sonunda listene bir kez daha bak. Kaç satırda "fark etmezdim" yazdın? Bu satırlar, o sistemlerin hatasının senin için hiç var olmadığı yerlerdir. Bir satırı seç ve o sistemin yanılmasını görünür kılmanın bir yolunu düşün: çeviri için aslını bilen birine sormak, öneri listesi için bir hafta sonra aynı saatte listenin konu dağılımına yeniden bakmak, kilit için telefonu kimlerin elinde tuttuğunu düşünmek gibi.

Defter: Sayfayı "Görünmeyen modeller" diye adlandır. Altında en az dört satırlık bir tablo: an, girdi, çıktı, en iyilediğini düşündüğün şey, yanılsa fark eder miydim. Tablonun altına tek cümle: bugün en az fark ettiğim model hangisiydi ve neden.

Hata köşesi

Sorumluluk

Görünmeyen modellerin çıktısını kullanan her yerde karar hâlâ bir insandadır, ama o insan çoğu zaman bir karar verdiğini fark etmez. Murat Bey hattı durdurma kararını çeviriye değil, aslını okuyan arkadaşına dayandırdı. Dr. Seda Hanım dozu çeviri aracına bırakmadı; reçetenin doğru anlaşılmasının sorumluluğu ondaydı ve dozu doğrulamak için kâğıda ve eczacıya başvurdu. Önemli bir metni çeviriyle okuyan, bir öneriye göre bilgi edinen ya da bir çocuğun telefonunu yüz kilidine emanet eden kişi, o sistemin hatasının kime dokunacağını düşünmek zorundadır. Sistemi tasarlayanların sorumluluğu da hedefi ve eşiği seçerken başlar: neyi en iyilediklerini, hangi hatayı ölçüp yayımladıklarını ve hangisini sessiz bıraktıklarını açıkça söylemek onların işidir.

Kapanış

1. Gündelik hayattaki yapay zekâ sistemlerinin çoğu adını söylemeden çalışır; öneri listesi, yüz kilidi, çeviri ve istenmeyen ileti süzgeci birer modeldir.
2. Her görünmeyen modele girdisini, çıktısını, dönüşümü kimin belirlediğini ve neyi en iyilemeye çalıştığını sor; öneri sistemleri çoğu zaman memnuniyetin yerine ölçülebilir bir vekili en iyiler.
3. Görünmeyen bir modelin hatası, kullanıcı fark etmedikçe görünmez kalır: yüz kilidinde yanlış kabul ile yanlış ret bir eşikte paylaşılır, çeviride kaynakta olmayan bilgi veriden en sık örüntüyle doldurulur.

Üç soru

1. Bir alışveriş uygulaması sana sürekli daha önce baktığın ürünlere benzeyen ürünler gösteriyor. Bu öneri sisteminin neyi en iyilediğini anlamak için hangi soruyu sorarsın?
2. Bir telefon üreticisi yüz kilidinin yanlış kabul olasılığının milyonda birden az olduğunu yazıyor. Bu sayı hangi bilgiyi vermez?
3. "O bir hemşire, o bir mühendis" cümlelerini İngilizceye çeviren bir araç zamir seçerken neye dayanır ve bu seçim kimin hakkında bilgi verir?

Yanıtlar

1. Sistemin başarıyı neyle ölçtüğünü sorarsın: tıklamayla mı, satın almayla mı, uygulamada geçirilen süreyle mi, iadeyle sonuçlanmayan satışla mı? Hangi vekili seçtiği, hangi ürünü öne çıkaracağını belirler. Benzer ürünleri göstermek, senin aradığını bulmana değil, uygulamada kalmana ya da tıklamana hizmet ediyor olabilir.
2. Sahibini tanımama, yani yanlış ret sıklığını vermez. Ayrıca sayı rastgele bir yabancı için hesaplanmıştır; benzeyen bir kardeş, ikiz ya da küçük bir çocuk için olasılığın ne olduğunu söylemez. Son olarak bu üreticinin kendi beyanıdır, bağımsız bir ölçüm değildir.
3. Kaynak cümlede cinsiyet bilgisi yoktur, ama İngilizce zamir seçmeyi zorunlu kılar. Araç bu boşluğu eğitim metinlerinde o meslek için en sık geçen zamirle doldurur. Seçilen zamir cümledeki kişi hakkında değil, modelin eğitildiği metinlerdeki dağılım hakkında bilgi verir.

Sonraki derse köprü

Bu derste görünmeyen modellerle ilgili okuduğumuz her sayı bir soruyla geldi: milyonda bir rastgele bir yabancı için hesaplanmıştı, çeviri yanlılığı Nisan iki bin on sekizde tek bir hizmette ölçülmüştü, öneri hedefi iki bin on altıdaki bir sistemin hedefiydi. Ders 1.6, Abartı ve korku arasında, bu dikkati bir alışkanlığa çeviriyor: "yapay zekâ her şeyi yapacak" ya da "yapay zekâ hepimizi tehdit ediyor" diyen bir iddiayı tartmadan önce sorulacak üç soruyu, yani ne ölçüldüğünü, kime göre ölçüldüğünü ve hangi tarihte ölçüldüğünü kuracak.