Dar ve genel

Açılış

Dr. Seda Hanım Trabzon'da aile hekimi. Kasım ayının ikinci haftası, salı öğleden sonra muayenehanesine bir yazılım firmasının temsilcisi geldi. Getirdiği program göz dibi fotoğraflarına bakıp şeker hastalığının retinada bıraktığı hasarı işaretliyordu. Temsilci dizüstü bilgisayarında yirmi fotoğraf açtı; program her birinin üstüne küçük kırmızı halkalar koydu, köşeye de "sevk önerilir" ya da "yıllık kontrol" yazdı. Seda Hanım ikinci fotoğrafta gözünü kısarak baktı: hastada katarakt vardı, görüntü bulanıktı. "Bunu ne yapıyor?" diye sordu. Temsilci biraz duraksadı: "Bu fotoğraf için kalite uyarısı veriyor. Program yalnız şeker hasarına bakar; katarakt, glokom, başka bir şey görürse söylemez."

Perşembe akşamı hekimlerin çevrim içi toplantısında bir meslektaşı ekranını paylaştı. Genel amaçlı bir sohbet asistanına önce bir hasta bilgilendirme metni yazdırmış, sonra bir ilaç etkileşimini sormuş, sonra bir makalenin özetini çıkartmış, en sonunda da kızının matematik ödevini çözdürmüştü. "Bu her şeyi yapıyor," dedi, "o göz programına para vermeye gerek kalmayacak."

Seda Hanım gece defterine iki satır yazdı. Birinci araç tek bir işi yapıyor ve o işin dışına çıkmayacağını açıkça söylüyordu. İkinci araç her soruya cevap veriyor ve hiçbir sınır söylemiyordu. Hangisi daha "zeki"ydi? Daha önemlisi, hangisine hangi işte güvenebilirdi?

Tek fikir

Dar bir sistem belirli bir işte, belirli koşullarda ölçülmüş bir beceri sunar; genel sistem iddiası ise birçok işte birden beceri iddiasıdır. "Genel yapay zekâ" deyiminin üzerinde anlaşılmış tek bir tanımı yoktur; duyduğunda hangi tanımın kastedildiğini sor.

Nasıl çalışır

Yapay zekâ tarihinin büyük kısmı tek tek işlerin tarihidir. Satranç oynayan programlar, konuşmayı yazıya döken sistemler, kartla yapılan şüpheli harcamayı işaretleyen yazılımlar, Seda Hanım'ın gördüğü göz dibi programı: her biri bir işi tarif eder, o iş için toplanmış veriyle kurulur ve o işte ölçülür.

Darlığın iki katmanı vardır. Birincisi işin kendisidir: göz dibi programı şeker hasarına bakar, katarakta bakmaz. İkincisi koşullardır: program belirli kameralarla çekilmiş, belirli bir kalitedeki, belirli hasta topluluklarından gelen fotoğraflarla kurulmuş ve sınanmıştır. Bulanık bir fotoğraf, farklı marka bir kamera ya da çok farklı bir hasta topluluğu ikinci sınırı zorlar. İyi kurulmuş bir dar sistem bu sınırı bilir ve Seda Hanım'ın gördüğü gibi "bu fotoğrafa bakamam" der. Kötü kurulmuş olan sessizce bir cevap üretir.

Son yıllarda ortaya çıkan sohbet asistanları bu tabloyu karıştırdı. Aynı araç bir mektup yazıyor, bir metni çeviriyor, bir hesap yapıyor, bir bilgisayar programını düzeltiyor. Birçok işi tek bir sistemin yapması, alanın en eski hayallerinden birini yeniden gündeme getirdi: her işte iyi bir sistem.

Genellik fikrinin arkasında zekânın kendisine dair bir görüş durur. Zekâyı karşılaşılan durumların çeşitliliğiyle baş edebilmekte arayan biri için, tek bir işte parlayan dar sistem ne kadar başarılı olursa olsun bir eksik taşır.

Genel yapay zekâ tartışmasında sık karıştırılan ikinci bir ayrım vardır ve dar ile genel ayrımından bütünüyle farklı bir soruyu sorar.

İki ayrımı birbirinden ayırmak gerekir. Dar ile genel arasındaki fark kapsamla ilgilidir: sistem kaç işi, hangi başarıyla yapıyor? Zayıf ile güçlü arasındaki fark ise içeriyle ilgilidir: sistemin bir zihni, anlayışı, bilinci var mı? Çok geniş yetenekli bir sistem hakkında güçlü yapay zekâ sorusu açık kalabilir. Birinin "genel yapay zekâ" derken hangisini kastettiğini bilmeden tartışmaya girersen, iki kişi farklı sorulara cevap verirken birbirini yalanladığını sanar.

Bu karışıklığın ölçüsünü iki bin yirmi üçte bir grup araştırmacı çıkarmaya çalıştı. Meredith Ringel Morris ve arkadaşları, aralarında iki bin yedideki tanımın yazarlarından Shane Legg da var, genel yapay zekâ için önerilmiş dokuz tanımı inceledi.

Morris ve arkadaşlarının önerisi iki ekseni ayırmaktır. Birinci eksen derinliktir: sistem bir işte ne kadar iyi, o işi bilen yetişkinlerin yüzde kaçını geçiyor? İkinci eksen genişliktir: sistem bu düzeye kaç işte ulaşıyor? Bu tabloda bir satranç programı derinlikte en üst basamaklarda, genişlikte ise dar sütunda durur. Bu bakışın gündelik değeri şudur: "her şeyi yapıyor" cümlesi yalnız genişlikten söz eder, derinlik hakkında bir şey söylemez.

Bu kartı tarihiyle okumak dersin kendisi kadar önemlidir. Geniş yetenekli sistemler hızla değişiyor; bugün okuduğun bir değerlendirme bir yıl sonra eskimiş olabilir. Değişmeyen şey sorulacak sorudur: hangi işlerde, hangi ölçüyle, kimin değerlendirmesine göre ve hangi tarihte.

Sahada

Nerede yanılır

Dar bir sistemin hatası çoğu zaman sınırında doğar. Göz dibi programı kurulduğu kameralarla ve hasta topluluğuyla sınandıysa, başka bir kameranın renk dengesi ya da daha yaşlı bir hasta topluluğu onu ölçülmemiş bir bölgeye taşır. Sistemin bu bölgede ne yapacağı ölçülmemiştir; bazen yine iyi çalışır, bazen sessizce kötüleşir. Sorun, broşürdeki başarı oranının bu yeni koşul için de geçerli sanılmasıdır. Fark etmenin yolu, sistemin hangi verilerle sınandığını sormak ve kendi koşullarından küçük bir örnek seti üzerinde sınamaktır.

Geniş yetenekli bir sistemin hatası başka bir yerden gelir: genişlik derinlik sanılır. Zeynep Hanım'ın sınıfında görüldüğü gibi, aynı asistan bir konuda kitap gibi yazarken komşu bir soruda yanılabilir ve iki cevabın tonu birbirinin aynıdır. Akıcılık doğruluğun işareti değildir. Bir işte iyi sonuç almış olmak, aynı aracın başka bir işte de iyi olduğunu göstermez; her iş kendi ölçümünü ister. Fark etmenin yolu, aracın cevabını o işin birincil kaynağıyla karşılaştırmaktır, aracın kendinden emin görünmesine bakmak değil.

Tartışma düzeyindeki hata deyimin kendisindedir. "Genel yapay zekâ beş yıl içinde gelecek" ile "genel yapay zekâ asla gelmeyecek" cümleleri çoğu zaman aynı şeyi tartışmaz: biri ekonomik işlerin çoğunda insanı geçmeyi, öteki bilinç sahibi bir makineyi kastediyor olabilir. Tahmin tarihleri ayrıca kaynak ister; geçmiş tahminlerin sicilini Modül 35'te ayrıntısıyla okuyacağız. Bir tahmin duyduğunda önce tanımı, sonra kimin, hangi dayanakla söylediğini sor.

Uygulama

Bu derste kendi kullandığın bir sohbet asistanının genişliğini ve derinliğini kendi gözünle haritalayacaksın. Amaç, hangi işte ne kadar güvenebileceğini görmek.

Haftanın sonunda tabloya bak ve iki şeyi say: araç altı görevin kaçına bir cevap üretti, bu cevapların kaçı denetimden düzeltmesiz geçti? İki sayı arasındaki fark, bu derste genişlik ile derinlik dediğimiz şeyin senin elinde ölçülmüş hâlidir. Hangi satırlarda fark açıldığına da bak: yerel soru ve olgu sorusu aracın görmediği ya da yanlış hatırladığı bilgiye en açık satırlardır. Bu tablo, ilerleyen modüllerde bir aracı hangi işe vereceğine karar verirken başvuracağın ilk kaba haritan olacak.

Defter: "Genişlik ve derinlik" başlıklı bir sayfa aç. Altı satırlık bir tablo: görev türü, aracın cevabı tek cümleyle, denetlediğin kaynak, düzey (kullanılabilir, düzeltme gerekti, yanlış). Altına iki cümle: aracın en güvenilir olduğu iş türü ve en az güvenilir olduğu iş türü.

Hata köşesi

Sorumluluk

Dar bir sistemi işe koyan kişi onun sınırını da üstlenir. Seda Hanım göz dibi programını kullanmaya karar verirse, programın bakmadığı hastalıkları kimin, hangi muayeneyle yakalayacağını da belirlemiş olur; programın "yıllık kontrol" çıktısı katarakt ya da glokom için bir güvence değildir. Geniş yetenekli bir asistanda sorumluluk dağılır gibi görünür ama dağılmaz: her cevap ayrı bir iş olduğu için her cevabın ayrı doğrulanması gerekir. Bir aracın "genel" diye anılması, kullanan hekimin, öğretmenin ya da memurun kararını devralmaz; hasta, öğrenci ve başvuru sahibi zararı aracın tanımından değil, verilen karardan görür.

Kapanış

1. Dar bir sistem belirli bir işte ve belirli koşullarda ölçülür; darlığı hem işin hem koşulların sınırını taşır ve kendi işinde çok yüksek bir ustalıkla bir arada bulunabilir.
2. "Genel yapay zekâ" için tek bir tanım yoktur; tanımlar bilinçten ekonomik işe kadar farklı ölçüler seçer, bu yüzden deyimi duyduğunda önce hangi tanımın kastedildiğini sor.
3. Genişlik derinlik değildir: bir aracın çok iş yapması, her işte aynı güvenilirlikte olduğunu göstermez; her iş kendi ölçümünü ve kendi doğrulamasını ister.

Üç soru

1. Seda Hanım'ın gördüğü göz dibi programı hangi iki anlamda dardır?
2. Biri "genel yapay zekâ çok yakında gelecek" dediğinde, cümleyi tartmadan önce hangi iki şeyi sorarsın?
3. Zayıf ve güçlü yapay zekâ ayrımını neden dar ve genel ayrımından ayrı tutmak gerekir?

Yanıtlar

1. Birincisi iş bakımından dardır: yalnız şeker hastalığının retinada bıraktığı hasara bakar, katarakt ya da glokomu raporlamaz. İkincisi koşullar bakımından dardır: belirli kameralarla, belirli kalitedeki fotoğraflarla ve belirli hasta topluluklarıyla sınanmıştır; bulanık bir fotoğrafta kalite uyarısı vermesi bu sınırın görünür olduğunu gösterir.
2. Önce hangi tanımın kastedildiğini sorarsın: bilinç sahibi bir makine mi, ekonomik değeri olan işlerin çoğunda insanı geçen bir sistem mi, yoksa insan kadar geniş bir iş yelpazesini öğrenebilen bir sistem mi? Sonra tahminin kime ait olduğunu ve hangi dayanağa, hangi ölçüme, hangi tarihe dayandığını sorarsın. Kaynaksız bir tarih bir iddia değil, bir tahmindir.
3. Çünkü iki ayrım farklı sorulara cevap verir. Dar ve genel ayrımı kapsamla ilgilidir: sistem kaç işi, hangi başarıyla yapıyor. Searle'ün zayıf ve güçlü ayrımı ise sistemin gerçekten bir zihni ve anlayışı olup olmadığını sorar. Çok geniş yetenekli bir sistem için bile güçlü yapay zekâ sorusu açık kalabilir.

Sonraki derse köprü

Seda Hanım'ın iki aracı kapsam bakımından birbirinin zıddıydı, ama ikisinin becerisi de bir yerden geliyordu: göz dibi programı bir zamanlar binlerce fotoğrafla kurulmuş, sohbet asistanı da bir zamanlar çok büyük bir metin yığınıyla eğitilmişti. Muayenehanede yeni bir fotoğrafa baktığı ya da toplantıda bir soruya cevap verdiği an ise başka bir andı. Ders 1.4, Model, veri, çıkarım, bu iki anı ayırıyor: eğitim anında ne olduğunu, kullanım anında ne olduğunu ve bir modelin "bildiği" şeyin aslında nerede durduğunu soruyor.