Yapay zekâ dediğimiz şey

Açılış

Zeynep Hanım Konya'da bir Anadolu lisesinde biyoloji öğretiyor. Ekim ayının ilk haftasında aynı kelimeyi üç ayrı yerde duydu. Pazartesi öğretmenler odasında il müdürlüğünden gelen bir yazı okundu: okullara "yapay zekâ destekli ölçme ve değerlendirme" konulu bir seminer düzenlenecekti. Çarşamba onuncu sınıftan bir öğrencisi, hücre zarı ödevini teslim ederken gülümseyerek "Hocam, yapay zekâya yazdırdım ama sonra kendim düzelttim" dedi. Cumartesi annesine çamaşır makinesi bakmak için bir elektronik mağazasına girdiğinde rafın üstündeki etikette iri harflerle "yapay zekâlı yıkama" yazıyordu.

Akşam evde bu üç anı defterine yazarken bir şey dikkatini çekti. Seminerdeki uzman, öğrencinin kullandığı sohbet asistanı ve çamaşır makinesinin etiketi aynı kelimeyi kullanıyordu, ama aynı şeyi kastettiklerinden emin değildi. Öğrencisinin aracı iki paragraflık bir ödevi saniyeler içinde yazabiliyordu. Çamaşır makinesi ise satıcının anlattığına göre sepetteki çamaşırın ağırlığını tartıp su miktarını ayarlıyordu. İkisine aynı adı vermek doğru muydu, yoksa biri ötekinin şöhretinden mi yararlanıyordu?

Zeynep Hanım'ın sorusu bu akademinin ilk sorusu: Biri "yapay zekâ" dediğinde tam olarak neden söz ediyor? Bu ders o soruyu cevaplamak için bir ayırma düzeni kuruyor.

Tek fikir

"Yapay zekâ" tek bir şeyin adı değildir: bir bilim alanını, o alandan çıkan somut sistemleri ve bazen yalnızca bir satış etiketini adlandırır. Bir iddiayı tartmadan önce kelimenin bu üç anlamdan hangisinde kullanıldığını sormak gerekir.

Nasıl çalışır

Kelimenin en eski anlamı bir araştırma programıdır. Bin dokuz yüz elli beşin yazında dört araştırmacı, ertesi yaz için Amerika'daki Dartmouth Koleji'nde iki aylık bir çalışma grubu kurmak üzere bir öneri yazdı. "Artificial intelligence", yani yapay zekâ ifadesi bu önerinin başlığında geçiyordu.

Önerideki cümle iddialıdır ama dikkatlice okunursa bir sonuç değil bir varsayım ilan eder: zekânın parçaları kesin tarif edilebilirse makine onları taklit edebilir. Bu varsayım yetmiş yıldır sınanıyor. Satranç oynayan programlar, konuşmayı yazıya döken sistemler, görüntüdeki tümörü işaretleyen yazılımlar ve sohbet asistanları bu sınamanın farklı dönemlerinden çıkan ürünlerdir. Alanın içinde birbirine hiç benzemeyen yöntemler yan yana yaşar: mantık kurallarıyla akıl yürütme, olasılık hesabı, arama algoritmaları ve son kırk yılda öne çıkan, veriden öğrenen modeller.

Bu tanım alanı tarif eder, tek tek ürünleri değil. Bir öğrencinin ödevini yazdıran araç da, bir bankanın şüpheli kart harcamasını işaretleyen yazılımı da bu alandan çıkmıştır, ama ikisi birbirinden en az bir uçakla bir bisiklet kadar farklıdır. İkinci anlam tam da bu somut şeylere işaret eder.

Somut sistemi tarif etmeye çalışan en ayrıntılı metinlerden biri Avrupa Birliği'nin iki bin yirmi dört yılında kabul ettiği Yapay Zekâ Yasası'dır. Yasa, kapsamına neyin girdiğini bilmek zorunda olduğu için tanımı dikkatle kurar.

Bu ayrım Zeynep Hanım'ın çamaşır makinesi sorusuna bir tutamak verir. Makine çamaşırı tartıp mühendisin önceden yazdığı bir tabloya göre su ayarlıyorsa, bu yararlı bir otomasyondur ama yasanın diliyle çıkarım yapan bir sistem sayılmayabilir. Makine binlerce yıkamanın verisinden öğrenilmiş bir modelle kumaş türünü tahmin ediyorsa, o başka bir şeydir. Etiket ikisini de "yapay zekâlı" diye satabilir. Hangisi olduğunu anlamak için kutuya değil, sisteme ne girdiğine, ne çıktığına ve aradaki kuralı kimin koyduğuna bakmak gerekir.

Üçüncü anlam en gürültülüsüdür. Kelime bir dönemin parlak ürünleriyle anıldığında, başka ürünler de o parıltıdan pay almak için aynı kelimeyi kullanmaya başlar.

Üç anlam birbirinden kopuk değildir. Alandaki gerçek ilerleme somut sistemleri doğurur; somut sistemlerin başarısı kelimeye değer kazandırır; değer kazanan kelime de pazarlamanın eline geçer. Bu zincirin ters yönde de çalıştığını unutmamak gerekir: etiketin aşınması, gerçek bir sistemin de şüpheyle karşılanmasına yol açar.

Sahada

Nerede yanılır

Kelimenin kendisi düşünmeyi yanıltabilir ve yanılmanın ilk yolu şöhret taşımaktır. Bir dil modelinin sınav sorularını çözdüğünü duyan biri, "yapay zekâlı" etiketli bir çamaşır makinesinin, bir kredi puanlama yazılımının ya da bir işe alım aracının da benzer bir yetenekle çalıştığını varsayar. Oysa aynı kelimenin altında hiç ilgisi olmayan yöntemler durur; birindeki başarı ötekinin başarısı hakkında bir şey söylemez.

İkinci yanılma özne kaymasıdır. "Yapay zekâ karar verdi", "algoritma reddetti" gibi cümleler makineyi kararın sahibi gibi gösterir. Oysa her sistemin arkasında hangi verinin toplanacağını, hangi hatanın kabul edilebilir sayılacağını, eşiğin nereye konacağını ve çıktının kime nasıl gösterileceğini seçen insanlar vardır. Özne kaydığında bu seçimler görünmez olur ve sorulamaz.

Üçüncü yanılma kategorinin kendisini ölçü sanmaktır. Bir ürünün yapay zekâ içermesi onun iyi ya da kötü olduğunu göstermez. Elle yazılmış elli kural bazı işlerde öğrenen bir modelden daha güvenilir, daha ucuz ve daha kolay denetlenir olabilir; bazı işlerde ise hiçbir kural listesi bir öğrenen modelin yakaladığı örüntüyü yakalayamaz. Sorulması gereken "yapay zekâ mı?" sorusu değil, "bu iş için çalışıyor mu, nasıl ölçüldü, yanıldığında ne oluyor?" sorusudur.

Bu yanılmaları fark etmenin yolu, kelimeyi duyduğun anda onu üç somut soruya çevirmektir: sisteme ne giriyor, sistemden ne çıkıyor ve aradaki dönüşümü kim ya da ne belirliyor. Bu üç soruya cevap veremeyen bir tanıtım, ne sattığını henüz söylememiştir.

Uygulama

Bu akademi boyunca bir yapay zekâ defteri tutacaksın; ilk sayfasını bu derste açıyorsun. Bir hafta boyunca karşına çıkan "yapay zekâ" kelimesini avlayacak, her birini bu dersteki üç anlamdan birine yerleştirecek ve üç soruyu soracaksın.

Haftanın sonunda beş satıra birlikte bak. Kaç tanesinde dört soruyu da cevaplayabildin? Cevaplayamadığın sorular hep aynı yerde mi topluyor? Çoğu insan bu alıştırmada girdi ve çıktıyı tahmin edebildiğini, ama dönüşümü kimin belirlediğinin neredeyse hiçbir tanıtımda yazmadığını fark ediyor. Bu boşluk, akademinin ilerleyen modüllerinde dolduracağın yerdir.

Alıştırmayı yaparken kendi kişisel verini ya da başkasının özel yazışmasını deftere kopyalama; yalnızca kelimenin geçtiği bağlamı ve kendi gözlemini yaz.

Defter: İlk sayfanın başlığı "Kelime avı". Altında beş satırlık bir tablo: yer, anlam (alan, sistem, etiket, belirsiz), girdi, çıktı, dönüşümü belirleyen. Tablonun altına tek cümlelik bir not: bu hafta en çok hangi anlamla karşılaştın.

Hata köşesi

Sorumluluk

"Yapay zekâ söyledi" cümlesi bir kararı kimsenin vermediği izlenimi yaratır. Oysa Zeynep Hanım bir ödevi değerlendirirken, Dr. Seda Hanım bir ilacı sürdürürken, Elif bir ürünü satın alırken karar onlarındır ve sorumluluk da onlarda kalır. Bir aracı kullanmak bu sorumluluğu devretmez, yalnızca kararın dayandığı bilginin kaynağını değiştirir. O yüzden bir sistemin çıktısına dayanmadan önce onu doğrulamak, satın almadan önce ne yaptığını sormak ve başkasına "yapay zekâ böyle dedi" diye aktarmadan önce cümlenin hangi anlamda kurulduğunu söylemek, kelimeyi kullanan herkesin işidir.

Kapanış

1. "Yapay zekâ" bir bilim alanının, o alandan çıkan somut sistemlerin ve bazen yalnızca bir satış etiketinin adıdır; bir iddiayı tartmadan önce hangisi olduğunu sor.
2. Avrupa Birliği yasasının tanımında somut sistemi ayıran şey çıkarımdır: sistem ne yapacağını yalnız insanın yazdığı kurallardan değil, girdiden ve öğrendiği örüntülerden türetir.
3. Kelimeyi duyduğunda üç soruya çevir: ne giriyor, ne çıkıyor, aradaki dönüşümü kim ya da ne belirliyor.

Üç soru

1. Bir mağazadaki klimanın etiketinde "yapay zekâ ile oda sıcaklığını ayarlar" yazıyor. Bu iddianın hangi anlamda kurulduğunu anlamak için satıcıya hangi soruyu sorarsın?
2. Elif neden kural listesini "yapay zekâ" diye değil "kural tabanlı uyarı sistemi" diye satın alma yazısına geçirdi?
3. "Yapay zekâ başvurumu reddetti" cümlesinde hangi bilgi eksiktir?

Yanıtlar

1. Klimanın neye bakarak karar verdiğini ve bu kararın kuralını kimin koyduğunu sorarsın: sıcaklığı mühendisin yazdığı sabit bir tabloya göre mi ayarlıyor, yoksa evdeki kullanım verisinden öğrenen bir modelle mi tahmin ediyor? İlki yararlı bir otomasyondur, ikincisi Avrupa Birliği tanımının "çıkarım" dediği şeye daha yakındır; etiket ikisini ayırmaz.
2. Çünkü iki tür sistemin bakımı, denetimi ve hata biçimi farklıdır. Kural listesinde hangi kuralın hangi uyarıyı ürettiği okunabilir ve kural elle değiştirilir; öğrenen bir modelde ise davranış veriden gelir ve dünya değiştikçe sessizce bozulabilir. Doğru adlandırma, şirketin sistemi nasıl izleyeceğini ve kime soracağını belirler.
3. Kararı kimin hangi gerekçeyle verdiği eksiktir: sisteme hangi bilgilerin girdiği, hangi eşiğin kullanıldığı, bu eşiği kimin seçtiği ve itiraz edildiğinde kararı hangi insanın yeniden inceleyeceği. Cümle makineyi özne yaparak bu soruları görünmez kılar.

Sonraki derse köprü

Bu derste somut bir yapay zekâ sistemini ayıran şeyin çıkarım olduğunu, yani sistemin ne yapacağını yalnız insanın yazdığı kurallardan almadığını gördük. Elif'in incelediği elli iki kural tam bu sınırın öbür tarafındaydı. Ders 1.2, Kuraldan öğrenmeye, bu sınırı açıyor: aynı istenmeyen posta süzgecini önce elle kurallar yazarak, sonra örneklerden öğrenen bir yöntemle kurmaya çalışacağız ve elle yazılmış kuralın nerede tükendiğini, veriden öğrenilen örüntünün nereden geldiğini adım adım göreceğiz.