Turing’in sorusu

Açılış

Kasımın ilk haftasında, onuncu sınıfın biyoloji dersinin son dakikalarında Berk parmak kaldırdı: "Hocam, asistan gerçekten düşünüyor mu?" Sınıfta birkaç kişi güldü, birkaç kişi de cevabı merakla bekledi. Zeynep Hanım o gün cevap vermedi. "Perşembe bunu deneyelim" dedi.

Perşembe sınıfı üçe ayırdı. Kapının yanındaki sıralarda oturan beş öğrenci sorgulayıcı oldu. Koridorda, yan yana iki masada iki tanık oturuyordu: biri Elçin'di ve soruları kendi bildiği gibi cevaplayacaktı; ötekinin önünde Zeynep Hanım'ın telefonu açıktı, gelen soruyu bir sohbet asistanına yazıp ekranda çıkan cevabı aynen geçirecekti. El yazısı ele vermesin diye cevapları üçüncü bir öğrenci, Mert, temize çekip sınıfa taşıdı. Sorgulayıcılar tanıkları yalnız "Birinci" ve "İkinci" diye biliyordu; her tur beş dakika sürdü, sonunda hangisinin insan olduğunu yazdılar.

Altı turun dördünde sınıf doğru tahmin etti. Bir turda asistanın cevabı bir paragraf uzunluğundaydı ve "hücre zarının akışkan mozaik modeli" diye başlıyordu; sorgulayıcılar güldü. Başka bir turda Elçin "mitokondri" kelimesini yanlış yazdı ve bu, onun insan olduğunu ele verdi. Ama iki turda sınıf yanıldı. Birinde "Teneffüste ne yaptın?" sorusuna asistan kısa, samimi ve tamamen uydurma bir cevap vermişti. Ötekinde Elçin sıkılmış, üç kelimeyle cevap vermişti.

Zil çalarken Berk yine sordu: "İki kere bilemedik hocam. Yani düşünüyor mu?" Zeynep Hanım o akşam defterine tek bir soru yazdı: Bugün sınıfta ölçtüğümüz şey tam olarak neydi?

Tek fikir

Turing, "makineler düşünebilir mi?" sorusunu yazılı bir sohbette sorgulayıcının makineyi insandan ayırıp ayıramadığı sorusuyla değiştirdi. Bu oyun ayırt edilemezliği ölçer; düşünmenin ne olduğuna, cevabın doğruluğuna ve bilince dair bir hüküm vermez.

Nasıl çalışır

Berk'in sorusu yetmiş beş yıldan eski. İngiliz matematikçi Alan Turing, bin dokuz yüz elli yılında bir felsefe dergisinde yayımlanan makalesine tam bu cümleyle başladı: "Makineler düşünebilir mi?" Ama hemen ardından soruyu cevaplamayacağını söyledi.

Turing'in gerekçesi şuydu: "makine" ve "düşünmek" kelimelerinin anlamını insanların bu kelimeleri nasıl kullandığına bakarak bulmaya kalkarsak, sorunun cevabını bir kamuoyu yoklamasında aramak zorunda kalırız; bunu saçma bulur. Bunun yerine soruyu, onunla yakından ilişkili ama daha az belirsiz kelimelerle kurulmuş başka bir soruyla değiştirir. Yeni soru bir oyundur.

Oyunun ilk biçiminde makine yoktur. Bir erkek, bir kadın ve sorgulayıcı oynar. Sorgulayıcı ayrı bir odadadır ve hangisinin kadın olduğunu bulmaya çalışır. Erkeğin işi sorgulayıcıyı yanlış teşhise götürmektir; kadının işi ona yardım etmektir ve Turing onun için en iyi yolun büyük olasılıkla doğruyu söylemek olduğunu yazar. Ses tonu ipucu vermesin diye cevaplar yazılı, mümkünse daktiloyla verilir; Turing ideal düzeneğin iki odayı birbirine bağlayan bir teleks olduğunu, olmazsa soruların ve cevapların bir aracı tarafından aktarılabileceğini söyler. Zeynep Hanım'ın sınıfında Mert'in yaptığı iş tam olarak budur.

Sonra Turing asıl hamleyi yapar: oyunda erkeğin yerini bir makine alırsa ne olur? Sorgulayıcı, oyun erkek ile kadın arasında oynandığındaki kadar sık yanılır mı? Turing'e göre bu sorular, "makineler düşünebilir mi?" sorusunun yerini alır. Dikkat edilecek nokta ölçütün karşılaştırmalı olmasıdır: makineden kusursuz olması beklenmez, sorgulayıcıyı bir insanın yanıltabildiği kadar sık yanıltması beklenir.

Düzenek bedeni bilerek dışarıda bırakır. Turing makineyi güzellik yarışmasında parlayamadığı için cezalandırmak istemez, tıpkı bir insanı uçakla koşu yarışını kaybettiği için cezalandırmayacağımız gibi. Tanıklar istedikleri kadar övünebilir; sorgulayıcı kanıt olarak bir gösteri isteyemez.

Makalede örnek bir sorgu da vardır. Sorgulayıcı bir köprü hakkında sone ister; tanık "Bu sefer beni sayma, hiç şiir yazamadım" der. Sonra iki sayının toplamını ister: otuz dört bin dokuz yüz elli yedi ile yetmiş bin yedi yüz altmış dört. Tanık yaklaşık otuz saniye bekleyip yüz beş bin altı yüz yirmi bir cevabını verir. Toplamı kâğıtta yaparsan yüz beş bin yedi yüz yirmi bir bulursun; basılı cevap yüz eksiktir. Makale bunun kasıtlı olup olmadığını söylemez, ama Turing ilerideki sayfalarda oyunu oynamak üzere programlanmış bir makinenin aritmetikte bilerek hata yapacağını, sorgulayıcıyı şaşırtacak biçimde yanlış cevaplar vereceğini yazar. Oyunda doğru cevap ile insan gibi cevap aynı şey olmayabilir.

Ad Turing'in kendisinden gelmez. Makalede "Turing testi" ifadesi geçmez; Turing kendi önerisinden "taklit oyunu", birkaç yerde de "testimiz" ve "ölçütümüz" diye söz eder. Bir haberde "şu sistem Turing testini geçti" diye okuduğunda, hangi kurallarla oynanmış bir oyundan söz edildiğini sormak gerekir, çünkü makale tek bir standart düzenek tarif etmez. Sorgulayıcıların kim olacağını, ne bildiklerini, kaç tur oynanacağını ve neyin "geçmek" sayılacağını kesin kurallara bağlamaz.

Turing bir kural koymaz ama bir tahmin yazar.

Sayıları elle açalım. Sorgulayıcının doğru bulma şansı en fazla yüzde yetmişse, makine en az yüzde otuz oranında insan sanılıyor demektir. Turing'in "depolama kapasitesi" dediği şey ikili basamak, yani bit cinsinden ölçülür; on üzeri dokuz bit sekize bölündüğünde yüz yirmi beş milyon bayt eder. Elli yıl ise iki binli yıllara denk düşer.

Makalenin en uzun bölümü itirazlara ayrılmıştır. Turing kendi görüşüne karşı dokuz itiraz sıralar; aralarında dinî itiraz, "sonuçları çok korkunç olurdu, umalım ki düşünemesinler" diye özetlediği kafayı kuma gömme itirazı ve "makine asla şunu yapamaz" diye başlayan bir liste vardır. Bilinç itirazı bir makinenin sone yazmasının yetmeyeceğini, yazdığını bilmesi ve bir şey hissetmesi gerektiğini söyler. Bu soruya akademi Modül 34'te dönecek; burada yalnız Turing'in cevabının yönünü not edelim: bu itiraz sonuna kadar götürülürse, başka bir insanın düşündüğünden de emin olamayız; Turing'e göre insanlar arasında herkesin düşündüğünü kabul eden bir nezaket uzlaşması vardır.

Bugünkü tartışmalara en çok değen itirazı Turing, Babbage'ın hiç tamamlanamamış Analitik Makinesi'ni anlatan Lady Lovelace'tan alır. Lovelace bin sekiz yüz kırk iki tarihli yazısında makinenin bir şey yaratma iddiası olmadığını, ancak ona nasıl yaptıracağımızı bildiğimiz şeyi yapabileceğini yazmıştır. Turing önce makinelerin onu sık sık şaşırttığını söyler, sonra makalenin son bölümünde daha uzun vadeli bir cevap verir: yetişkin zihnini taklit eden bir program yazmaya çalışmak yerine neden bir çocuğun zihnini taklit eden bir program yazıp onu eğitmeyelim? Turing böyle öğrenen bir makinenin öğretmeninin, içeride tam olarak ne olup bittiğinden çoğu zaman habersiz kalacağını da yazar. Ders 1.2'de kuraldan öğrenmeye geçişi anlatmıştık; Turing bu geçişin fikrini bin dokuz yüz elli yılında, henüz onu yapacak makineler yokken öneriyordu.

Turing'in öngörüsü ölçülebilir bir cümle olduğu için, sonunda biri ölçtü.

Kartın son cümlesi bu dersin sorusuna doğrudan cevap verir. Turing'in öngördüğü eşik, yani yüzde otuz, bu deneyde aşıldı; ama aşan şey belirli bir rolü oynaması istenen bir modeldi, sorgulayıcıların çoğu ise bilgi değil üslup ve kişilik yokluyordu. Oyun, sorgulayıcının o gün o sorularla neyi ayırt edebildiğini ölçer. Makinenin doğru söyleyip söylemediğini, bir şey anlayıp anlamadığını ya da bir işi güvenle yapıp yapamayacağını ölçmez. Ders 1.3'te genel yapay zekâ tanımlarını sayarken taklit oyununu geçmenin bunlardan yalnız biri olduğunu görmüştük; şimdi nedenini biliyoruz.

Sahada

Nerede yanılır

Oyunun sonucu, makine kadar sorgulayıcıya da bağlıdır. Zeynep Hanım'ın sınıfında beş sorgulayıcı biyoloji bilen on beş yaşında öğrencilerdi ve asistanı en çok, cevabı fazla ders kitabı gibi olduğunda yakaladılar. Aynı asistanı başka bir grup, başka sorularla, başka bir sürede sorgulasa sonuç değişebilirdi. Turing makalesinde "ortalama bir sorgulayıcı" ve "beş dakika" der; ortalamanın kim olduğunu tanımlamaz. Kanıt kartındaki deneyde de sorgulayıcıların çoğu gündelik sohbet etti; garip bir şey söyleyip tepkiyi ölçenler ise ön baskıya göre daha isabetliydi. Bu yüzden "geçti" ya da "geçemedi" diye özetlenen her sonuç, kimin, nasıl ve ne kadar sorguladığı bilinmeden yarım okunmuş olur.

Oyun karşılaştırmalı olduğu için insan tanık da sonucu belirler. Elçin sıkılıp kısa cevap verdiği turda makine "kazandı"; makine daha iyi olduğu için değil, insan o tur insan gibi görünmeye çalışmadığı için. Ölçülen şey makinenin tek başına bir özelliği sayılamaz, iki tanık arasındaki farktır.

Bir başka yanılma yeri Turing'in kendi örneğinde saklıdır: oyunda başarılı olmak için yanlış cevap vermek gerekebilir. Fazla hızlı ve kusursuz hesap yapan bir tanık ele verir; asistan teneffüste ne yaptığını uydurduğunda daha inandırıcı oldu. Bu da ayırt edilemezliği bir güvenilirlik işareti gibi okumayı tehlikeli kılar. Bir sistem sorgulayıcıyı inandırmak üzere ayarlandıysa, oyundaki başarısı tam da doğruluktan vazgeçebildiğini gösteriyor olabilir.

"İnsandan ayırt edilemiyor" cümlesini gördüğünde ardından gelmesi gereken sayıyı ara: cevaplar ne kadar doğruydu, ne kadar eksiksizdi? O sayı yoksa cümle yalnız bir sorgulayıcı grubunun bir gündeki tahmin başarısını anlatır.

Uygulama

Bu derste küçük bir taklit oyunu kuracak ve sorduğun her sorunun aslında neyi ölçtüğünü yazacaksın. Zeynep Hanım'ın sınıfındaki düzeneği tek başına ya da bir iki kişiyle de kurabilirsin.

Bittiğinde beş sorunun her birinin karşısına bir sütun daha ekle: bu soru, cevabın doğru olup olmadığını da ölçtü mü? Büyük olasılıkla birçok satıra "hayır" yazacaksın. O satırlar, bir sistemin insan gibi görünüp yine de yanılabileceği yerlerdir.

Defter: Sayfaya "Taklit oyunu" yaz ve beş satırlık bir tablo kur: soru, yokladığı şey, kim ayırt etti, ayırt eden ipucu neydi, cevabın doğruluğunu ölçtü mü. Altına tek cümle: oyunun bana söylediği şey neydi, söylemediği şey neydi.

Hata köşesi

Sorumluluk

"Ayırt edilemiyor" bir sistemi satın alma, kurma ya da kullanma kararına tek başına dayanak olamaz; o kararı veren kişi neyin ölçüldüğünü bilmekle sorumludur. Elif'in sorduğu doğruluk sayısını, Seda Hanım'ın sorduğu eksiksizlik sayısını getirmek sistemi sunanın işidir; bunlar gelmeden kararı vermemek ise alanın işidir. Taklit oyununda başarılı bir sistemin zararı, karşısındakinin makineyle konuştuğunu bilmediği yerde en çok dokunur: bir yaşlı vatandaşa, bir hastaya, bir öğrenciye. Onur'un yaptığı gibi sistemin kendini tanıtmasını sağlamak, kuran kişinin elindedir. Zeynep Hanım'ın sınıfında olduğu gibi, oyunun sonucunu doğrulamadan bir sistemin düşündüğü ya da bildiği sonucuna varmamak da kullanan herkesin sorumluluğudur.

Kapanış

1. Turing bin dokuz yüz elli yılında "makineler düşünebilir mi?" sorusunun yerine bir taklit oyunu koydu: sorgulayıcı yazılı sorular ve cevaplarla, makineyi insandan bir insanı ayırt edebildiği kadar sık ayırt edebiliyor mu?
2. "Turing testi" adı sonradan konuldu; makale tek bir standart düzenek tarif etmez, beş dakika ve yüzde yetmiş ise Turing'in elli yıllık bir öngörüsünün parçasıdır.
3. Oyun ayırt edilemezliği ölçer ve sonucu sorgulayıcıya, insan tanığa ve sürenin uzunluğuna bağlıdır; cevabın doğruluğunu, sistemin bir şeyi anlayıp anlamadığını ya da bilinci ölçmez.

Üç soru

1. Turing taklit oyununun ilk biçiminde neden ses yerine yazılı cevaplar ve bir aracı ister, ve bu karar makineli oyunda neyi dışarıda bırakır?
2. Bir haberde "bu sohbet asistanı Turing testini geçti" yazıyor. Bu cümleyi tartmak için hangi üç bilgiyi ararsın?
3. Turing'in örnek sorgusundaki toplama sorusu ve makalenin ilerisinde söylediği şey, ayırt edilemezlik ile doğruluk arasındaki fark hakkında ne gösterir?

Yanıtlar

1. Ses tonu sorgulayıcıya kimin konuştuğunu ele verebilir; Turing bu yüzden cevapların yazılı, mümkünse daktiloyla ya da teleksle verilmesini, olmazsa bir aracı tarafından aktarılmasını ister. Makineli oyunda bu düzenek bedeni, sesi ve görünüşü dışarıda bırakır: Turing makineyi güzellik yarışmasında ya da koşuda insanla yarıştırmak istemez, yalnız dil üzerinden yapılabilecek işleri sınamak ister.
2. Sorgulayıcıların kim olduğunu ve konuyu ne kadar bildiğini, sohbetin ne kadar sürdüğünü ve "geçmek" için hangi oranın ölçüt alındığını ararsın. Sistemin bir rol oynamaya yönlendirilip yönlendirilmediği ve ölçümün yılı da önemlidir; aynı model yönlendirme olmadan çok daha düşük oranda insan sanılabilir.
3. Basılı cevap gerçek toplamdan yüz eksiktir ve Turing ilerde, oyunu oynayan bir makinenin sorgulayıcıyı şaşırtmak için aritmetikte bilerek hata yapacağını yazar. Demek ki oyunda başarılı olmak için doğru cevap vermek gerekmez, bazen yanlış cevap vermek daha iyidir. Bir sistemin insan sanılması, cevaplarının doğru olduğunu göstermez; doğruluk ayrıca ölçülmelidir.

Sonraki derse köprü

Turing sorusunu sorduğunda, oyunu oynayabilecek bir programın nasıl yazılacağını bilmiyordu; makalenin sonunda satranç gibi soyut bir işle mi, yoksa duyu organları verilip bir çocuk gibi eğitilen bir makineyle mi başlanacağını bilmediğini, ikisinin de denenmesi gerektiğini yazar. Ders 2.2, Dartmouth ve sembolik yapay zekâ, bu soruya verilen erken cevaplardan birine geçiyor: Ders 1.1'de andığımız öneriyle bin dokuz yüz elli altı yazında bir araya gelen araştırmacılar, zekâyı mantık kuralları ve olasılıklar arasında arama yoluyla kurmayı denediler.