Teknoloji ve yapay zekâ

Açılış sahnesi

Şubat 2019, Kyoto. Dört yüz yıllık bir Zen tapınağının salonunda, bir kaidenin üzerinde iki metreye yakın boyda bir figür durur. Yüzü, elleri ve omuzları insan derisini andıran silikondan yapılmıştır; gövdesinin geri kalanı alüminyum iskeletiyle açıkta kalır. Figür gözlerini ve ellerini hareket ettirir, avuçlarını birleştirir ve konuşmaya başlar: Kalp Sūtrası üzerine bir vaaz verir. Tapınağın yöneticileri, geleneği uzaklaşan genç kuşaklara ulaştırmak istemiştir. Figürün adı Mindar'dır ve şefkatin bodhisattva'sı Kannon'un, yani Avalokiteśvara'nın, android bir biçimi olarak tanıtılır.

Kyoto'daki Kōdaiji tapınağı, 23 Şubat 2019'da Osaka Üniversitesi'nden robotik araştırmacısı Hiroshi Ishiguro'nun katkısıyla geliştirilen "Android Kannon Mindar"ı tanıttı. Yaklaşık 195 santimetre boyundaki android, düzenli olarak Kalp Sūtrası üzerine vaaz verir; gözlerini, ellerini ve gövdesini hareket ettirerek insana benzer jestler yapar. Tapınak yönetimi, girişimin amacını öğretiyi gençlere ulaştırmak olarak açıklamıştır.

Mindar önceden yazılmış bir metni okur; kendisi bir şey üretmez. Ama birkaç yıl içinde başka bir şey mümkün oldu: dil modelleri, bir geleneğin üslubunu taklit ederek yeni metinler üretebiliyor. Bir paylaşım görürsün: güzel bir pasaj, altında bir metnin adı, bölüm ve satır numarası. Kaynaklı, ciddi görünür ve paylaşırsın. Ama o pasaj hiçbir metinde yoktur. Ekoloji ve hayvan etiği dersinde eski ilkelerin yeni krizlere cevap olarak yeniden yorumlandığını görmüştün. Bu ders başka bir yeniliğe bakıyor: bir geleneğin öğretmeni, sesi ve kaynakları makineler tarafından taklit edilebildiğinde ne olur? Ve bir okur sahte bir kaynağı gerçeğinden nasıl ayırır?

Bu derste ne olacak

Önce sahte paraya karşı nasıl korunulduğu üzerinden, bir kopyanın gerçeğe ne kadar benzediğinin neden tek başına yeterli bir ölçüt olmadığını göreceksin. Sonra erken bir söylemin eylemi niyetle tanımlamasını ve bunun bir makinenin konuşması için ne anlama geldiğini okuyacaksın. Ardından bir manastırın sohbet robotunun hangi sesle konuştuğunu ve o sesin başına ne geldiğini inceleyeceksin. En sonda teknolojinin, sahte kaynaklara karşı aynı zamanda en güçlü savunmayı da nasıl sağlayabildiğini konuşacaksın.

Sıfır noktası

Sahte bir banknot düşün. Kâğıdı, rengi, baskısı neredeyse kusursuzdur. Çıplak gözle bakan biri onu gerçeğinden ayıramaz. Bu yüzden bankalar ve devletler sahteciliğe karşı yalnızca göze güvenmez: filigranlar, seri numaraları, özel mürekkepler ve en önemlisi, bir banknotun gerçekten basılıp basılmadığını gösteren bir kayıt sistemi kurarlar. Bir kopya gerçeğe ne kadar benzerse, ona karşı savunma o kadar az benzerliğe, o kadar çok doğrulamaya dayanır.

Benzetmenin kırıldığı yer şudur. Sahte para kullanan kişi yakalandığında bir bedel öder; sahte bir alıntıyı paylaşanın ise çoğu zaman hiçbir bedeli yoktur, ve paylaşım bir kez yayıldığında geri toplanamaz. Üstelik kalpazan bilerek aldatır. Bir dil modeli ise bir pasajı uydururken aldatmayı amaçlamaz; yalnızca olası görünen bir metin üretir. Bu yüzden sahte bir alıntının sorumluluğu, onu üreten makinede değil, onu doğrulamadan dolaşıma sokan insandadır. Bilgi nedir? dersinde Dhammapada'nın ilk dizesine mal edilen sahte bir alıntıyı görmüştün; bugün aynı hata saniyeler içinde ve kusursuz bir künyeyle üretilebilir.

Mekanizma

Eylemi niyet tanımlar

Söylemde öğretmen şöyle der: keşişler, size söylüyorum, niyet karmadır; niyet ederek kişi bedenle, sözle ve zihinle eylemde bulunur. Söylem ardından eylemin kaynağını, çeşitliliğini, sonuçlarını, sona erişini ve sona erişe götüren yolu sırayla açıklar.

Bu tanım, bugünkü teknoloji tartışmalarına beklenmedik bir açıdan ışık tutar. Öğretiye göre bir eylemi ahlaki olarak belirleyen, onun dışarıdan görünen biçimi değil, arkasındaki niyettir. Bir dil modeli bir vaaz ürettiğinde ya da bir alıntı uydurduğunda, bir niyetin olup olmadığı tartışmalı bir sorudur ve bu soru bu dersin çözebileceği bir soru değildir. Ama soru, sorumluluğun nereye düştüğünü gösterir. Makinenin ürettiği metni okuyan, beğenen ve paylaşan bir insanın niyeti vardır. Etik dersinde gördüğün doğru söz ölçütü, söylenenin doğru, yararlı ve zamanında olmasını ister; doğrulanmamış bir alıntıyı paylaşan biri, ilk ölçütü sınamadan atlamış olur.

Uydurmanın neden bu kadar inandırıcı olduğunu anlamak da önemlidir. Bir dil modeli, okuduğu çok büyük metin yığınlarından, bir cümlenin ardından en olası görünen devamı üretmeyi öğrenir. Pāli söylemlerinin tekrarlı kalıplarını, sūtraların açılış formüllerini, künyelerin biçimini de bu yolla öğrenir. Ürettiği şey bu yüzden bir geleneğin biçimine çok benzer; ama biçim, içeriğin gerçekten o kaynakta bulunduğunu göstermez. Model bir kaynağı aramaz, bir kaynağa benzeyen bir metin üretir.

Kaynaklardan okuma

Bir manastırın kendi yapay zekâsını kurduğu bir örnek, bir makinenin kimin sesiyle konuştuğunu gösterir.

Pekin'deki Longquan Manastırı, 2015'te keşişler, gönüllüler ve yapay zekâ uzmanlarından oluşan bir ekiple, manastırın çizgi film karakteri Xian'er'e dayanan küçük bir robot keşiş geliştirdi. Robot ilahiler okuyabiliyor, sutra metinleri seslendirebiliyor ve ziyaretçilerin duygusal ve manevi sorularına cevap verebiliyordu. Cevaplarının veri kaynağı, manastırın başrahibi Xuecheng'in sosyal medyada binlerce soruya verdiği yanıtlardı. Xuecheng, Ağustos 2018'de, kadın öğrencilerine yönelik cinsel taciz suçlamaları ve devletin din işleri biriminin soruşturma açıklamasının ardından Çin Budist Derneği başkanlığından istifa etti.

Xian'er'in hikâyesi, bir makinenin sesinin aslında kimin sesi olduğunu gösterir. Robot, kendi deneyiminden konuşmaz; bir öğretmenin sözlerini yeniden düzenler. Öğretmen–öğrenci etiği dersinde öğretmenin öğrencinin iç deneyimini yorumlama yetkisinin neden özel bir risk taşıdığını görmüştün. Bir sohbet robotu bu yetkiyi çoğaltır: bir öğretmenin sesi, öğretmenin kendisi olmadan binlerce kişiye ulaşır. Öğretmen hakkındaki ciddi suçlamalar ortaya çıktığında ise robotun sesi, kaynağından ayrılmış olarak dolaşmayı sürdürebilir. Bir makinenin ne söylediği kadar, kimin sözlerinden öğrendiği de önemlidir.

Usta katmanı

Teknoloji yalnızca taklit üretmez; aynı zamanda taklide karşı en güçlü aracı da sağlayabilir.

CBETA, Çince Budist kanonunun elektronik bir sürümünü oluşturmak, korumak ve ücretsiz olarak dağıtmak amacıyla 1998'de kuruldu. Elektronik kanon büyük ölçüde Taishō kanonuna dayanır ve bugün araştırmacıların ve okurların, bir metni ya da bir pasajı birkaç saniyede arayıp bulmasına imkân verir.

Budist Çince dersinde Taishō kanonunu ve onun numaralandırma sistemini görmüştün; Biyografi için çekirdek metin dosyaları dersinde de Pāli metinleri ve paralelleri için bir çevrimiçi kaynak kullanmıştın. CBETA, SuttaCentral ve Tibet kanonunu çeviren girişimler gibi dijital külliyatlar, sahte alıntılara karşı bir dengedir. Altında "Taishō, cilt şu, sayfa şu" yazan bir pasaj gördüğünde, o cilde ve o sayfaya bakabilirsin. Bir dil modelinin uydurduğu bir künye, doğrulanabilir bir külliyat karşısında birkaç saniyede çöker.

Bu dersin, ve bu seviyenin, son dersi buradan çıkar. Teknoloji bir geleneğe hem bir tehdit hem bir araç olarak gelir. Bir android Kalp Sūtrası'nı vaaz edebilir, bir robot bir öğretmenin sesini çoğaltabilir, bir dil modeli hiç var olmamış bir pasajı kusursuz bir künyeyle üretebilir. Aynı teknoloji, bütün bir kanonu herkesin cebine koyabilir. Fark, aracın kendisinde değil, onu kullananın alışkanlığındadır: bir alıntıyı paylaşmadan önce kaynağına bakmak, bir sesi dinlerken kimin sesi olduğunu sormak.

Yaygın hatalar

Uygulama

Kilit özet

1. Kyoto'daki Kōdaiji tapınağı Şubat 2019'da Kalp Sūtrası üzerine vaaz veren android Kannon Mindar'ı tanıttı; android önceden yazılmış bir metni okur, kendisi metin üretmez.
2. Dil modelleri bir geleneğin üslubunu taklit ederek gerçek görünen künyelerle hiç var olmamış pasajlar üretebilir; taklit kolaylaştıkça inandırıcılık bir ölçüt olmaktan çıkar ve doğrulama tek güvenilir yol olur.
3. AN 6.63'e göre niyet karmadır; bir makinenin niyeti tartışmalıdır, ama doğrulanmamış bir alıntıyı paylaşan insanın niyeti ve sorumluluğu vardır.
4. Longquan Manastırı'nın 2015'te geliştirdiği robot Xian'er, başrahip Xuecheng'in sosyal medya yanıtlarından öğrendi; Xuecheng 2018'de cinsel taciz suçlamaları ve soruşturmanın ardından istifa etti.
5. 1998'de kurulan CBETA gibi dijital külliyatlar, sahte alıntılara karşı birkaç saniyede doğrulama imkânı sunar; teknoloji hem bir tehdit hem bir araçtır.

Bir alıntıyı paylaşmadan önce kaynağına bak; bir sesi dinlerken kimin sesi olduğunu sor.

Sonraki derse köprü

Bu derste bir alıntıyı doğrulamanın, bir künyeyi bir külliyatta aramanın, sahte bir pasajı gerçeğinden ayırmanın yollarını gördün. Bu, bir araştırmacının yaptığı en küçük iştir. Sonraki ders yeni bir seviyeyi açıyor ve daha büyük bir işe geçiyor: bir ilgiyi bir araştırma sorusuna dönüştürmek. "Budist metinlerde kadınların yeri" bir konudur; bir ömür okusan bitmez. Ama aynı ilgi, sınırı, külliyatı ve sayılabilir bir cevabı olan bir soruya dönüştürülebilir. Sonraki ders şu soruyu soracak: iyi bir araştırma sorusu nasıl kurulur ve bir konuyu bir soruya dönüştüren nedir?