Gündelik ve yapay zekâ uygulamaları

Açılış sahnesi

Tolga, katalogu bir bilgisayar programına aktarmaya başlıyor. İki yüz nüshanın her biri için bir kayıt açıyor: hangi rafta durduğu, kâğıdı, mürekkebi, kenar notu taşıyıp taşımadığı. Sonra programa ilk eylemi öğretiyor: bir nüshayı bir raftan ötekine taşımak. Program, taşınan nüshanın yeni rafını doğru kaydediyor. Ama Tolga, programa nüshanın kâğıdının da değişmediğini, mürekkebinin de, yaşının da, kenar notlarının da değişmediğini ayrıca söylemesi gerektiğini fark ediyor. Program bunları kendiliğinden bilmiyordu.

Kerem, bir insanın bunu hiç düşünmeden bildiğini söylüyor: bir kitabı başka bir rafa koymak onun sayfalarını değiştirmez. Selin, programın bir nüsha hakkında kayıt bulamadığında ne yapacağını soruyor: kenar notu kaydı olmayan bir nüshada kenar notu yok mu sayılacaktı? Lina, gündelik konuşmada "bazı notlar sahte" diyen birinin, hepsinin sahte olmadığını da ima ettiğini, bunun da bir varsayılan çıkarım olduğunu hatırlatıyor. Barış, bir yasanın bir bilgisayar programına dönüştürülmesinin mümkün olup olmadığını merak ediyor. Defne ise bir hastanın kaydında alerji bilgisi bulunmamasının, alerjisi olmadığı anlamına gelip gelmediğini düşünüyor. Bu ders, Mantık ve Akıl Yürütme programının Klasik Olmayan Mantıklar kursunda, monoton olmayan akıl yürütmenin bir eylemin neyi değiştirmediğini söyleme sorununda, bilgi tabanlarında ve karar destek sistemlerinde nasıl kullanıldığını ve gündelik akıl yürütmenin varsayılan kurallarının bir makineye aktarılırken hangi güçlüklerle karşılaştığını soruyor.

Bu derste ne olacak

Önce bu dersin yerini belirleyelim. Monoton olmayan akıl yürütme dersi, Reiter'in varsayılan kurallarını ve Kraus, Lehmann ile Magidor'un tercihli modellerini tanıttı ve geri çekilebilir sonuçların biçimsel bir çıkarım ilişkisiyle temsil edilebildiğini gösterdi. Parakonsistent mantık modülünün Uygulamalar dersi ise çelişkili bilgiyle çalışan sistemler için azami tutarlı alt küme yöntemini incelemişti. Programın önceki derslerinde Grice'ın konuşma kuralları da tanıtılmıştı. Bu ders, Klasik Olmayan Mantıklar kursunu kapatıyor: varsayılan akıl yürütmenin yapay zekâ araştırmasında doğduğu sorunları ve gündelik akıl yürütmedeki karşılıklarını inceliyor.

Sonra üç kaynağa bakacağız. John McCarthy ile Patrick Hayes, 1969'da yayımladıkları Yapay Zekâ Açısından Bazı Felsefi Sorunlar makalesinde, bir eylemin neyi değiştirmediğini temsil etme güçlüğünü adlandırır. Raymond Reiter, 1978'de yayımladığı Kapalı Dünya Veri Tabanları Üzerine makalesinde, bir veri tabanında bulunmayan bilginin yanlış sayılması ilkesini inceler. Steve Hanks ile Drew McDermott ise 1987'de yayımladıkları Monoton Olmayan Mantık ve Zamansal Kestirim makalesinde, varsayılan akıl yürütmenin zaman içindeki değişimi temsil ederken beklenmedik biçimde başarısız olduğu bir örnek kurar.

Ardından üç itirazı tartacağız: bugünün yapay zekâ sistemlerinin mantık kullanmadığı için bu sorunların eskidiği, çerçeve sorununun mantıkla çözülemeyecek kadar geniş olduğu ve kapalı dünya varsayımının sistemleri tehlikeli biçimde kendinden emin kıldığı itirazları.

Sonda, bir varsayılan kuralı bir makineye aktarmanın dört adımını göstereceğiz: kuralın hangi bilgi eksikliğini doldurduğunu yazmak, bir eylemin neyi değiştirip neyi değiştirmediğini belirlemek, bilinmeyenin yanlış mı yoksa bilinmiyor mu sayılacağına karar vermek ve kuralın başarısız olacağı durumları önceden sınamak.

Merkez soru

Sorumuz şu: gündelik akıl yürütmenin varsayılan kuralları bir makineye aktarılabilir mi ve bu aktarım hangi güçlükleri ortaya çıkarır?

Ölçülü iddiam şu: monoton olmayan mantıklar, büyük ölçüde yapay zekâ araştırmasının karşılaştığı somut sorunlardan doğdu. McCarthy ile Hayes'in adlandırdığı çerçeve sorunu, bir eylemin değiştirmediği sayısız şeyi tek tek yazmanın imkânsızlığıydı. Çözümün ana fikri, bir özelliğin, aksi bilinmedikçe, bir eylemden sonra da sürdüğünü söyleyen bir varsayılan kuraldı. Reiter'in kapalı dünya varsayımı, bir veri tabanında bulunmayan her yalın bilginin yanlış sayılmasını önerdi. Bu varsayım monoton değildir, çünkü yeni bir kayıt eklendiğinde önceki bir olumsuz sonuç düşer. Hanks ile McDermott, bu tür varsayılan kuralların, zaman içinde birden çok değişimi temsil ederken, istenmeyen sonuç kümelerini de ürettiğini gösterdi. Bu yüzden varsayılan akıl yürütmenin makineye aktarılması, yalnızca bir mantık seçimi değil, hangi değişimlerin olağan sayılacağına dair bir tasarım kararıdır. Gündelik akıl yürütme bu kararları çoğu zaman fark etmeden verir. Bir makine ise onları açıkça yazmak zorundadır. Aktarımın asıl değeri, gündelik akıl yürütmenin örtük varsayımlarını görünür kılmasıdır. Asıl tehlikesi ise, bir bilginin yokluğunu olumsuzluğun kanıtı saymanın, yüksek riskli alanlarda ağır hatalara yol açabilmesidir.

Sıfır noktası

Bir öğrenci yapay zekâyı düşündüğünde, çoğu zaman karmaşık hesaplar yapan bir makineyi düşünür. Oysa yapay zekâ araştırmasının ilk güçlüklerinden bazıları, en basit gündelik bilgilerle ilgiliydi. Bir fincanı masadan kaldırmak, masanın rengini değiştirmez. Bir kapıyı açmak, odadaki sandalyelerin sayısını değiştirmez. İnsanlar bu bilgileri hiç düşünmeden kullanır. Ama bir makineye bunları söylemek, beklenmedik biçimde zordu.

Güçlük, bilginin miktarından değil, yapısından geliyordu. Bir eylemin değiştirdiği şeyler azdı ve söylenebilirdi. Değiştirmediği şeyler ise neredeyse sınırsızdı. Klasik mantıkla, her eylem ve her özellik için ayrı bir "bu eylem bu özelliği değiştirmez" cümlesi yazmak gerekiyordu. Eylemler ve özellikler arttıkça, bu cümlelerin sayısı çarpılarak büyüyordu.

Monoton olmayan mantıklar bu güçlüğe doğrudan bir cevap olarak geliştirildi. Reiter'in varsayılan kurallarının yayımlandığı dergi sayısı, bir yapay zekâ dergisinin özel sayısıydı. Varsayılan akıl yürütme, bir makinenin, her şeyi bilmeden de, gündelik dünyada makul sonuçlara varabilmesinin bir yoluydu.

Görüşler ve pozisyonlar

Gündelik varsayılan akıl yürütmenin bir makineye nasıl aktarılacağı konusunda üç görüş var.

Birinci görüş, açık kural görüşüdür. Buna göre varsayılan kurallar, Reiter'in anlamında açıkça yazılmalı ve makine onları bir mantık motoru aracılığıyla uygulamalıdır. Bu yaklaşım, makinenin her sonucunun hangi kurala dayandığının izlenebilmesini sağlar.

İkinci görüş, istatistik görüşüdür. Buna göre makine, varsayılan kuralları açıkça öğrenmek yerine, çok sayıda örnekten olağan olanı kendi çıkarır. Bir kuşun uçtuğunu, uçan kuşların çokluğundan öğrenir.

Üçüncü görüş, karma görüştür. Buna göre makine, olağan olanı örneklerden öğrenebilir, ama yüksek riskli alanlarda, örneğin hukukta ve tıpta, sonuçlarının dayandığı kuralları açıkça gösterebilmelidir.

Bu ders üçüncü görüşü temel alır ve birinci görüşün, açık kuralların denetlenebilirlik sağladığı gözlemini kabul eder. Birinci görüş, bir sonucun hangi kurala dayandığını bilmenin, onu düzeltmenin önkoşulu olduğunu doğru görür. İkinci görüş, gündelik dünyanın olağan olanlarının açık kurallarla bütünüyle yazılamayacak kadar çok olduğunu doğru görür. Üçüncü görüş, iki gözlemi birlikte tutar ve hangi alanda hangisinin ağır basması gerektiğini sorar.

Argümanın yapısı

Bir varsayılan kuralı bir makineye aktarmak için dört adım izlenebilir.

Birinci adım, kuralın hangi bilgi eksikliğini doldurduğunu yazmaktır. Aktaran, kuralın hangi bilgi bulunmadığında devreye girdiğini ve bu eksikliğin neden olağan olduğunu belirtir.

İkinci adım, bir eylemin neyi değiştirip neyi değiştirmediğini belirlemektir. Aktaran, her eylemin değiştirdiği özellikleri açıkça yazar ve geri kalan her şeyin aksi bilinmedikçe sürdüğünü söyleyen tek bir kural koyar.

Üçüncü adım, bilinmeyenin yanlış mı yoksa bilinmiyor mu sayılacağına karar vermektir. Aktaran, bilgi tabanında bulunmayan bir bilginin yanlış sayılmasının hangi durumlarda güvenli olduğunu, yani bilgi tabanının o konuda tam olup olmadığını belirler.

Dördüncü adım, kuralın başarısız olacağı durumları önceden sınamaktır. Aktaran, birden çok değişimin art arda geldiği ya da kuralların çatıştığı durumlarda makinenin hangi sonuçlara varacağını sınar ve istenmeyen sonuçları arar.

En güçlü itiraz

Bu yaklaşıma üç yönden ciddi itiraz yapılabilir.

Gündelik ve yapay zekâ uygulamalarını ciddiye alan düşünce şu cevabı verebilir. Monoton olmayan mantıklar, büyük ölçüde yapay zekânın somut sorunlarından doğdu. McCarthy ile Hayes'in adlandırdığı çerçeve sorunu, Kerem'in raf sayımında görüldüğü gibi, bir eylemin değiştirmediği şeyleri tek tek yazmanın imkânsızlığıydı ve ana çözüm fikri, özelliklerin aksi bilinmedikçe sürdüğünü söyleyen bir varsayılan kuraldı. Reiter'in kapalı dünya varsayımı, bir bilgi tabanında bulunmayan bilginin yanlış sayılmasını önerdi. Tolga'nın eksik kaydında ve Defne'nin alerji kaydında görüldüğü gibi, bu varsayım ancak bilgi tabanının konusu hakkında tam olduğu durumlarda güvenlidir. Hanks ile McDermott, "aksi bilinmedikçe değişim olmaz" kuralının, art arda gelen olaylarda istenen sonucu tek başına seçemediğini gösterdi. Selin'in mürekkep örneğinde görüldüğü gibi, insanlar bu seçimi değişimlerin sayısına değil, nedenlerine bakarak yapar. Lina'nın sezdirimi, gündelik konuşmanın da aynı yapıyı taşıdığını, Barış'ın yasa programı ise kapalı dünya varsayımının kanıt yükünü görünmez biçimde dağıtabildiğini gösterdi. Bu yüzden varsayılan akıl yürütmeyi makineye aktarmak, bir mantık seçimi olduğu kadar, hangi değişimlerin olağan sayılacağına ve bilinmeyenin nasıl ele alınacağına dair açıkça yazılması gereken tasarım kararlarıdır.

Açık kalan sorular

Selin'in mürekkep örneği, insanların beklenmeyen değişimleri nedenlerine bakarak değerlendirdiğini gösterdi. Bir makineye nedensellik bilgisi verilirse, Hanks ile McDermott'un güçlüğü ortadan kalkar mı? Yoksa nedensellik bilgisinin kendisi de bir çerçeve sorunuyla mı karşılaşır?

Barış'ın yasa programı, kapalı dünya varsayımının kanıt yükünü görünmez biçimde dağıttığını gösterdi. Bir programın bilgi tabanını dolduran kişi, bir mahkemeye kanıt getiren tarafla aynı sorumluluğu mu taşır? Bu sorumluluk kimde olmalıdır?

Lina'nın sezdirimi, gündelik konuşmanın monoton olmayan akıl yürütmenin en yaygın alanı olduğunu düşündürdü. Bir makine, sezdirimleri doğru okuyabilirse, bu onun konuşmayı anladığını mı gösterir? Yoksa yalnızca olağan olanı taklit ettiğini mi?

Yaygın hatalar

Kendin dene

Aklında kalsın

Beş cümlede dersin iskeleti.

Monoton olmayan mantıklar büyük ölçüde yapay zekânın somut sorunlarından doğdu: bir eylemin değiştirmediği şeyleri tek tek yazmanın imkânsızlığı, bir bilgi tabanında bulunmayan bilginin nasıl ele alınacağı ve zaman içindeki değişimin temsili.

McCarthy ile Hayes'in makalesi çerçeve sorununu adlandırdı, Reiter'in Kapalı Dünya Veri Tabanları makalesi bulunmayan bilginin yanlış sayılması ilkesini inceledi, Hanks ile McDermott'un makalesi ise "aksi bilinmedikçe değişim olmaz" kuralının art arda gelen olaylarda istenen sonucu tek başına seçemediğini gösterdi.

Bir varsayılan kural bir makineye dört adımla aktarılır: kuralın hangi bilgi eksikliğini doldurduğunu yazmak, bir eylemin neyi değiştirip neyi değiştirmediğini belirlemek, bilinmeyenin yanlış mı bilinmiyor mu sayılacağına karar vermek ve kuralın başarısız olacağı durumları önceden sınamak.

Bugünün yapay zekâsının mantık kullanmadığı, çerçeve sorununun mantıkla çözülemeyeceği ve kapalı dünya varsayımının tehlikeli olduğu itirazları, bu sorunların temsilin biçiminden bağımsız olduğunu, çerçeve sorununun mantıksal ve bilgi kuramsal düzeylerinin ayrı olduğunu ve varsayımın yalnızca bilgi tabanının tam olduğu konulara uygulanması gerektiğini gördüğümüzde cevaplanabilir.

Bu yüzden gündelik akıl yürütmeyi bir makineye aktarmanın asıl değeri, onun örtük varsayımlarını görünür kılmasıdır ve asıl yükü, bu varsayımları açıkça yazılmış tasarım kararlarına dönüştürmektir.

Sonraki derse köprü

Tolga'nın programı, bir nüsha hakkında kayıt bulamadığında "yok" diyordu. Ama Tolga, bu kuralın tuhaf bir yapısı olduğunu fark ediyor. Kural, nüshalar hakkında bir şey söylemiyordu; programın kendisi hakkında bir şey söylüyordu. "Bu nüshada kenar notu yoktur" sonucu, "program bu nüshada kenar notu olduğunu türetemiyor" öncülünden çıkıyordu. Öncül, kataloğun bir cümlesi değil, katalog hakkında bir cümleydi.

Kerem, başarısızlık olarak olumsuzlamanın aynı yapıyı taşıdığını ekliyor: bir önermenin yanlışlığı, sistemin onu kanıtlayamamasından çıkarılıyordu. Selin, bir sistemin içinde konuşmak ile o sistem hakkında konuşmanın iki ayrı düzey olduğunu, şimdiye kadar incelenen bütün mantıkların da aslında bu ikinci düzeyde, yani mantıklar hakkında konuşularak incelendiğini söylüyor. Lina, yalancı paradoksunun da, bir dilin kendi cümleleri hakkında konuşabilmesinden doğduğunu hatırlatıyor.

Bir sonraki ders bu soruya dönüyor. Nesne dil/üstdil dersi, bir dil içinde konuşmak ile o dil hakkında konuşmak arasındaki ayrımın neden gerekli olduğunu, bir biçimsel sistem hakkındaki iddiaların hangi dilde kurulduğunu ve bu ayrımın, mantıkların kendilerini inceleyen metateorinin temelini nasıl oluşturduğunu soruyor.