Yapay zekâ kışları

Açılış

Ekim sonundaki bütçe toplantısına iki gün kala Elif'in posta kutusuna finans direktörü Kenan Bey'den kısa bir ileti düştü: "Yapay zekâ girişimi kalemini gelecek yıl sıfırlamayı öneriyorum. Pazartesiye kadar itirazınız varsa yazın."

Kalemin içinde iki iş vardı. Biri, yönetim kurulunun bir yıl önce büyük bir sunumla başlattığı fotoğrafla hasar değerlendirme projesiydi. Sunumun ilk sayfası hâlâ şirketin iç sitesinde duruyordu: "Küçük hasar dosyalarının yarısı insan eli değmeden kapanacak." On iki ay sonra sistem, fotoğrafla gelen küçük dosyaların yüzde on birini kapatabiliyordu; kalanlar yine eksperin masasına gidiyordu. Kalemdeki ikinci iş Elif'in hasar tutarı modeliydi. Son üç ayın dosyalarıyla yeniden eğitilmiş, ortalama sapması geçen yılın yarısına inmişti ve hasar ekibi her sabah onun tahminleriyle çalışıyordu.

Elif sunumu yeniden açtı ve "yarısı" sayısının nereden geldiğini aradı. Hangi dosyaların sayılacağı yazmıyordu. Neyle karşılaştırılacağı, kimin ölçeceği, hangi tarihte bakılacağı da yoktu. Sayı, ölçülmüş bir şey değil, verilmiş bir sözdü. Şimdi o söz tutulmadığı için, aynı başlığın altında duran ve ölçülmüş olan iş de kesilmek üzereydi.

Pazartesi sabahı Elif itiraz yazısına başlamadan önce defterine tek bir soru yazdı: Bir söz tutulmayınca, o sözün altına yazılmış her şey neden birlikte gidiyor?

Tek fikir

Yapay zekâ tarihinde destek iki kez geniş çapta kesildi; ikisinde de verilen söz ile ölçülen sonuç arasındaki açık görünür hale gelmişti. Kesinti açığı yaratan vaadi değil, aynı adı taşıyan bütün işi vurur.

Nasıl çalışır

Elif'in yaşadığı şeyin alanda bir adı var.

Tarihçiler iki kıştan söz eder. İlki altmışların sonunda başlayıp yetmişlerin ortasına yayılır, ikincisi seksenlerin sonunda gelir. İkisinin de arkasında aynı düzenek çalışır: büyük bir söz verilir, para o söze bağlanır, bir gün biri sözü ölçülebilir bir soruya çevirir ve cevap sözün çok gerisinde kalır.

İlk büyük ölçüm makine çevirisinde yapıldı. Ellilerin ortasından itibaren Amerika Birleşik Devletleri'nde birkaç devlet kurumu, Rusça bilimsel metinleri makineyle İngilizceye çevirecek projelere para verdi. Ders 1.5'te tanımladığımız makine çevirisi o yıllarda yakın görünüyordu; seçilmiş basit cümlelerle yapılan gösteriler etkileyiciydi. Bin dokuz yüz altmış dörtte bu kurumlar durumu tartması için bir danışma kurulu kurdu.

Raporun en çarpıcı sayfası bir karşılaştırmadır. Bin dokuz yüz elli dört Ocağında yapılan gösterideki seçilmiş, basit cümlelerin çevirisi, on yıl sonra gerçek bilimsel metinden alınan çıktılardan daha okunaklıdır. Gösteri bir vaat kurmuştu; gerçek metin o vaadi ölçtü.

Raporun etkisi büyük oldu. Makine çevirisi tarihçisi John Hutchins, raporun otuzuncu yılında yazdığı değerlendirmede, onun Amerika Birleşik Devletleri'nde makine çevirisine verilen büyük desteği yaklaşık yirmi yıl boyunca sona erdirdiğini yazar. Aynı yazıda bir düzeltme de yapar: bazı projeler sürmüş, bazıları zaten rapordan önce bitmişti, ve rapor kalitenin düşüklüğü konusunda haklıydı. Kurulun başkanı da önerilerin bütün dil işleme araştırmasını kesmesinden çekinmiş, rapora çeviri dışındaki hesaplamalı dilbilimin desteklenmesi gerektiğini söyleyen ayrı bir mektup eklemişti. Elif'in korktuğu şey burada da oluyordu.

Birkaç yıl sonra İngiltere'de ikinci bir ölçüm yapıldı ve bu kez bütün alan tartıldı.

Lighthill alanı üç kümeye ayırdı. Pratik amaçlı otomasyonda ve sinir sistemini bilgisayarla inceleyen araştırmada saygın başarılar gördü, ama umulandan azını; makine çevirisini en göze batan hayal kırıklığı saydı ve ALPAC raporunun sonucunu andı. İki kümenin arasında köprü kurmayı amaçlayan, robotlar ve soyut oyun dünyaları üzerine çalışan kümeyi ise sert biçimde eleştirdi. Raporun genel hükmü tek cümleydi: alanın hiçbir yerinde şimdiye kadarki buluşlar o zaman vaat edilen büyük etkiyi yaratmamıştı. Hayal kırıklığının genel nedenini de bir matematikçi olarak tek bir kavrama bağladı.

Basit bir örnek. Elinde on kural var ve bir program, bu kuralların her alt kümesini tek tek denemek istiyor. Her kural ya kümede vardır ya yoktur; olası alt küme sayısı ikinin onuncu kuvveti, yani bin yirmi dörttür. Yirmi kuralda bu sayı bir milyon kırk sekiz bin beş yüz yetmiş altıya, otuz kuralda bir milyarı aşar.

Lighthill bir şey daha gözlemledi: soyut oyun dünyalarındaki programlar, ancak ve ancak programcı o dar alan hakkında çok büyük miktarda insan bilgisini programa koyduysa işe yarıyordu. Bu gözlem, Ders 2.3'te gördüğümüz uzman sistemlerin hem gücünü hem de sonraki kışın tohumunu taşıyordu. Chilton arşivinin kendi tanıtım notuna göre rapor İngiltere'de akademik kurumlar ve destek veren konsey arasında yapay zekâya güveni büyük ölçüde sarstı ve bu durum on yıla yakın sürdü.

Seksenlerde bilgiyi kurallara dökmek yeni bir para dalgası getirdi: uzman sistem şirketleri, bu yazılımları çalıştırmak için yapılmış özel iş istasyonları ve devlet programları. İkinci kış bu dalganın arkasından geldi.

Nilsson bir ayrıntı daha verir: bin dokuz yüz seksen dörtteki dernek kongresinde önde gelen araştırmacılar, beklentiler fazla yükselirse bir "yapay zekâ kışı" geleceği uyarısını bir oturumda tartışmıştı. Uyarı yapıldı, kış yine geldi.

Sahada

Nerede yanılır

"Kış" kelimesi güçlü bir imge ve tam bu yüzden yanlış okunmaya açık. Kış denince araştırmanın durduğu, herkesin evine gittiği bir dönem akla gelir. Hutchins makine çevirisinde bile bazı projelerin yıllarca sürdüğünü yazar; Nilsson da seksenlerin sonunu kış uykusu değil, yeni fikirlerin denendiği bir mevsim olarak anlatır. Kesilen şey paranın ve kamuoyunun güveniydi, merak değil.

İkinci yanılgı geriye bakarken ortaya çıkar. Bugün bir kışı anlatırken kesintiyi ya kör bir hata ya da hak edilmiş bir ceza olarak okumak kolaydır. Hutchins'in değerlendirmesi ikisini birlikte söyler: rapor çeviri kalitesi konusunda haklıydı, ama yalnız Amerikan kurumlarının Rusça ihtiyacına baktığı için ticaretin ve öteki dillerin ihtiyacını görmedi. Bir değerlendirme hem doğru ölçüp hem de yanlış yere bakabilir.

Üçüncüsü mekanizmanın kendisinden gelir. Bir kesinti kararı "yapay zekâ" gibi geniş bir adla verildiğinde, aynı adın altında duran ölçülmüş ve ölçülmemiş işler birbirinden ayrılmaz. Elif'in bütçe kalemi bunun küçük bir örneği. Kesinti tartışmasında tek bir soru durumu ele verir: kesilecek kalemin içindeki her iş için ayrı bir ölçüm var mı?

Bugüne dair soru da buraya düşer.

Uygulama

Kendi alanında, son bir yıl içinde yapay zekâyla ilgili verilmiş bir söz bul. Bir haberdeki iddia, bir tedarikçinin broşürü ya da çalıştığın yerde herkese açık duyurulmuş bir hedef olabilir. Kişisel veri ya da kurumun gizli bilgisini kullanma; yalnız herkesin görebileceği bir cümle yeterli.

Ardından küçük bir hesap yap. Sözün içinde bir şeyi "bütün seçenekleri tarayarak" çözen bir sistem varsa, seçenek sayısının öğe sayısıyla nasıl büyüdüğünü kâğıt üzerinde dene. Her öğenin iki durumu varsa beş, on ve yirmi öğe için ikinin kuvvetlerini yaz; sıralama söz konusuysa beş öğenin olası sıra sayısının yüz yirmi, on öğeninkinin üç milyon altı yüz yirmi sekiz bin sekiz yüz olduğunu kontrol et.

Elif itiraz yazısını bu dört adımla kurdu: fotoğraf projesinin sunumundaki cümle dört boşluktan birini bile doldurmuyordu, hasar tutarı modelinin cümlesi dördünü de dolduruyordu. Kenan Bey'den kalemi ikiye bölmesini istedi.

Defter: "Vaat ve ölçüm" başlığı altında dört sütun aç: sözün kendisi, neyin sayılacağı, neyle karşılaştırılacağı, kimin ve ne zaman ölçeceği. Altına tek cümle yaz: bu söz tutulmazsa yanında ne gider?

Hata köşesi

Sorumluluk

Bir kış, araştırmacıların değil bütçe veren kişilerin kararlarıyla başlar; ama o kararlar araştırmacıların ve satıcıların verdiği sözlerle beslenir. Sözü veren, onu ölçülebilir biçimde vermekle sorumludur: neyin, neyle, kim tarafından ve ne zaman sayılacağını yazmak. Bütçe kararını veren de kesmeden önce kalemin içindeki işleri tek tek doğrulamakla yükümlüdür; yoksa Elif'in modeli gibi her gün kullanılan bir iş, tutulmamış bir sözün bedelini öder. Zararı en çok bu ayrımı yapamayan kurumdaki çalışanlar ve o işin hizmet ettiği müşteriler görür.

Kapanış

1. Yapay zekâ kışı, verilen sözle ölçülen sonuç arasındaki açık görünür hale geldiğinde alana ayrılan para ve güvenin yıllarca daralmasıdır; ilki altmışların sonundan yetmişlerin ortasına, ikincisi seksenlerin sonuna düşer.
2. İlk kışın arkasında makine çevirisini maliyet ve kaliteyle ölçen ALPAC raporu ile alanın vaat edilen etkiyi yaratmadığını söyleyen ve kombinatoryal patlamayı adlandıran Lighthill raporu, ikincisinin arkasında uzman sistem dalgasının şişmiş beklentileri vardır.
3. Kesinti geniş bir adla verildiğinde ölçülmüş işi de ölçülmemiş işle birlikte götürür; bir sözü ölçülebilir soruya çevirmek hem söz verenin hem karar verenin işidir.

Üç soru

1. Lighthill neden bilgisayarların hızlanmasının kombinatoryal patlamayı çözmeyeceğini düşündü? Bin kat hızlı bir makine iki seçenekli bir problemde kaç öğe kazandırır?
2. ALPAC raporundaki Georgetown örneği, bir gösteri ile bir ölçüm arasındaki farkı nasıl gösterir?
3. Elif'in itiraz yazısı bir yapay zekâ kışının hangi mekanizmasına karşı yazılmıştır?

Yanıtlar

1. Her yeni öğe olası düzenlerin sayısını ikiye katladığı için, hızdaki artış birkaç öğe sonra tükenir. Bin kat hızlı bir makine yaklaşık on öğe kazandırır, çünkü ikinin onuncu kuvveti bin yirmi dörttür. Lighthill teorem ispatlamada bu yüzden bilgisayar gücündeki artışın avantajlarının hızla silindiğini yazar.
2. Bin dokuz yüz elli dört gösterisinde seçilmiş basit cümleler okunaklı çevrilmişti. Gerçek bilimsel metinle yapılan sınamada ise sekiz yıllık projenin çıktısı insan düzeltmesine muhtaç kaldı ve düzeltilmiş çeviri insan çevirisinden pahalıya geldi. Gösteri sözü kurdu, gerçek metin ölçtü.
3. Kesintinin geniş bir ad üzerinden verilip ölçülmüş işi de götürmesine karşı. Elif iki işin cümlelerini aynı dört soruyla tarttı ve kalemin ikiye bölünmesini istedi; böylece tutulmamış söz ile ölçülmüş sonuç ayrı ayrı değerlendirilebilecekti.

Sonraki derse köprü

İki kışın ortak derslerinden biri, bir fikrin bir dönemde gözden düşmesinin onun yanlış olduğunu göstermemesidir. Altmışlarda ve seksenlerde kenara itilen sinir ağları, iki bin on ikide bir görüntü tanıma yarışmasında aldıkları sonuçla geri döndü. Ders 2.5, Derin öğrenmenin dönüşü, bu dönüşün neden o yıl geldiğini soruyor: büyük etiketli veri, oyunlar için yapılmış grafik işlemciler ve ImageNet yarışmasındaki sonuç nasıl bir araya geldi, ve bu kez söz ile ölçüm arasındaki ilişki neden farklı kuruldu?