Analiz ve Karar Desteği

Açılış sahnesi

Çankırı'da kaya tuzu, tuz lambası ve banyo tuzu satan bir işletmenin satış sorumlusu, çeyrek sonu toplantısından bir gece önce son üç ayın satış tablosunu bir yapay zekâ aracına yapıştırıyor. Araçtan üç şey istiyor: tabloyu açıklaması, gelecek çeyrek için birkaç senaryo kurması ve toplantıda sorulması gereken soruları önermesi.

Cevap düzenli ve kendinden emin. Satışlar bir önceki çeyreğe göre yüzde otuz dört artmış. Artışın sebebi, iki ay önce değiştirilen yeni ambalaj. Gelecek çeyrek için üç senaryo var: kötümser senaryoda yüzde on beş, olası senaryoda yüzde yirmi, iyimser senaryoda yüzde yirmi beş büyüme. Soru listesinde de yeni ambalajın hangi ürünlere yayılacağı soruluyor.

Toplantıda işletmenin sahibi hesabı tabloda kendisi yapıyor: artış yüzde otuz dört değil, yüzde yirmi dört. Artışın büyük bölümü ise ambalajdan değil, bir otel zincirinin bir kereye mahsus verdiği toplu tuz lambası siparişinden geliyor. O sipariş çıkarıldığında satışlar neredeyse düz. Üç senaryonun üçü de, kimse söylemediği hâlde, otel zincirinin gelecek çeyrekte aynı siparişi yeniden vereceğini varsayıyor.

Bu derste ne olacak

Çankırılı işletme hayali, dersteki öbür işletmeler de öyle. Hesaplar örnek olsun diye seçildi. Satış sorumlusunun aldığı cevapta üç ayrı hata vardı ve üçü de bu kursun ilk dersinde gördüğümüz ailedendi. Araç yüzdeyi hesaplamamış, hesabın metnini üretmişti. Veride bir artış görüp en yakın olayı sebep olarak yazmıştı. Senaryoları kurarken de en önemli varsayımı hiç söylememişti.

Bu ders yapay zekâyı veri okumada, senaryo kurmada ve soru üretmede kullanmayı çalışıyor. Önce aracın verdiği her sayının nasıl yeniden üretilebilir kılınacağını göreceğiz. Ardından aracın yazdığı sebep cümlelerini nasıl ele alacağımızı, senaryoların varsayımlarını nasıl açığa çıkaracağımızı ve aracın en güvenli kullanımlarından biri olan soru üretimini ele alacağız.

Sıfır noktası

Veriden karara giden yolu bu akademi ölçüm biriminde ayrıntılı kurdu. Analiz merdiveni, bir sayıdan bir eyleme giden basamakları gösteriyordu. Öyleyse sınaması, her bulgudan sonra bunun ne anlama geldiğini soruyordu. Ters nedensellik, etkinin varsayılan yönün tersine akmasıydı. Kanıt merdiveni de bir etkiye dair kanıtları, gerçek etkiyi ölçme güçlerine göre sıralıyordu. Tahmin yelpazesi ve senaryo tetikleyicisi geleceğe dair belirsizliği, doğrulama yanlılığı ve ön ölüm de karar verenin kendi eğilimlerini ele alıyordu.

Bu kursun ilk dersi, modelin bir hesabı yapmak yerine hesabın metnini yazdığını ve kullanıcıya hak vermeye yatkın olduğunu gösterdi. Bir eğilimin yanına verinin desteklemediği bir sebep iliştirmeyi de araştırma dersleri hikâye doldurma diye adlandırmıştı. Bu ders bu tehlikelerin bir tablo, bir grafik ya da bir senaryo karşısında nasıl göründüğünü ve nasıl yakalandığını çalışıyor.

Mekanizma — her sayının bir hesabı olsun

Bir dil modeli bir tabloyu okuyup bir yüzde yazdığında, bu yüzde çoğu zaman bir hesaplamadan değil, bir metin üretiminden gelir. Model sayıları düzgün bir cümleye yerleştirir, ama arada bir adımda bir sayıyı yanlış okuyabilir, ağırlıklı bir ortalama yerine basit bir ortalama alabilir ya da binlik bir birimi gözden kaçırabilir. Bazı araçlar hesabı ayrı bir hesaplama aracıyla ya da yazdıkları kodla yapabilir; bu durumda sonuç daha güvenilirdir, ama hesabın doğru kurulup kurulmadığı yine denetlenir.

Hesap bir tabloda, yorum araçta.

Ortalamaların ortalaması.

Birim, gözden kaçan ayrıntı.

Mekanizma — sebep cümlesi bir hipotezdir

Model bir veri gördüğünde onu açıklamaya yatkındır. Satışlar arttıysa, aynı dönemde olmuş bir olayı sebep olarak yazar. Bu açıklama bazen doğrudur, ama çoğu zaman yalnız en yakın ya da en çok akla gelen olaydır. Model neden sonuç ilişkisini veriden kanıtlayamaz; yalnız bir hikâye kurar. Üstelik kullanıcının aklındaki sebebi seziyorsa, ona katılmaya daha da yatkındır.

Etki, ters yönde akabilir.

Veriden çıkmayan hikâye.

Her çünkü, bir sınama planıyla.

Mekanizma — senaryonun saklı varsayımı

Senaryo kurmak, yapay zekânın hızla yapabildiği işlerden biridir: birkaç saniyede kötümser, olası ve iyimser üç senaryo ve her birinin sayıları gelir. Ama her senaryo bir dizi varsayıma dayanır ve araç bu varsayımları çoğu zaman söylemez. Söylenmeyen varsayım sorgulanmaz. Sayıların düzgün ve kesin görünmesi de onların bir hesaptan geldiği izlenimini verir; oysa çoğu zaman aracın kendi tahminidir.

Kaynak sütunu, aracın tahminini gösterir.

Senaryo, bir tetikleyiciyle.

Usta katmanı — cevap değil, soru istemek

Bu kursta gördüğümüz sınırların çoğu, araçtan bir cevap istendiğinde ortaya çıkıyor: cevap uydurulabilir, hesap kayabilir, sebep hikâyeleştirilebilir. Aracın en güvenli ve en verimli kullanımlarından biri ise tersidir: bir analizi yapan kişiye sorular üretmek. Bir sorunun yanlış olmasının bedeli düşüktür; bir insan onu okur ve işe yarayıp yaramadığına karar verir. İyi bir soru ise, analizcinin görmediği bir açıyı açar.

Eksik veri, soruyla görünür.

Soru, tarafsız sorulur.

Tek kişilik işletmede bir soru.

Yaygın hatalar

Aklında kalsın

Hesap izi, aracın verdiği her sayıyı yeniden yapılabilir bir hesaba bağlar. Hesap tabloya, yorum araca bırakılır.

Hipotez etiketi, aracın her sebep cümlesini sınanacak bir iddia olarak işaretler. Yanına kanıt, başka açıklamalar ve sınama yolu yazılır.

Varsayım dökümü, senaryonun bütün varsayımlarını kaynaklarıyla açığa çıkarır. Aracın kendi tahmini olan varsayımlar işaretlenir.

Karşı soru listesi, araçtan cevap yerine soru ister. Sorular tarafsız sorulur; işe yarayanlar veriyle cevaplanır.

Sonraki derse köprü

Bu derste araçtan gelen sayıların, sebeplerin ve senaryoların nasıl denetleneceğini kurduk: hesap izi, hipotez etiketi, varsayım dökümü ve karşı soru listesi. Çankırılı işletmenin satış sorumlusu artık yüzdeleri tablodan hesaplıyor, aracın sebep cümlelerini hipotez olarak etiketliyor ve otel siparişini senaryolardan ayırıyor.

Ama satış sorumlusunun araca yapıştırdığı tabloda başka bir şey daha vardı: otel zincirinin adı, özel fiyatı ve siparişi veren kişinin telefon numarası. Kursun önceki derslerinde de araçlara müşteri yorumları, abone listeleri ve iç notlar verildi. Bu bilgilerin hangilerinin bir araca verilebileceği, verilenlerin nerede saklandığı ve bu işlerin kimin onayıyla yapıldığı hiç konuşulmadı.

Sıradaki ders kursu kapatıyor ve güvenli kullanım standardını ele alıyor: kişisel veri, gizli bilgi, önyargı, kaynak, kayıt ve insan onayı için bir ekibin uyacağı kuralları orada yazacağız.