Ayrımcılık, Önyargı ve Hedefleme

Açılış sahnesi

Afyonlu kaymakçının çevrimiçi satış ekibi, reklam platformunun raporunu açıp gösterimlerin kimlere ulaştığını gruplara göre döküyor. Kampanyada yaş, cinsiyet ya da semt seçilmemişti; hedef yalnızca “Türkiye, lokum ve tatlıyla ilgilenenler”di. Ama rapor başka bir şey söylüyor.

Gösterimlerin büyük kısmı üç büyük şehrin belli semtlerindeki yirmi ile otuz beş yaş arası kadınlara gitmiş. Altmış yaş üstüne neredeyse hiç gösterim yok. Kırsal ilçelerde reklamı gören kişi sayısı bir avucu geçmiyor. Oysa sipariş kayıtlarına bakılınca en sadık müşterilerin çoğunun bu gruplardan geldiği görülüyor: bayramlarda kutu kutu lokum gönderen emekliler, köyden şehre taşınmış ama memleketin tadını arayanlar.

Ekip önce bunu bir başarısızlık değil, bir verimlilik olarak okuyor: platform reklamı en çok tıklayacak kişilere göstermiş. Pazarlama müdürü ise başka bir soru soruyor. Kimse bu insanları dışarıda bırakmayı seçmedi; o hâlde onları dışarıda bırakan kim? Ve bir lokum reklamında küçük görünen bu dışlanma, bir iş ilanında, bir kredi teklifinde ya da bir kira ilanında olsaydı ne olurdu?

Bu derste ne olacak

Ders boyunca anılan bütün işletmeler, Afyon’daki üretici dahil, öğretmek için kurulmuş kurgulardır.

Afyon’daki rapor, kimse ayrımcılık yapmayı seçmediği hâlde verinin ve algoritmanın bazı grupları dışarıda bırakabileceğini, bazılarına da haksız bir yük bindirebileceğini gösteriyor. Bu derste bu zararı görmeyi ve değerlendirmeyi çalışıyoruz. Önce bir reklamın, hedefleme seçilmese bile, gösterim aşamasında nasıl çarpıklaşabildiğini göreceğiz. Sonra tarafsız görünen bir değişkenin yaş, cinsiyet ya da köken yerine nasıl işleyebildiğini inceleyeceğiz. Ardından iş, konut, kredi ve eğitim gibi fırsat sunan ilanlarda dışlamanın neden ayrıca önemli olduğunu ele alacağız. En sonda kampanyaların sonuçlarını gruplara göre düzenli olarak denetlemeyi kuracağız.

Sıfır noktası

Araştırma biriminde yanlılığı, ölçümün gerçek değerden hep aynı yönde sapması olarak tanımlamıştık; kaynağı rastlantı değil bir yapı kusuruydu. Ücretli medya biriminde benzer kitleyi, sosyal medya biriminde dağıtım mantığını, e-posta biriminde dışlama kuralını görmüştük. Yapay zekâ biriminde temsil denetimini, üretilen içeriklerin kimi gösterip kimi göstermediğine bakan okuma olarak kurmuştuk.

Bu kursun önceki derslerinde kırılgan müşteriye bakmayı, toplanmış bir listeye başka bir iş vermeden önce durup sormayı ve riskli bir kullanıma başlamadan önce etkisini değerlendirmeyi yazdık. Bu ders aynı dikkati hedeflemeye ve algoritmalara taşıyor. Soru artık yalnızca tek bir kişinin verisine ne olduğu değil, bütün bir grubun neyi görüp neyi göremediği.

Mekanizma — seçilmeyen hedefleme

Afyon’daki reklamda kimse yaş seçmemişti. Çarpıklık, platformun reklamı kime göstereceğine karar verirken izlediği yoldan geldi. Reklam sistemleri, belirlenen hedefe en ucuza ulaşmak için gösterimleri en çok tepki verecek kişilere doğru kaydırır. Geçmişte kimin tıkladığı, gelecekte kime gösterileceğini belirler.

Çarpıklık bazen reklamın kendisinden besleniyor: görsel kime benziyorsa, algoritma onu o kişilere götürüyor.

Çarpıklık her zaman zarar değil; ama fark edilmediğinde işletmenin kendi müşterisini kaybetmesine yol açıyor.

Gösterim fiyatı da çarpıklık yaratıyor: bazı gruplara ulaşmak daha pahalı olduğunda algoritma onlardan kaçıyor.

Mekanizma — tarafsız görünen değişken

Hedeflemede yaş, cinsiyet ya da köken seçilmediğinde bile, bu özelliklerle sıkı bağlı başka bir değişken aynı işi görebiliyor. Bir posta kodu, bir cihaz modeli, bir ilgi alanı ya da bir alışveriş geçmişi, bir grubu sessizce yerine geçtiği özellik kadar keskin biçimde ayırabiliyor.

Vekil değişken fiyatta da işleyebiliyor: aynı ürün, kimin baktığına göre farklı fiyatla gösterilebiliyor.

Her farklılaştırma ayrımcılık değil; asıl soru, değişkenin karara gerçekten ilgili bir bilgi taşıyıp taşımadığı.

Teslimat ve kampanya bölgeleri, en sık gözden kaçan vekil değişkenler.

Mekanizma — fırsat sunan ilanlarda dışlama

Bir lokum reklamını görmemek bir müşteri için küçük bir kayıp. Ama bazı ilanlar bir fırsatın kapısıdır: bir iş, bir ev, bir kredi, bir eğitim. Bu ilanlarda bir grubun dışarıda kalması, o grubun hayatındaki bir imkânın kapanması demek.

Kredi ve finans ilanlarında dışlama, en çok ihtiyaç duyanları bilgiden uzak tutabiliyor.

Eğitim ilanlarında dışlama, bir grubun bir mesleğe hiç adım atamamasına yol açabiliyor.

Usta katmanı — sonuçları gruplara göre denetlemek

Gösterim çarpıklığı da vekil ayrımcılık da kararın kendisine bakarak değil, sonucuna bakarak bulunuyor. Bu yüzden sorumluluk, kampanyaları ve otomatik kararları belirli aralıklarla gruplara göre denetlemeyi gerektiriyor.

Denetimin bir eşiği olmalı; aksi hâlde her fark tartışılır ve hiçbiri düzeltilmez.

Denetim, ürünün kendisinin bir grubu dışarıda bırakıp bırakmadığını da gösterebiliyor.

Yaygın hatalar

Aklında kalsın

Ayrımcılık yapmak için bir grubu seçmek gerekmez; veri ve algoritma, kimse istemeden de bazı grupları dışarıda bırakabilir.

Gösterim çarpıklığı, hiçbir grup seçilmediği hâlde teslim algoritmasının reklamı bazı gruplara orantısız biçimde götürmesidir; ayarlara değil, gösterimlerin gruplara göre dökümüne bakılarak görülür. Vekil ayrımcılık, tarafsız görünen bir değişkenin korunması gereken bir özelliğin yerine geçip bir grubu dışlamasıdır ve kararın sonucuna bakılarak bulunur.

Fırsat ilanı kuralı, iş, konut, kredi, eğitim ve sağlık gibi hayat imkânı sunan ilanlarda korunması gereken özelliklere ve vekillerine göre hedefleme yapılmamasını ve gösterimin ayrıca izlenmesini ister.

Grup etkisi denetimi, kampanyaların ve otomatik kararların sonuçlarını belirli aralıklarla gruplara göre karşılaştırır; önceden yazılmış bir eşikte inceleme başlatır ve gerekçesiz farkları düzeltir.

Sonraki derse köprü

Afyon’daki üretici, kampanyalarına emekliler ve kırsal müşteriler için ayrı bütçeler ekledi ve her çeyrek gösterim dökümünü sipariş kayıtlarıyla karşılaştırmaya başladı. Bu kez ekip, reklamdan sonra müşterinin geldiği yere, kendi çevrimiçi mağazasına baktı.

Ödeme sayfasında bir kutu, “Her ay taze lokum kutusu gönderilsin” seçeneğini önceden işaretli olarak sunuyordu. Ürün sayfalarında, stok bol olduğu hâlde “son birkaç kutu” yazan bir geri sayım vardı. Aboneliği bırakmak isteyen bir müşteri ise müşteri hizmetlerini aramak zorundaydı ve hat yalnız iş saatlerinde açıktı. Bunların hiçbiri yalan değildi, ama her biri müşterinin kendi seçimini yapmasını biraz daha zorlaştırıyordu. Seçimi gizleyen, zorlaştıran ya da yönlendiren deneyimleri tanıyıp önlemek ve müşterinin karar verme özgürlüğünü korumak, sorumlu pazarlamanın sıradaki konusu.