Yapay zekâ asistanları alışveriş yaptığında

Kanca

Deniz o sabah asistana "evet" demişti. Telefonundaki sesli asistan, kulübün kapsüllerinin bitmek üzere olduğunu fark etmiş, geçen ayki siparişi yinelemeyi önermişti. Deniz, kahvaltı hazırlarken düşünmeden onay vermişti. Üç gün sonra kulübe gelen kutu, Mavi Fincan'ın kutusu değildi. Asistan, büyük bir pazar yerindeki başka bir satıcıdan, "benzer" diye etiketlenmiş, biraz daha ucuz bir kapsül seçmişti. Kavrulma tarihi kutunun hiçbir yerinde yazmıyordu. Kulüpteki ilk demlemeden sonra biri sordu: "Bu her zamanki değil, değil mi?"

Deniz asistanın geçmiş siparişlerine baktı. Asistan "en uygun seçenek" demişti; ama neye göre uygun olduğunu söylememişti. Fiyata mı, teslimat süresine mi, yoksa o satıcının asistanın platformuyla bir anlaşması mı vardı? Deniz bilmiyordu.

Aynı hafta Elif, Mavi Fincan'ın uygulamasında "kapsüllerimi tahmin etsin" gibi bir özellik olsa kullanır mıydı diye sorulduğunda kesin konuştu: "Ne zaman biteceğini tahmin etsin, olur. Ama hangi kahveyi içeceğimi bir makine seçmesin." Alışverişi bir yapay zekâ asistanına bıraktığımızda ne değişir ve insanlar bu asistanlara neyi, ne kadar bırakmaya razıdır?

Vaka

İnsanların algoritmalara nasıl yaklaştığı üzerine en çok tartışılan bulgulardan biri, algoritma kaçınmasıdır. Epistemoloji Akademisi'nin insan ve yapay zekâ iş birliği dersi (10.4), Berkeley Dietvorst, Joseph Simmons ve Cade Massey'nin 2015'teki çalışmasını aktarıyor: insanlar, bir algoritmanın hata yaptığını gördükten sonra, ortalamada kendilerinden daha isabetli olsa bile ona güvenmekten kaçınabiliyorlardı.

Aynı araştırmacılar 2018'de yayımladıkları bir sonraki çalışmada, bu kaçınmanın nasıl azaltılabileceğini sordular. Üç çalışmada, katılımcılara doğru tahminin ödüllendirildiği tahmin görevleri verdiler. Katılımcılar, kendi tahminlerini mi yoksa uzmanların kurduğu bir algoritmanın tahminlerini mi kullanacaklarını seçiyorlardı. Algoritmanın kusursuz olmadığı biliniyordu.

Sonuç çarpıcıydı. Katılımcılar, algoritmanın tahminlerini değiştirebildikleri durumda, kusurlu bir algoritmayı kullanmayı belirgin biçimde daha sık seçtiler ve bunun sonucunda daha iyi performans gösterdiler. Dahası, bu tercih, yapabilecekleri değişiklikler ciddi biçimde sınırlandırıldığında bile sürdü.

Araştırmacılar bu bulgudan önemli bir sonuç çıkardılar: katılımcıların değiştirilebilir algoritmayı tercih etmesi, tahmin sonucu üzerinde daha fazla denetim isteğini değil, biraz denetim isteğini yansıtıyordu. İkinci çalışmada tercih, yapabilecekleri değişikliğin büyüklüğüne görece duyarsızdı. Küçük bir değişiklik hakkı, büyük bir değişiklik hakkı kadar işe yarıyordu.

Üçüncü çalışma bir adım daha attı. Katılımcılara kusurlu bir algoritmayı değiştirme özgürlüğü vermek, onları tahmin sürecinden daha memnun kıldı, algoritmanın üstün olduğuna inanmalarını artırdı ve sonraki tahminlerde de bir algoritma kullanmayı seçmelerini daha olası hâle getirdi. Araştırmacıların vardığı sonuç, algoritma kaçınmasının, insanlara kusurlu bir algoritmanın tahmini üzerinde biraz, hatta çok az bir denetim verilerek azaltılabileceğiydi.

Elif'in cümlesi bu bulgunun gündelik bir yankısıydı. Elif bir algoritmaya tamamen karşı değildi; yalnızca son sözün kendisinde kalmasını istiyordu.

Mekanizma

Kaçınma ve denetim

Algoritma kaçınmasının bir kaynağı, hatanın farklı tartılmasıdır. Bir insan hata yaptığında bunu anlayışla karşılarız; bir makine hata yaptığında ise ona olan güvenimiz çabuk sarsılır. Dietvorst ve arkadaşlarının 2018 çalışması, bu kaçınmanın çaresinin algoritmayı kusursuz yapmak değil, insana biraz söz hakkı tanımak olabileceğini gösteriyor. Tüketici, bir önerinin üzerinde küçük bir değişiklik yapabildiğinde, o öneriyi kendi kararı gibi sahiplenebilir.

Bu, alışveriş asistanları için doğrudan bir ders taşır. "Sizin yerinize sipariş verdim" diyen bir asistan, tüketiciyi denetimin dışında bırakır. "Geçen ayki siparişi hazırladım; bir kutuyu değiştirmek ya da adedi azaltmak ister misiniz?" diyen bir asistan ise ona küçük ama gerçek bir söz hakkı verir.

Hangi görevler bırakılır?

Satış Psikolojisi Akademisi'nin algoritma çağında insan dokunuşu dersi (6.23), Castelo, Bos ve Lehmann'ın bulgusunu aktarıyor: insanlar bir görevi öznel, yani zevke ya da sezgiye dayalı gördüklerinde algoritmalara daha az güvendi; görev nesnel olarak sunulduğunda güven arttı. Elif'in ayrımı bu bulguya uyuyor. Kapsüllerin ne zaman biteceğini tahmin etmek ölçülebilir, nesnel bir iştir; hangi kahvenin içileceğini seçmek ise bir zevk meselesidir.

Bu ayrım, aracılı tüketimin sınırını çizmeye yardım eder. Tüketiciler, tekrar eden, ölçülebilir ve zevk gerektirmeyen alışverişleri bir asistana bırakmaya daha istekli olabilir; deterjan, kâğıt havlu, her zamanki kapsül. Zevkin, kimliğin ya da keşfin söz konusu olduğu alışverişlerde ise son sözü kendilerinde tutmak isteyebilirler.

Aracılı tüketim: müşteri kim?

Bir asistan alışveriş yaptığında, satıcı ile tüketici arasına yeni bir taraf girer. S3-M18-D9'da telefonda ekranın tepesinin ne kadar güçlü olduğunu görmüştük. Sesli bir asistan ise çoğu zaman bir liste bile göstermez; tek bir öneri sunar. Bu durumda, hangi ürünün önerileceğine karar veren, artık ne ekranı tasarlayan satıcı ne de seçimi yapan tüketicidir; asistanın kendisi, ya da onu işleten şirkettir.

Deniz'in sorusu tam burada önem kazanıyordu: asistan neye göre "en uygun" diyordu? Eğer asistanın önerisi, satıcıların ödediği bir ücrete göre şekilleniyorsa ve bu tüketiciye söylenmiyorsa, bu durum S3-M18-D6'da konuştuğumuz açıklanmayan iş birliğine benzer. Tüketici bir tavsiye aldığını sanır; aslında bir reklam almıştır.

Markanın görünmez olması

Aracılı tüketimin satıcılar için bir başka sonucu, markanın tüketicinin gözünden kaybolabilmesidir. Deniz kutuyu açana kadar Mavi Fincan'dan değil başka bir satıcıdan alışveriş yaptığını bilmiyordu. Asistan "kapsül" dediğinde, tüketicinin zihnindeki marka yerine bir ürün kategorisi işlem görür. M16'da markanın zihinde nasıl yaşadığını konuşmuştuk; aracılı tüketimde marka, önce asistanın "zihninde", yani onun veri ve öncelik kurallarında yer bulmak zorunda kalabilir.

İlk hata ve gerekçe

Algoritma kaçınması en çok bir hatadan sonra ortaya çıktığı için, bir asistanın ilk hatası onun geleceğini belirleyebilir. Deniz'in kulübe gelen yanlış kutusu bir hataydı; ama asıl güveni sarsan, hatanın kendisinden çok gerekçesizliğiydi. Asistan "en uygun" demiş, neye göre uygun olduğunu söylememişti. Deniz yanlış kutuyu bir kez kabul edebilirdi; ama nedenini bilmediği bir seçimi bir daha neden onaylasın?

S3-M18-D5'te Mavi Fincan, önerilerin yanına "neden bu öneri?" bağlantısı koymaya karar vermişti. Aracılı tüketimde bu bağlantı daha da önemli hâle gelir; çünkü asistan yalnızca önermekle kalmaz, alır da. "Geçen ay bu kapsülü aldınız, kutunuz yaklaşık on gün sonra bitiyor" diyen bir asistan, tahminini denetlenebilir kılar. Tüketici gerekçeyi görebildiğinde, hatayı da görebilir ve düzeltebilir: "Hayır, bu ay misafirim var, iki kutu olsun."

Dietvorst ve arkadaşlarının bulgusu burada ikinci kez işe yarar. Değiştirme hakkı, algoritmanın hatasını tüketicinin düzeltebileceği bir şeye dönüştürür. Hata hâlâ olur; ama artık tüketiciyi denetimin dışında bırakan bir sürpriz değil, onun son sözüyle düzeltilen bir taslaktır. Bir asistanın uzun ömürlü olması, belki de hiç hata yapmamasından çok, hatalarının görünür ve düzeltilebilir olmasına bağlıdır.

Geleceğin tüketicisi

Bu gelişmelerin nereye varacağını kimse kesin olarak bilmiyor. Ama bu dersin bulguları birkaç ilkeyi düşündürüyor: insanlar algoritmalara tamamen teslim olmaktan çok, biraz denetimi ellerinde tutarak onlarla çalışmayı tercih edebilir; ölçülebilir görevleri bırakıp zevk görevlerini kendilerinde tutabilir; ve bir asistanın kimin için çalıştığını bilmek, ona güvenmenin ön koşulu olabilir.

Bilimsel dayanak

Algoritma kaçınması üzerine ilk çalışmalar insanların algoritmalardan neden uzak durduğunu gösterdi. Dietvorst, Simmons ve Massey'nin 2018 çalışması, bu kaçınmanın küçük bir denetim hakkıyla azaltılabileceğini ve bunun insanları daha memnun ve daha başarılı kıldığını gösterdiği için, asistanlara alışveriş bırakan tüketiciyi anlamak açısından bu dersin çapasıdır.

Bu kanıt, tüketiciye son sözü bırakan bir asistanın, onu denetimin dışında tutan bir asistandan daha çok kullanılabileceğini düşündürüyor.

Hayatınızda

Telefonunuzdaki ya da evinizdeki bir asistana, bir uygulamaya ya da bir öneri sistemine şimdiye kadar hangi alışveriş kararlarını bıraktınız? Hangilerini asla bırakmazdınız? Bu iki listeyi ayıran şey, kararın ölçülebilir mi yoksa zevke dayalı mı olması mı?

Bir asistanın ya da algoritmanın size yanlış bir şey önerdiği ya da aldığı bir anı hatırlayın. Bu hatadan sonra ona güveniniz nasıl değişti? Aynı hatayı bir arkadaşınız ya da bir satış görevlisi yapsaydı, ona da aynı biçimde mi tepki verirdiniz?

Bir öneriyi kabul etmeden önce küçük bir değişiklik yapabildiğiniz, örneğin adedi azaltabildiğiniz ya da bir ürünü değiştirebildiğiniz bir durumu düşünün. Bu küçük söz hakkı, öneriye bakışınızı değiştirdi mi?

Son olarak, size bir şey öneren bir asistana sorun: "Bunu neden öneriyorsun?" Bir cevap alabiliyor musunuz? Alamıyorsanız, bu önerinin kimin için çalıştığını nereden bilebilirsiniz?

Mavi Fincan'da

Deniz'in kulübe gelen kutusu, Mavi Fincan ekibini iki soruyla karşı karşıya bıraktı. Birincisi, Mavi Fincan kendi uygulamasında bir asistan özelliği sunmalı mıydı? İkincisi, başka şirketlerin asistanları Mavi Fincan adına müşterilerle konuştuğunda ne yapmalıydı?

Birinci soru için Emre bir "akıllı yeniden sipariş" önerdi: uygulama, kapsüllerin ne zaman biteceğini tahmin edip siparişi otomatik olarak verecekti. Selin, Dietvorst ve arkadaşlarının bulgusunu ve Elif'in cümlesini masaya koydu. Ekip özelliği şöyle biçimlendirdi: uygulama, yalnızca müşterinin kendi sipariş geçmişinden, D5'te kararlaştırıldığı gibi, kapsüllerin yaklaşık ne zaman biteceğini tahmin edecek ve bir sipariş taslağı hazırlayacaktı. Taslak hiçbir zaman kendiliğinden verilmeyecekti. Müşteri adedi değiştirebilecek, bir kutuyu başka bir kapsülle değiştirebilecek ya da taslağı tamamen silebilecekti; sipariş ancak tek bir onayla tamamlanacaktı. Özellik varsayılan olarak kapalı başlayacaktı.

Tahmin yalnızca ölçülebilir olanla, yani zamanlama ve adetle sınırlı kalacaktı. Uygulama müşteriye "bu ay başka bir kapsül deneyin" demeyecekti; yeni kahve önerileri, D7'deki gibi, Keşfet'te ve müşterinin kendi seçimiyle kalacaktı. Zevk kararı müşterideydi.

İkinci soru daha zordu. Mavi Fincan, başka şirketlerin asistanlarının neyi önerdiğini denetleyemezdi. Ekip denetleyebileceği şeylere odaklandı. Ürün bilgileri, kavrulma tarihi, köken, içerik, alerjen ve fiyat, bir asistanın da okuyabileceği biçimde eksiksiz ve güncel tutulacaktı; böylece bir asistan Mavi Fincan'ı önerdiğinde doğru bilgiyle önerecekti. Bir asistan aracılığıyla verilen her sipariş için müşteriye, hangi ürünün, hangi fiyatla, kimden alındığını gösteren açık bir onay gönderilecekti. İade koşulları, siparişin nereden verildiğinden bağımsız olarak aynı kalacaktı.

Emre bir asistan platformunun teklifini de getirdi: ücret karşılığında Mavi Fincan, kahve sorulduğunda "öne çıkan öneri" olabilirdi. Ekip bunu reddetti. Müşterinin bunun bir reklam olduğunu göremeyeceği bir önerinin satın alınması, D6'da reddedilen açıklanmayan iş birliğinden farksızdı.

Mehmet Bey, Bursa şubesinde sipariş taslağını ilk deneyenlerden biri oldu. Taslağı her ay onaylıyor, ama her seferinde bir şeyi değiştiriyordu: "Kor'dan bir kutu az." Ayşegül'e yazdı: "Tahmin doğru çıkıyor. Ama o bir kutuyu ben çıkarınca, sipariş benim oluyor."

Ayşe Hanım taslak özelliğini duyunca Ayşegül'ü aradı ve kuşkuyla sordu: "Yani artık makine mi sipariş verecek benim yerime?" Ayşegül, özelliğin kapalı başladığını ve kimsenin onun yerine bir şey vermeyeceğini anlattı. Ayşe Hanım biraz düşündü, sonra kendi yolunu önerdi: "Taslağı siz hazırlayın, ayda bir arayıp bana okuyun, ben 'tamam' diyeyim." Ekip bunu bir istisna olarak değil, aynı ilkenin telefondaki biçimi olarak kabul etti: tahmin yine yapılıyor, son söz yine müşteride kalıyordu.

Deniz kulübün asistan ayarlarına girip "yinelenen siparişleri sormadan verme" seçeneğini kapattı. Bir sonraki siparişi Mavi Fincan'ın taslağından, kendi onayıyla verdi.

Modülün onuncu notu panoya yazıldı: Asistan önersin, müşteri karar versin: tahmini ölçülebilir olanla sınırla, taslağı asla kendiliğinden verme, değiştirme hakkı tanı, zevki müşteride bırak, ürün bilgisini dürüst ve eksiksiz tut ve görünmeyen bir öncelik için para ödeme.

Dikkat

Aracılı tüketimin etik sınırı, asistanın kimin için çalıştığıdır. Tüketiciye söylemeden ücretli öncelik veren öneriler, onay almadan verilen siparişler ve "en uygun" denip neye göre uygun olduğu açıklanmayan seçimler, tüketicinin kendi adına hareket ettiğini sandığı bir aracının aslında başka birine çalışmasına yol açabilir. Dürüst bir asistan, önerisinin gerekçesini söyler ve son sözü tüketiciye bırakır.

Akılda kalanlar

Dietvorst, Simmons ve Massey'nin çalışmasında insanlar, tahminlerini değiştirebildiklerinde kusurlu bir algoritmayı belirgin biçimde daha sık kullanmayı seçti; değişiklik hakkı çok sınırlı olduğunda bile. İstenen daha fazla değil, biraz denetimdi ve bu denetim memnuniyeti ve sonraki algoritma kullanımını artırdı.

Tüketiciler ölçülebilir ve tekrar eden alışverişleri bir asistana bırakmaya daha istekli olabilir; zevkin, kimliğin ve keşfin söz konusu olduğu kararları ise kendilerinde tutmak isteyebilirler. Aracılı tüketimde öneriyi kimin, neye göre belirlediği tüketicinin en önemli sorusu hâline gelir.

Dürüst bir asistan önerir ama karar vermez, değiştirme hakkı tanır, önerisinin gerekçesini söyler ve görünmeyen bir ücretli önceliğe göre çalışmaz.

Sonraki derse köprü

Panoda artık on not var: ekrandaki zihinden yapay zekâ asistanına kadar. Uygulamanın sipariş akışı, modülün başından bu yana adım adım değişti. Sıradaki birim, S3-M18-K, Dijital Tüketici modülünü kapatıyor: on ders birbirine bağlanacak ve Mavi Fincan'ın uygulaması, bir müşterinin sabah açtığı ilk ekrandan kapısına gelen kutuya kadar, panodaki on kuralın izini taşıyan bir sipariş akışı olarak bir araya gelecek.

Mini quiz

Soru 1 · Kavram

Dietvorst, Simmons ve Massey'nin 2018 çalışmasına göre algoritma kaçınması nasıl azaldı?

• A) Algoritma kusursuz hâle getirildiğinde
• B) Katılımcılar algoritmanın tahminlerini, çok sınırlı da olsa, değiştirebildiğinde
• C) Katılımcılara algoritmanın nasıl çalıştığı anlatılmadığında
• D) Hiçbir koşulda azalmadı

Cevap: B. Değiştirme hakkı, büyüklüğünden görece bağımsız olarak, algoritma kullanımını artırdı.

Soru 2 · Kavram

"Aracılı tüketim" kavramı neyi anlatır?

• A) Bir ürünün bir aracı tarafından üretilmesini
• B) Bir satın alma kararının kısmen ya da tamamen tüketici adına hareket eden bir aracıya bırakılmasını
• C) Toptancıdan alışveriş yapmayı
• D) Bir ürünü ikinci elden almayı

Cevap: B. Örneğin bir yapay zekâ asistanının tüketici adına sipariş vermesi.

Soru 3 · Uygulama

Ayşe Hanım'ın kullandığı bir market uygulaması, "Sık aldığınız ürünleri her hafta otomatik olarak gönderelim mi?" diye soruyor ve onay verilirse siparişleri hiç göstermeden veriyor. Bu ders ışığında daha iyi bir tasarım hangisidir?

• A) Siparişleri hiç sormadan, ilk günden otomatik vermek
• B) Her hafta bir sipariş taslağı hazırlamak; Ayşe Hanım'ın adetleri ve ürünleri değiştirebilmesine ve siparişi tek bir onayla tamamlamasına izin vermek
• C) Otomatik siparişi tamamen yasaklamak
• D) Taslağı yalnızca ayda bir göstermek ve değiştirilmesine izin vermemek

Cevap: B. Küçük bir değiştirme hakkı, algoritmanın önerisini tüketicinin kendi kararına dönüştürebilir.

Soru 4 · Tuzak

Bir pazarlama yöneticisi, "Asistan platformuna para verip kahve sorulduğunda ilk öneri olalım; kullanıcılar bunun reklam olduğunu anlamaz, tavsiye sanır," diyor. Bu öneri hangi gerçeği hesaba katmıyor?

• A) Hiçbir gerçeği; görünmeyen reklam en etkili reklamdır
• B) Tüketicinin bir tavsiye sandığı şeyin aslında açıklanmayan bir reklam olması onu yanıltır ve fark edildiğinde hem asistana hem markaya duyulan güveni zedeler
• C) Asistanların hiçbir zaman kahve önermediğini
• D) Reklamların yalnızca televizyonda işe yaradığını

Cevap: B. Asistanın kimin için çalıştığını bilmek, ona güvenmenin ön koşuludur.

Görev

Bir hafta boyunca bir asistanın, bir uygulamanın ya da bir öneri sisteminin size yaptığı alışveriş önerilerini tüketici günlüğünüze yazın. Her öneri için üç şeyi not edin: önerinin gerekçesini öğrenebildiniz mi, öneriyi değiştirme imkânınız var mıydı ve kararı ölçülebilir bir görev mi yoksa zevk meselesi mi olarak gördünüz. Hafta sonunda hangi önerileri kabul ettiğinizi bu üç notla karşılaştırın.

Tekrar kartları

• Biraz denetim yeter: Dietvorst ve arkadaşlarına göre insanlar, tahminlerini çok sınırlı da olsa değiştirebildiklerinde kusurlu bir algoritmayı daha sık kullanır ve süreçten daha memnun kalır.
• Ölçülebilir ve zevk: Tüketiciler ölçülebilir, tekrar eden alışverişleri bırakmaya daha yatkın olabilir; zevk ve keşif kararlarını kendilerinde tutmak isteyebilir.
• Asistan kimin için çalışıyor?: Aracılı tüketimde önerinin gerekçesi ve görünmeyen ücretli öncelikler, tüketicinin güveninin ölçüsüdür.

Kaynakça

• Dietvorst, B. J., Simmons, J. P. ve Massey, C. (2018). Overcoming algorithm aversion: People will use imperfect algorithms if they can (even slightly) modify them. Management Science, 64(3), 1155–1170.
• Dietvorst, B. J., Simmons, J. P. ve Massey, C. (2015). Algorithm aversion: People erroneously avoid algorithms after seeing them err. Journal of Experimental Psychology: General, 144(1), 114–126.