Güvenli Kullanım Standardı

Açılış sahnesi

Amasya'da gelinlik, nişanlık ve çeyiz satan bir mağazanın dört kişilik pazarlama ekibi, altı aydır yapay zekâ araçlarını her işte kullanıyor. Kimse kimseye ne kullandığını sormuyor; herkes işini hızlandıran aracı kendisi seçmiş.

Bir ay içinde dört şey oluyor. Ekipten biri, yaklaşan düğünlere göre kampanya yapmak için müşteri listesini, adları, telefon numaraları ve düğün tarihleriyle birlikte ücretsiz bir sohbet aracına yapıştırıyor. Bir başkası kampanya görsellerini araçla üretiyor; görsellerdeki bütün gelinler aynı yaşta, aynı boyda ve aynı ten renginde. Mağazanın müşterilerinden birkaçı sosyal medyada kendilerini bu reklamlarda hiç görmediklerini yazıyor. Üçüncüsü, bir blog yazısında çeyiz harcamalarına dair bir oran yayımlıyor; bir okur kaynağını sorduğunda kimse oranın nereden geldiğini, hangi araçla ve kimin yazdığını bilmiyor.

Dördüncüsü en pahalısı oluyor. Mesaj kutusuna gelen sorulara taslak yazan bir araç, bir sabah onaylanmadan doğrudan gönderme ayarında kalıyor. Bir müşteriye, mağazanın hiç uygulamadığı bir iade koşulu yazılıyor. Müşteri bu mesajın ekran görüntüsüyle mağazaya geliyor.

Bu derste ne olacak

Amasyalı mağaza gerçek değil; dersteki öbür işyerleri de kurgudur. Buradaki anlatım hukuki danışmanlık değildir; kişisel verilerin işlenmesine ve paylaşılmasına ilişkin yükümlülükler uzmanla belirlenir. Mağazanın dört olayı ayrı ayrı bireysel hatalar gibi görünüyordu. Ortak kökleri tekti: ekip yapay zekâyı bir ekip olarak nasıl kullanacağına dair hiçbir kural yazmamıştı. Her çalışan neyi paylaşabileceğine, neyi yayımlayabileceğine ve neyi kimseye sormadan gönderebileceğine kendisi karar veriyordu.

Bu ders kursu kapatıyor ve bir ekip için güvenli kullanım standardını kuruyor. Önce hangi bilginin hangi araca verilebileceğini sınıflandırmayı göreceğiz. Ardından çıktılardaki önyargıyı denetlemeyi, her üretimin kaynağını ve sorumlusunu kayda geçirmeyi ve hangi çıktının hangi onaydan geçmeden dışarı çıkamayacağını belirlemeyi ele alacağız.

Sıfır noktası

Bu kurs yapay zekânın nasıl ürettiğini, görevin nasıl tanımlanacağını, araştırmada doğrulama zincirini, içerikte hak kaydını ve katmanlı son okumayı, analizde hesap izini ve hipotez etiketini kurdu. Bunların hepsi, tek bir çalışanın tek bir işi iyi yapmasını sağlayan yöntemlerdi. Bir standart ise bu yöntemlerden hangilerinin herkes için zorunlu olduğunu söyler.

Veriyle ilgili temel kurallar bu akademide daha önce kuruldu. Ölçüm biriminde veri minimizasyonu, yalnız yazılı bir amaç için gerekli olan verinin toplanmasıydı; takma adlandırma da analiz verilerinde kişileri doğrudan tanıtan bilgilerin anlamsız kimliklerle değiştirilmesi. Müşteri ilişkileri biriminde veri sınıfı, müşteri kaydındaki bilgilerin türlerine göre ayrılmasıydı. Bir önceki kursta da, müşterinin hiç söylemediği bir sağlık ya da maddi durumunu davranışından kestirmeyi hassas çıkarım diye adlandırmıştık. Araştırma biriminde yanlılık, ölçümün gerçek değerden sistemli biçimde ve hep aynı yönde ayrılmasıydı.

Mekanizma — hangi bilgi, hangi araca

Bir yapay zekâ aracına yapıştırılan her şey, işletmenin dışındaki bir sisteme gönderilmiş olur. Aracın kullanım koşullarına göre bu bilgi saklanabilir, bir süre tutulabilir ya da aracın geliştirilmesinde kullanılabilir. Ücretsiz bir sürümle kurumsal bir sözleşmeyle kullanılan sürüm arasında bu koşullar çok farklı olabilir. Çalışanlar bu farkı bilmezse, en kolay erişilen araç en hassas bilgiyle beslenir.

Aynı araç, iki farklı sürüm.

Önce takma kimlik.

Gizli bilgi de kısıtlıdır.

Mekanizma — çıktıdaki önyargı

Üretken modeller, eğitildikleri verideki kalıpları sürdürür. Bu veride bazı insanlar çok, bazıları az temsil edilmişse, bazı meslekler belirli cinsiyetlerle, bazı ürünler belirli yaş ve beden tipleriyle birlikte anılmışsa, model de böyle üretir. Bir görsel aracından gelin istendiğinde, belirli bir yaşta, belirli bir bedende ve belirli bir ten renginde bir gelin gelebilir. Bir metin aracından müşteri profili istendiğinde, kalıplaşmış bir profil gelebilir.

Kalıp yargı, profil taslağında.

Varsayımla dışarıda kalanlar.

Denetim, son okumanın bir katmanı.

Mekanizma — kaynak ve kayıt

Yapay zekâyla üretilmiş bir içerik yayımlandıktan aylar sonra bir soru gelebilir: bu sayı nereden geldi, bu görseli kim üretti, bu metinde neden bu iddia var? Kimin, hangi araçla, hangi girdiyle ve kimin onayıyla ürettiği kaydedilmemişse, bu sorunun cevabı yoktur. Kayıt, hem bir hatanın izini sürmeyi hem de bir sonraki kararda aynı hatayı yapmamayı mümkün kılar.

Birkaç satırlık bir tablo.

Açıklama kararı, önceden.

Usta katmanı — neyin onaysız çıkamayacağı

Bir standardın son parçası, yapay zekâ çıktılarının hangisinin bir insan onayı olmadan dışarı çıkabileceğidir. Her çıktıyı bir insanın onaylaması ilk bakışta en güvenli yol gibi görünür, ama ekip onay vermekten yorulur ve onaylar göstermelik hâle gelir. Hiçbir çıktının onaylanmaması ise, açılıştaki iade koşulu gibi olayları kaçınılmaz kılar. Doğru düzen, çıktıları riskine göre ayırmaktır.

Üç düzey, üç hız.

Küçük işletmede iki çizgi.

Standart da yaşlanır.

Yaygın hatalar

Aklında kalsın

Paylaşım sınıfı, her bilginin hangi araca verilebileceğini söyler: serbest, iç ve kısıtlı. Kişisel veri ve gizli bilgi kısıtlıdır; hukuki yükümlülükler uzmanla belirlenir.

Temsil denetimi, çıktıların kimi gösterip kimi göstermediğini işletmenin gerçek müşterileriyle karşılaştırır. Çeşitlilik görev tanımına yazılır.

Üretim kaydı, her önemli işin aracını, girdisini, kaynağını ve onaylayanını birkaç satırda tutar. Açıklama kararı da kayda girer.

Onay eşiği, çıktıları riskine göre onaysız, tek kişi onaylı ve uzman onaylı olarak ayırır. Müşteriye söz veren hiçbir şey onaysız çıkmaz.

Sonraki derse köprü

Bu kursta üretken yapay zekânın pazarlamada nasıl kullanılacağını baştan sona ele aldık: nasıl ürettiğini, ona görevin nasıl anlatılacağını, araştırmada, içerikte ve analizde çıktısının nasıl denetleneceğini ve son olarak bir ekibin uyacağı güvenli kullanım standardını. Amasyalı mağazanın dört kişilik ekibi artık tek sayfalık bir standarda göre çalışıyor.

Standardı yazarken ekip bir şey daha fark etti: dört kişi, dört ayrı aracı ayrı ayrı ödüyordu. İkisi aynı işi yapıyordu, biri müşteri iletişim aracına bağlanmıştı ve kimse bu bağlantının bakımını yapmıyordu. Hiçbir aracın toplam bedeli, yani aboneliğinin yanında bağlantısının, eğitiminin ve bırakılırsa geçişinin bedeli, hiç hesaplanmamıştı.

Sıradaki kurs pazarlama teknolojisinin ve yapay zekânın yönetişimini ele alıyor. İlk dersi teknoloji portföyünü ve toplam maliyeti çalışıyor: bir aracın lisans, entegrasyon, veri, eğitim ve geçiş maliyetlerini birlikte değerlendirmeyi orada göreceğiz.