Yapay zekâ kullanımında şeffaflık

Açılış sahnesi

İki kişi aynı hafta birer işi teslim ediyor. İkisi de bu modülün önceki derslerini uygulamış: kaynağını doğru anmış, kültürel işareti sınamış, giriş şartlarını yazmış, çevresel izini gözden geçirmiş. İkisi de teslim ederken aynı cümleyi kuruyor: bir araçtan yararlandım.

Birincisi cümleyi orada bırakıyor. Okuyan kişi bu cümleden neyin araca, neyin kendisine ait olduğunu çıkaramıyor; elinde yalnızca bir itiraf kalıyor.

İkincisi aynı cümleyi kurduktan sonra iki şey daha yazıyor: aracın işin hangi adımına girdiğini ve o adımdaki kararı kimin verdiğini. Okuyan kişi artık işin nasıl kurulduğunu görebiliyor.

Fark ikisinin dürüstlüğünde değil, çünkü ikisi de gerçeği söylüyor. Fark bildirimin adresinde: birincisi kimseye bir şey vermiyor, ikincisi okuyan kişiye elle tutulur bir bilgi bırakıyor.

Bu derste ne olacak

Sıfırıncı seviyede tanımlanan yapay zekâ kullanım açıklaması zaten ne yazman gerektiğini söylüyor. Bu ders onu tekrar etmiyor; bu ders açıklamanın ne zaman gerektiğini soruyor, çünkü o soru hiçbir yerde çizilmemiş bir sınıra dayanıyor.

Bugün hemen her iş, bir yerinde seçim yapan araçlardan geçiyor; yazım denetimi, tamamlama, düzen önerisi, sıralama. "Araç kullandın mı" sorusunun kararlı bir cevabı yok, çünkü sınır yok. Bu ders o sınırı çiziyor: bir aracın açıklanması gerekip gerekmediği, kullanılıp kullanılmadığından değil, o aracın senin yerine bir karar verip vermediğinden çıkıyor. Bu ölçü her işte aynı biçimde çalışıyor, çünkü sorduğu şey aracın adı değil, o işte hangi adıma girdiği.

Önce bu ölçünün nasıl uygulanacağını göreceğiz. Sonra doğrulamanın beğenmekten nasıl ayrıldığını göreceğiz. Ardından kaç kararın araca geçtiğini saymanın önceki bir sayımdan nasıl farklı olduğunu göreceğiz. Son olarak belirsizliğin gizlenmeden yazılabileceğini ve bildirimin iki ayrı uçta nasıl bozulduğunu göreceğiz.

Bu ders bir sağlık hizmetinin ya da psikolojik desteğin yerine geçmez; anlatılan şey hangi adımın devredildiği. Bu ders hukuki bir görüş ya da telif danışmanlığı değildir; anlatılan şey bir çalışma ayrımı, yasal bir eşik değil.

Aşağıdaki örnekler kurgudur, hiçbir kişi ya da iş gerçek bir vakaya işaret etmiyor; amaç ayrımı elle tutulur kılmak.

Sıfır noktası — kararın nerede durduğunu bulmak

Yararlanmak ile karar vermek aynı şey değil. Bir aracın bir satırı işaretlemesi ile bir aracın bir paragrafı yazması arasındaki fark, aracın türünde değil, kararın nerede durduğunda.

Bu ayrımın pratik sonucu şu: aynı araç bir işte kararı sana bırakabiliyor, başka bir işte kararı kendisi verebiliyor. Aracın adı ya da türü bunu belirlemiyor; belirleyen şey hangi adıma girdiği ve o adımda seçeneği kimin kabul ettiği.

Mekanizma — bağımsız kontrol ve devir sayımı

Şeffaflık isteği çıktıyı nasıl doğruladığını da soruyor, ama doğrulamanın ne olduğunu hiçbir yerde söylemiyor. Bu boşluk burada dolduruluyor.

Bu ayrımın pratik sonucu şu: bir çıktıyı beğenmiş olmak onu doğrulamış olmak anlamına gelmiyor. Beğeni bir izlenimden geliyor, bağımsız kontrol ise çıktının dışında duran bir kaynağa ya da hesaba bakmaktan geçiyor.

Doğrulama adımın kendisini netleştiriyor ama bildirimin ne kadar kapsamlı olması gerektiği hâlâ açık kalıyor. Bunun için kaç adımın araca geçtiğini saymak gerekiyor.

Bu farkın pratik sonucu şu: devir sayımı bir yükümlülük ölçmüyor, yalnızca kaç adımın kimin elinde kaldığını kaydediyor. Sayı yüksek çıktığında bildirim daha çok adımı kapsıyor, düşük çıktığında daha az; ikisi de kendi başına bir eksiklik göstermiyor.

Usta katmanı — belirsizliği yazmak, iki ters uç

Doğrulama ve sayım çoğu işte yeterli, ama bazı işlerde araç ile kişinin kendi yönü hiç ayrılmıyor. Bu bölüm önce o sınırı, sonra bildirimin nasıl bozulabileceğini ele alıyor.

Bu pratiğin sonucu şu: belirsizlik notu bir eksiklik itirafı değil, aramanın ulaştığı gerçek bir sınır. Bu modülün üçüncü dersinde tanımlanan işaretli bilinmeyen ve dördüncü dersinde tanımlanan karma işaret aynı kalıbın başka örnekleri; oralarda da yöntem bir cevap üretmiyor, yalnızca bilinmediğini kaydediyor.

Devir sayımı bir kullanım miktarı ölçüsü değil ve bunu burada açıkça yazmak gerekiyor. Aracı sık kullanan bir kişi daha az yaratıcı sayılmıyor; ölçülen şey kullanım miktarı değil, kararın nerede durduğu. Aracı hiç kullanmayan bir kişi de bu ölçüden muaf değil, çünkü onun işinde de seçim yapan başka araçlar olabiliyor. Miktar bir sıralama üretmiyor, yalnızca hangi adımın kime ait olduğu üretiyor.

Bildirim iki ayrı uçta bozuluyor ve ikisi de aynı hataya, kararın nerede durduğunu hiç sormamaya çıkıyor.

Yaygın hatalar ve yanlış bilinenler

Aklında kalsın

Bir aracın açıklanması gerekip gerekmediği, kullanılıp kullanılmadığından değil, o aracın senin yerine bir karar verip vermediğinden çıkıyor. Adım devri yaratıcı hamlenin dört adımından birinde kararın kullanıcıdan araca geçmesi; araç bir seçenek üretip kullanıcı onu kabul ettiyse karar geçmiş, araç yalnızca verilen kararı uyguladıysa karar kullanıcıda kalmış oluyor.

Bağımsız kontrol çıktıyı beğenmekten ayrı bir eylem: çıktının dayandığı şeyi çıktıdan bağımsız bir yoldan sınamak. Beğeni bir kabul, bağımsız kontrol bir sınama ve ikisi birbirinin yerine geçmiyor.

Devir sayımı bir işte kaç adımın kararının araca geçtiğinin sayısı. Karar bakiyesinden farkı şu: orada soru bir borçtu, burada soru bir bildirim; sayı yüksek ya da düşük çıksın, kendi başına bir eksiklik göstermiyor.

Belirsizlik notu, kararın kime ait olduğu kişinin kendisi tarafından bile ayrılamadığında bu belirsizliği gizlemek yerine yazma pratiği. Etiket gürültüsü ise bildirimin tersine bozulma biçimi: her satırın yanına etiket iliştirmek bilgiyi değil okunabilirliği azaltıyor.

Ölçülen şey kullanım miktarı değil, kararın nerede durduğu; aracı hiç kullanmayan biri de bu ölçüden muaf değil.

Sonraki derse köprü

Bu derste soru işin nasıl yapıldığını bildirmekle ilgiliydi ve bildirim doğru yapıldığında iş kendini açıklıyordu. Ama bazı durumlarda bildirim eksiksiz olsa bile geriye bir soru kalıyor: işin kendisi neye yol açıyor, kimi yanıltıyor, ne zarar veriyor. Orada ölçülen şey üretiliş biçimi değil, işin dünyaya bıraktığı sonuç. Modülün son dersi, Zararlı veya yanıltıcı üretimden kaçınma, tam oradan başlıyor.