AI araçlarında kişisel veri ve gizli araştırma materyali

Açılış sahnesi

Bir doktora öğrencisi, göçmen ev işçisi kadınlarla yaptığı kırk görüşmenin ses kayıtlarını bir çevrimiçi dökümleme hizmetine yükleyerek yazıya döktürmüş. Dökümler elinde birikince, ilk kodlama fikirlerini almak için bu metinleri parça parça sohbet tabanlı bir yapay zekâ aracına yapıştırmış. Kayıtlarda işverenlerin tam adları geçiyor, kadınların çalıştığı mahalleler ayrıntılı biçimde anılıyor, bazı cümlelerde belgesiz çalışıldığı açıkça anlatılıyor. Tez izleme toplantısının ortasında jüri üyelerinden biri aniden soruyor: bu dökümler şu anda tam olarak nerede duruyor? Öğrenci net bir cevap veremiyor, ekrandaki tarayıcı sekmelerini içinden sayarken onam formunda ne yazdığını hatırlamaya çalışıyor. Formda kayıtların yalnızca kendisi tarafından dinleneceği yazıyor, ama dökümleme hizmetinin ve yapay zekâ aracının bu cümlenin neresinde durduğu belirsiz. Aynı hafta içinde danışmanı, hakem olarak değerlendirmesi için kendisine gönderilen henüz yayımlanmamış bir makaleyi de iletiyor. Özetini çıkar, bana kısa ve anlaşılır bir not yaz diyerek öğrenciyi aynı aracı yeniden kullanmaya yönlendiriyor. Öğrenci makaleyi aynı pencerede aynı araca yapıştırmaya hazırlanırken bir şey onu duraksatıyor, ama bu duraksamayı henüz adlandıramıyor.

Bu derste ne olacak

Açılıştaki sahne kurgudur; öğrenci de danışman da jüri üyesi de, her gün farkına varmadan yapılan bir seçimi görünür kılsın diye düşünüldü. Bu ders, bir araştırmacının elindeki verinin bir yapay zekâ aracına ya da başka bir dış hizmete nasıl geçtiğini ele alıyor. Bu geçişin hangi somut sorulara bağlı olduğunu ve onamın bu geçişi ne kadar kapsadığını ayrıntılı biçimde gösteriyor. Katılımcı verisiyle sınırlı kalmıyoruz; hakem değerlendirmesi için okunan bir makale ya da bir meslektaşın henüz bitmemiş taslağı da aynı dikkati istiyor. Önce verinin nereye gittiğini gösteren bir mekanizma kuracağız, sonra bu mekanizmayı farklı bakış açılarından okuyacağız. Ardından bu sorunun hangi ölçekte fark yarattığını, Türkiye'de bu meselenin nasıl göründüğünü, bu bilgiye nasıl ulaşıldığını ve yaygın yanlış kanıları sırasıyla göreceğiz. Bu sıralama, sahnedeki tek bir kararın aslında birçok küçük seçimden oluştuğunu görmemizi sağlıyor.

Sıfır noktası — yapıştırma anı

Bir araştırmacının topladığı verinin kendi denetiminin dışına çıkması aslında hiç de yeni bir şey değil. Görüşme kayıtlarını bir dökümleme hizmetine göndermek, bir metni çeviri bürosuna yollamak, dosyaları bir bulut hizmetinde saklamak uzun zamandır yapılan işler arasında. Bu işlemlerin hepsinde veri, araştırmacının ve katılımcının dışında bir üçüncü tarafın sistemlerine giriyor, bu noktada asıl fark işlemin bilinçli mi yoksa fark edilmeden mi gerçekleştiğidir.

Yapay zekâ araçları bu eski pratiğe yeni bir sorun eklemedi, var olan sorunu görünmez ve kolay hâle getirdi. Bir dosyayı bir hizmete yüklemek bilinçli bir karar gibi hissettiriyor: dosya seçilir, bir yere yüklenir, bir onay tıklanır. Bir metni sohbet kutusuna yapıştırmak aynı ağırlıkta hissettirmiyor, iş akışının ortasında bir işi hızlıca yaptırmak için atılan küçük bir adım gibi görünüyor.

Mekanizma — hizmetin koşullarına sorulacak sorular

Bir hizmetin koşullarını okumadan önce sorulacak birkaç soru var: veri nerede işleniyor, ne kadar süreyle saklanıyor, kime açık? Aracı geliştirmek için kullanılıyor mu, istenirse silinebiliyor mu, bu soruların cevabı araçtan araca, hatta zamanla değişir. Bu ders belirli bir aracı güvenli ya da güvensiz ilan etmiyor, yalnızca sorulacak soruları öğretiyor. Bu sorulara verilecek cevaplar zamanla değiştiği için, araştırmacının kontrolü tek seferlik değil sürekli bir alışkanlık olmalıdır.

Onam formu, katılımcıya verisinin tam olarak kimlerin elinden geçeceğini anlattığı ölçüde bu geçişi kapsar. Form yalnızca araştırmacının dinleyeceğini söylüyorsa, döküm bir dış hizmete ya da bir yapay zekâ aracına gönderildiğinde onamın öngörmediği bir işleme başlamış olur. Süreç olarak onam fikri tam burada devreye giriyor: öngörülmeyen bir kullanım ortaya çıktığında katılımcıya yeniden sorulmalı ya da o kullanımdan vazgeçilmelidir. Geriye dönük düzeltmenin sınırı var, bir kez gönderilmiş bir döküm çoğu zaman geri çağrılamaz.

Gizli olan katılımcı verisiyle sınırlı değildir, hakem olarak okunan yayımlanmamış bir makale de aynı korumayı ister, bir fon başvurusu ve bir meslektaşın henüz bitmemiş taslağı da başkasının güvenine dayanır. Danışmanın kendisine ilettiği makaleyi aynı araca yapıştırması, öğrencinin karşılaştığı ikinci ve ayrı bir gizlilik türünü gösteriyor.

Riski azaltmanın aslında birden çok yolu var ve bunların hiçbiri tek başına yeterli değildir. Veriyi anonimleştirerek ya da ayrıntıları karartarak göndermek, yerel ya da kurumun kapalı bir sisteminde işlemek bunlardan ikisidir. Aracın koşullarını önceden okumak ve bu işlemeyi onam formuna yazmak da risk azaltmanın başka iki yolu. Veri akışını çizip etik kurul başvurusuna eklemek ile kullanılan aracı sonradan beyan etmek de listeyi tamamlar. Bu seçeneklerin her biri, verimlilik ile koruma arasındaki gerilimin bir tartısı, hangisinin seçileceği elde işlenen veriye ve katılımcının kırılganlığına göre değişir. Bu listeden hangi adımın atılacağı, verinin hassasiyetine ve elde bulunan zamana göre değişir.

Kuramsal mercekler

Kırılganlık ekseninden bakıldığında bu derste ilk soru şu oluyor: verisi dışarı çıkan kişi bunun bedelini ne ölçüde öder? Belgesiz çalıştığını anlatan bir katılımcı için işveren adının bir üçüncü tarafın sunucusunda görünmesi, gündelik hayatındaki somut bir riske dönüşebilir. Aynı hatayı yapan bir araştırmacı için sonuç ise çoğu zaman bir utanma anından ibaret kalır. Bu asimetri, kimin veri paylaştığı değil kimin bunun bedelini ödediği sorusunu öne çıkarır, bu yüzden aynı hata kimin başına geldiğine göre tamamen farklı bir ağırlık taşır.

Kurumsal eşitsizlik ekseninden bakıldığında, kapalı sistemlere, kurumsal lisanslara ve kurum içi hukuk danışmanlığına erişimin her araştırmacıda eşit olmadığı görülüyor. Büyük bütçeli kurumlarda çalışan bir araştırmacı, dış hizmetlere gündelik işlerinde daha az bağımlı kalabiliyor. En kırılgan katılımcılarla çalışan lisansüstü öğrenciler sıklıkla en az kaynağa sahip oluyor ve zaman baskısı altında en hızlı çözümü seçmek zorunda kalıyor.

Üçüncü bir bakış meslek içi güvene odaklanıyor ve hakemliği bir meslektaşın henüz savunmasız hâldeki fikrini okuma izni olarak görüyor. Bu izni veren kişi, metnin kendi dışında başka bir sisteme geçmeyeceğini varsayarak vermiştir, ama bu varsayımın ihlal edilmesi katılımcıya karşı işlenen bir ihlalden ilk bakışta daha farklı görünür. Ama aynı mekanizma, güvenilen bir metnin denetim dışına çıkması, başka bir alandaki hâlidir. Bu farklı bakışlar birlikte okunduğunda, aynı olayın kimin gözünden farklı bir risk taşıdığı daha açık görünür.

Ölçek

Bu dersin ölçek sorusu bir merdiven değil, bir karşıtlık kuruyor: veri hangi sınırı geçiyor? Veri dört farklı sınırdan birini geçebilir: aynı oda, aynı kurum, aynı ülke ya da ülke dışı. Bu dördü aynı eylemin dört farklı hâlleridir, ama taşıdıkları risk hiçbir zaman aynı değildir. Bu karşıtlığı gözden kaçırmak, aynı derecede tehlikeli görünmeyen iki farklı durumu birbirine karıştırmak anlamına gelir. Her sınır geçişinde veri, o sınırın öbür tarafındaki hukuka, denetime ve erişim kurallarına tabi oluyor.

İkinci bir karşıtlık ise tek bir eylem ile zamanla birikmiş bir alışkanlık arasında kuruluyor. Bir öğrencinin bir kez yaptığı yapıştırma işlemi, tek başına küçük ve önemsiz görünür. Ama bir disiplinin bütün lisansüstü öğrencileri aynı kısayolu benimserse, birikmiş alışkanlık tek bir hatadan farklı bir risk türü üretir. Bu ölçekte sorulacak soru artık bu araştırmacı ne yaptı değil, bu disiplin neyi normalleştirdi sorusudur.

Türkiye bağlamı ve karşılaştırma

Türkiye'de konuşma kaydını dökümleyen ve çeviren çoğu çevrimiçi hizmet, sunucularını ülke dışında çalıştırıyor. Bir görüşme kaydı yüklendiği anda veri, çoğunlukla ve fark edilmeden ülke sınırlarının dışına çıkmış oluyor. Bu durum, araştırmacının farkında olmadan kendi katılımcısının verisini ülke sınırları dışına taşımasına yol açabilir. Kişisel veriyi koruyan yasal çerçeve, verinin yurt dışına aktarımını genel düzeyde ayrıca düzenliyor. Bu ders bir hukuki tavsiye vermiyor, yalnızca bu düzenlemenin varlığını ve araştırmacının bunu bilmesi gerektiğini not ediyor.

Üniversitelerin araştırmacılar için onayladığı, kapalı ve kurum içinde çalışan araçlar Türkiye'de henüz yaygın değil. Bu yüzden lisansüstü öğrenciler dökümleme işini zaman baskısı altında sıkça dış hizmetlere devrediyor. Dünyada bazı üniversiteler araştırmacılar için onaylı araç listeleri ve kurumun kendi kapalı sistemlerini sunuyor. Bu karşılaştırmada ortaya çıkan asıl fark, teknolojinin kendisinde değil kurumun sağladığı altyapıda görünüyor, çünkü bu altyapı bireysel dikkatin yerini hiçbir zaman tutmaz.

Türkiye'deki etik kurul başvuru formlarının çoğu, kullanılacak yapay zekâ aracını ayrı bir soru olarak sormuyor. Bu boşluk, kararın nasıl alınacağını büyük ölçüde açık bırakıyor ve araştırmacıyı kendi çözümünü bulmaya itiyor.

Bu bilgiyi nasıl biliyoruz?

Bu derste anlatılanların dayanağı, gözlemlenebilir metinlerden ve saha içinde zamanla toplanan pratik bilgisinden geliyor. Hizmetlerin kullanım koşulları herkese açık bir sözleşme metni, bu metinler verinin nereye gittiğine dair doğrudan kanıt sunuyor. Etik kurulların yayımladığı rehberler zamanla değişen bir ikinci kanıt katmanı oluşturuyor; birçok kurul, üçüncü taraf araçların kullanımını onam formlarına eklemeye başladı. Araştırmacıların kendi anlattığı pratikler, hangi aracı ne için kullandıkları ve hangi adımı atladıkları da üçüncü bir kanıt türüdür, bu üç kaynak birbirini tamamlar çünkü hiçbiri tek başına tüm pratiği görünür kılmaz.

Yaygın hatalar

Aklında kalsın

1. Üçüncü taraf işleme, yapay zekâ araçlarından çok önce vardı; yeni olan verinin bu kadar kolay ve görünmeden dışarı çıkabilmesi.
2. Bir metni bir araca yapıştırmak, dosya göndermek kadar bilinçli hissettirmese de aynı sonucu doğurur ve veri yine başka bir sistemin denetimine geçer.
3. Sorulacak sorular hizmetin koşullarındadır: verinin nerede işlendiği, ne kadar saklandığı, kimin eriştiği ve silinip silinemediği.
4. Onam, süreç olarak düşünüldüğünde öngörülmeyen bir kullanım ortaya çıktığında yeniden sorulmalı ya da o kullanımdan vazgeçilmelidir.
5. Katılımcı verisi tek gizli materyal değildir; hakem metinleri, taslaklar ve fon başvuruları da başkasının güvenine dayanır.
6. Kapalı sistemlere ve kurumsal lisanslara erişim herkeste eşit değildir; en kırılgan katılımcılarla çalışanlar genellikle en az kaynağa sahip olanlardır.
7. Hiçbir önlem tek başına yeterli değildir; anonimleştirme, yerel işleme, onam ve beyan birlikte düşünüldüğünde bir koruma oluşturur.

Sonraki derse köprü

Bu kurs dört ilke arasındaki gerilimden başladı, onamı bir süreç olarak yeniden kurdu ve mahremiyet ile kimliğin korunmasını işledi. Ardından kırılganlık ile gücün araştırma ilişkisindeki yerini gösterdi, araştırmacının kendi konumunu ve taşıdığı duygusal yükü tartıştı. Son olarak kurul kararlarını, çıkar çatışmalarını ve açıklığın sınırlarını ele aldı, verinin yapay zekâ çağında nereye aktığını izledi.

Bu sekiz ders boyunca hep kendi topladığımız veriyle ve kendi katılımcılarımızla uğraştık, oysa hiçbir araştırma boşlukta başlamaz ve bir soruyu sormadan önce başkalarının bu soru hakkında ne bulduğunu bilmek gerekir. Başkalarının neyi hiç sormadığını ve hangi kavramlarla konuştuğunu bilmek de aynı ölçüde önemlidir. Başkalarının yazdığıyla çalışmanın da kendi dürüstlüğü var: neyi aradığını ve neyi dışarıda bıraktığını görünür kılmak, açıklık dersinde konuştuğumuz tavra yakın duruyor. Yeni kurs ise tam burada araştırmacının kendi topladığı veriden başkalarının çoktan yazdığı bilgiye doğru döner.