Yapay zekâ kullanımı

Açılış sahnesi

Deniz, bir yapay zekâ sohbet aracına ikinci monografinin bir bölümünü kısaca özetlemesini söylemiş ve birkaç saniye içinde akıcı, düzenli bir özet almıştı. Özeti rapora koymadan önce onu monografinin kendisiyle cümle cümle karşılaştırıyor. Cümlelerin çoğu monografinin söylediğini doğru aktarıyor. Ama bir cümle, okulun sonraki düşünürlerinden birinin karma üzerine ayrı bir eser yazdığını ve bu eserin karmanın bir Tanrı tarafından yönetildiğini savunduğunu söylüyor. Monografi böyle bir eserden hiç söz etmiyor. Deniz, eseri kütüphane kataloğunda, iki veri tabanında ve ansiklopedi maddesinin kaynakçasında arıyor; hiçbir yerde bulamıyor.

Selin, aracın bir kaynak olup olmadığını, özetine atıf yapılıp yapılamayacağını soruyor. Kerem, aracın kullanıldığının rapora yazılması gerekip gerekmediğini ve raporun bir cümlesi yanlışsa bunun sorumluluğunun kime ait olacağını soruyor. Lina ise kendi deneyimini anlatıyor: tartışmalı cümleyi aynı araca çevirtmiş ve araç, iki okunuştan "kendiliğinden" okunuşunu, hiçbir uyarı yapmadan, cümlenin tek anlamı gibi çevirmişti. Tolga, aracın bir öğrencinin aylarca okuyarak ulaştığı bir özeti saniyeler içinde verdiğini ve bunu hiç kullanmamanın da bir kayıp olacağını söylüyor. Bu ders, Düşünme, Okuma ve Felsefi Yöntemler programının Kaynak, Atıf ve Araştırma Etiği kursunda, bir araştırmacının yapay zekâ araçlarını bir araştırmada nasıl kullanabileceğini, bu kullanımın okura nasıl bildirileceğini, bir yapay zekâ aracının ürettiği bir metnin neden bir kaynak olarak gösterilemeyeceğini ve bir araştırmacının bu araçların ürettiği iddialardan nasıl sorumlu olacağını soruyor.

Bu derste ne olacak

Önce bu dersin yerini belirleyelim. Bu kursun atıf ve akademik dürüstlük modülü, bir kaynağın sözcüklerinin, düşüncesinin ve bilgisinin bir araştırmacının metnine nasıl dürüstçe taşınacağını ve bu taşıma dürüst yapılmadığında neyin yanlış gittiğini ele aldı. Bütün bu derslerin arkasında tek bir ilke vardı: atıf, okura bir metnin hangi kısmının kime ait olduğunu ve neye dayandığını söyler. Bu ders, modülü kapatırken, bu ilkenin yeni bir yardımcıya nasıl uygulanacağını soruyor. Bir yapay zekâ aracı, bir kaynak değildir, bir yazar değildir, ama bir araştırmacının metnine sözcükler, özetler ve iddialar katabilir.

Sonra üç kaynağa bakacağız. Emily Bender ve arkadaşları, 2021'de, büyük dil modellerinin metinleri anlamlarına değil, sözcüklerin birlikte görülme olasılıklarına dayanarak ürettiğini öne sürer. Nature dergisi, 2023'ün başında yayımladığı bir başyazıda, bir dil modelinin bir makalenin yazarı olarak gösterilemeyeceğini ve kullanımının makalede belgelenmesi gerektiğini ilan eder. Yayın Etiği Komitesi ise aynı yıl, yapay zekâ araçlarının yazarlık koşullarını karşılayamayacağını, çünkü bir metnin sorumluluğunu üstlenemeyeceklerini belirten bir tutum açıklaması yayımlar.

Ardından üç itirazı tartacağız: yapay zekâ araçlarının bir araştırmada hiç kullanılmaması gerektiği, bir aracın çıktısının bir kaynak gibi alıntılanabileceği ve bir yazım denetleyicisini kimse bildirmediğine göre yapay zekâ kullanımını bildirmenin de gereksiz olduğu itirazları.

Sonda, bir araştırmada yapay zekâ araçlarını kullanmanın dört adımını göstereceğiz: aracın hangi iş için kullanılacağını belirlemek, aracın ürettiği her iddiayı bir kaynakta doğrulamak, atfı araca değil doğrulanan kaynağa yapmak ve kullanımı okura açıkça bildirmek.

Merkez soru

Sorumuz şu: bir araştırmacı yapay zekâ araçlarını bir araştırmada nasıl kullanabilir, bu kullanım okura nasıl bildirilir ve bir aracın ürettiği bir metin neden bir kaynak olarak gösterilemez?

Ölçülü iddiam şu: bir yapay zekâ dil modeli, bir araştırmacıya bir metni özetlemek, bir taslağı düzeltmek, bir çeviriye ilk bir öneri sunmak ya da bir aramaya terim önermek gibi işlerde yardımcı olabilir; ama bir dil modeli, metinlerini bir kaynağın içeriğine değil, sözcüklerin birlikte görülme olasılıklarına dayanarak ürettiği için, akıcı ve inandırıcı ama yanlış ya da uydurma iddialar üretebilir; bu yüzden bir aracın çıktısı bir kaynak değildir: bir kaynak, okurun başvurabileceği, sabit ve sorumluluğu bir yazara ait bir metindir, bir aracın çıktısı ise bunların hiçbirini karşılamaz; bir araştırmacı, aracın ürettiği her iddiayı bir kaynakta doğrular ve atfını araca değil o kaynağa yapar; aracın kullanımını, hangi iş için ve hangi ölçüde kullanıldığını belirterek okura bildirir; ve metninin her cümlesinin sorumluluğunu, o cümle bir araçtan gelmiş olsa bile, kendisi taşır.

Sıfır noktası

Bir öğrenci, bir yapay zekâ sohbet aracına bir soru sorduğunda, çoğu zaman karşısına bir insanın yazmış olabileceği kadar akıcı ve düzenli bir cevap çıkar. Bu akıcılık, cevabın güvenilir olduğu izlenimini verir: dil bilgisi hatası yoktur, cümleler birbirine bağlanır, terimler yerinde kullanılır. Ama bir metnin akıcı olması ile doğru olması aynı şey değildir. Bir öğrencinin bir kaynağı okuyup özetlediği bir metin, o kaynağa dayanır; bir aracın ürettiği bir özet ise, o kaynağa değil, aracın eğitildiği metinlerdeki kalıplara dayanır.

Bu fark, bir araştırmacının bir aracı nasıl kullanacağını belirler. Bir araç, bir araştırmacının işini hızlandırabilir: uzun bir bölümün kabaca ne söylediğini bir dakikada gösterebilir, bir taslaktaki anlatım bozukluklarını bulabilir, bir aramaya eş anlamlı terimler önerebilir. Ama bir aracın söylediği hiçbir şey, bir araştırmacının metnine, bir kaynakta doğrulanmadan giremez. Araç bir başlangıçtır; bir dayanak değildir.

Görüşler ve pozisyonlar

Bir araştırmada yapay zekâ araçlarının yeri konusunda üç görüş var.

Birinci görüş, yasak görüşüdür. Buna göre bir araştırmacı yapay zekâ araçlarını hiç kullanmamalıdır. Bir araştırma, bir araştırmacının kendi okumasına, kendi düşünmesine ve kendi yazmasına dayanır; bu işlerin herhangi birini bir araca bırakmak, araştırmanın kendisini boşaltır ve uydurma iddiaların metne sızmasına kapı açar.

İkinci görüş, kaynak görüşüdür. Buna göre bir yapay zekâ aracı, bir ansiklopedi ya da bir veri tabanı gibi bir bilgi kaynağıdır. Bir araştırmacı, bir aracın çıktısını kullandığında, ona, aracın adını, çıktının tarihini ve sorulan soruyu belirterek bir kaynak gibi atıf yapabilir; böylece okur, bilginin nereden geldiğini bilir.

Üçüncü görüş, doğrulanmış yardım görüşüdür. Buna göre bir yapay zekâ aracı, bir araştırmacının belirli işlerde başvurabileceği bir yardımcıdır, ama bir kaynak değildir. Araştırmacı, aracı hangi iş için kullandığını belirler, aracın ürettiği her iddiayı bir kaynakta doğrular, atfını araca değil doğruladığı kaynağa yapar, aracın kullanımını okura bildirir ve metninin her cümlesinin sorumluluğunu kendisi taşır.

Bu ders üçüncü görüşü temel alır. Birinci görüş, bir aracın uydurma iddialar üretebildiğini ve araştırmanın bir araştırmacının kendi okumasına dayanması gerektiğini doğru görür, ama bir aracın bir araştırmacının okumasının yerine değil, onun yanında kullanılabileceğini hesaba katmaz; Deniz'in olmayan eseri durumu, aracın özetinin monografiyi okuduktan sonra bir denetim aracı olarak işe yaradığını gösterdi. İkinci görüş, okurun bilginin nereden geldiğini bilmesi gerektiğini doğru görür, ama bir aracın çıktısının, bir kaynağın sahip olduğu özelliklerin hiçbirine sahip olmadığını göz ardı eder.

Argümanın yapısı

Bir araştırmada yapay zekâ araçlarını kullanmak için dört adım izlenebilir.

Birinci adım, aracın hangi iş için kullanılacağını belirlemektir. Araştırmacı, aracı hangi işte kullanacağına baştan karar verir: bir taslağın dilini düzeltmek, bir bölümün kabaca ne söylediğini görmek, bir aramaya terim önerisi almak ya da bir çeviriye ilk bir öneri sunmak. Aracın bir argümanın kendisini kurmasına ya da bir kaynağın yerine geçmesine izin vermez.

İkinci adım, aracın ürettiği her iddiayı bir kaynakta doğrulamaktır. Araştırmacı, aracın çıktısındaki her olguyu, her alıntıyı, her adı ve her eseri, bir kaynağın kendisinde bulur. Bulamadığı bir iddiayı metnine almaz.

Üçüncü adım, atfı araca değil doğrulanan kaynağa yapmaktır. Araştırmacı, aracın söylediği bir şeyi bir kaynakta doğruladığında, atfını o kaynağa yapar; çünkü okurun başvurabileceği, sabit ve sorumluluğu bir yazara ait metin odur.

Dördüncü adım, kullanımı okura açıkça bildirmektir. Araştırmacı, metninin hazırlanmasında hangi aracı, hangi işler için ve hangi ölçüde kullandığını, metnin uygun bir yerinde, örneğin bir yöntem bölümünde ya da bir teşekkür notunda, okura bildirir.

En güçlü itiraz

Bu yaklaşıma üç yönden ciddi itiraz yapılabilir.

Yapay zekâ kullanımını ciddiye alan düşünce şu cevabı verebilir. Bir yapay zekâ dil modeli, bir araştırmacıya özetlemek, düzeltmek, çevirmek ve terim önermek gibi işlerde yardımcı olabilir; ama metinlerini bir kaynağın içeriğine değil, sözcüklerin birlikte görülme olasılıklarına dayanarak ürettiği için, akıcı ama yanlış ya da uydurma iddialar üretebilir. Bu yüzden bir aracın çıktısı bir kaynak değildir: okurun başvurabileceği sabit bir metin değildir ve sorumluluğunu taşıyan bir yazarı yoktur. Bir araştırmacı, aracı belirli işler için kullanır, onun ürettiği her iddiayı bir kaynakta doğrular, atfını o kaynağa yapar ve kullanımı okura bildirir. Metninin her cümlesinin sorumluluğunu, o cümle bir araçtan gelmiş olsa bile, kendisi taşır.

Açık kalan sorular

Bender ve arkadaşları, dil modellerinin ürettiği metinlerin bir anlama ve bir niyete başvurmadan üretildiğini ve bir anlam izleniminin okurun kendi yorumundan geldiğini öne sürdü. Bu görüş, dil modellerinin geliştirilmesiyle birlikte tartışılmaya devam ediyor. Bir metnin anlamı, onu üretenin niyetine mi, yoksa onu okuyanın yorumuna mı bağlıdır? Bir dil modelinin ürettiği bir metni okurken, bir anlamı onda buluyor muyuz, yoksa ona mı katıyoruz?

Lina'nın tek anlamlı çevirisi, aracın bir filolojik karar vermediğini, eğitildiği metinlerde en sık gördüğü kalıbı yeniden ürettiğini gösterdi. Bir alanın yaygın yorumu, dil modellerinin çıktılarında daha da yaygınlaşırsa, azınlıkta kalan yorumlar giderek görünmez mi olur? Bir araştırmacının, bir aracın sessizce seçtiği bir yorumu fark etme sorumluluğu, aracın kendisinin bu yorumu bir seçim olarak göstermemesiyle nasıl dengelenebilir?

Yayın Etiği Komitesi, bir aracın ürettiği kısımlar da dâhil olmak üzere, yazarların çalışmalarının içeriğinden tümüyle sorumlu olduğunu vurguladı. Bir araştırmacı, bir aracın ürettiği bir metnin bütün iddialarını her zaman doğrulayabilir mi? Doğrulanamayacak kadar uzun ya da teknik bir çıktıyı kullanan bir araştırmacı, bu sorumluluğu nasıl taşıyabilir?

Yaygın hatalar

Kendin dene

Aklında kalsın

Beş cümlede dersin iskeleti.

Bir yapay zekâ dil modeli, bir araştırmacıya özetlemek, düzeltmek, çevirmek ve terim önermek gibi işlerde yardımcı olabilir; ama metinlerini bir kaynağın içeriğine değil sözcüklerin birlikte görülme olasılıklarına dayanarak ürettiği için, akıcı ama yanlış ya da uydurma iddialar üretebilir.

Bender ve arkadaşlarının çözümlemesi bir dil modelinin akıcılığının doğruluğunun göstergesi olmadığını, Nature'ın başyazısı yazarlığın bir katkının değil bir sorumluluğun adı olduğunu ve bir aracın katkısının bir kullanım olarak bildirilmesi gerektiğini, Yayın Etiği Komitesi'nin açıklaması ise bir aracın ürettiği metnin sorumluluğunun onu metnine alan araştırmacıya ait olduğunu gösterdi.

Bir araştırmada yapay zekâ araçları dört adımla kullanılır: aracın hangi iş için kullanılacağını belirlemek, ürettiği her iddiayı bir kaynakta doğrulamak, atfı araca değil doğrulanan kaynağa yapmak ve kullanımı okura bildirmek.

Araçların hiç kullanılmaması gerektiği, araç çıktısının bir kaynak gibi alıntılanabileceği ve bildirimin gereksiz olduğu itirazları, güvenli yolun aracı yasaklamak değil her çıktısını doğrulamak olduğunu, bir aracın çıktısının bir atfın okura vaat ettiği hiçbir şeyi karşılamadığını ve bildirimin ölçüsünün aracın içeriğe katkısı olduğunu gördüğümüzde cevaplanabilir.

Bu yüzden bir yapay zekâ aracını kullanmak, ondan bir başlangıç almak, onun söylediği hiçbir şeyi doğrulamadan metne koymamak ve metnin sorumluluğunu hiçbir zaman ona bırakmamaktır.

Sonraki derse köprü

Deniz'in olmayan eseri, grubu rahatsız eden bir soruya götürüyor. Araç, bir eseri uydurmuştu, ama bunu bir niyetle yapmamıştı; bir kalıbı yeniden üretmişti. Tolga, aynı şeyi bir insanın bilerek yapabileceğini söylüyor ve popüler kaynağı incelerken bulduğu bir ayrıntıyı hatırlatıyor: konuk yazarın kitabı, okulun kurucusuna ait olduğunu söylediği bir özdeyişle açılıyordu. Grup, bu özdeyişi temel metinde, iki monografide, üç makalede ve ansiklopedi maddesinde aradı; hiçbir yerde bulamadı. Kerem, bunun Mert'in komitesindeki Machiavelli özdeyişi gibi bir alıntı söylencesi, yani yıllar içinde bir düşünüre yakıştırılmış bir söz olabileceğini söylüyor. Ama Selin, kitabın özdeyiş için bir sayfa numarası bile verdiğini ve o sayfanın temel metinde başka bir şey söylediğini fark ediyor.

Bir kaynağın, bir alıntının ya da bir verinin var olmadığı hâlde var gibi gösterilmesi, bir araştırmanın dayandığı güveni en temelinden sarsar. Bir alıntı söylencesi ile bilerek uydurulmuş bir kaynak arasındaki fark, bir araştırmacının sorumluluğu hakkında yeni sorular açar.

Bir sonraki ders bu soruya dönüyor. Kaynak uydurma dersi, bir araştırmacının bir kaynağı, bir alıntıyı ya da bir veriyi uydurmasının ne anlama geldiğini, bir uydurmanın bir söylenceden ve bir hatadan nasıl ayırt edileceğini ve bir okurun uydurulmuş bir kaynağı nasıl fark edebileceğini soruyor.