Yapay zekâ ve sanat etiği

Öğrenme hedefi

Bir cümleden görüntü üreten yapay zekâ sistemlerinin nasıl eğitildiğini ve bu eğitimin sanatçılar için neden tartışma konusu olduğunu açıklayabileceksin. Rıza, emek, telif ve şeffaflık sorularını birbirinden ayırabilecek; insan yazarlığının telif açısından neden belirleyici sayıldığını, bazı ülkelerde sanatçıların eserlerinin eğitimde kullanılmasını reddetme yollarının nasıl tartışıldığını ve bu alanda henüz kesinleşmemiş konuları anlatabileceksin. Fotoğrafın ortaya çıkışı gibi geçmişteki teknik değişimlerin ressamların işini nasıl dönüştürdüğünü bugünle dikkatle karşılaştırabilecek; ayrıca üretken sistemlerin, ten rengi belirtilmeyen istemlerde hangi yüzleri varsayılan olarak ürettiğini sorgulayıp kendi çalışmalarında bu tür araçları kullanırken temsil sorumluluğunu değerlendirebileceksin.

Kanca

Yapay zekâ ressamların işini mi alıyor?

Kırmızı duvarlı büyük bir salon, tavana kadar tablolarla dolu: dini sahneler, manzaralar, portreler, çerçeve çerçeveye değecek kadar sık asılmış. Alt sırada, küçük ve tanıdık bir kadın portresi. Ortada açılan kapıdan uzun, kemerli bir galeri görünüyor. Salonun içinde insanlar resim yapıyor: solda kırmızı başlıklı bir adam bir şövalenin önünde bir manzarayı kopyalıyor, onun yanında oturan bir kadın küçük bir tuvale eğilmiş, sağda bir genç kadın bir masada çalışıyor. Ortada, oturmuş bir genç kadının elindeki çizim tahtasına bir adam eğilmiş, bir şeyi gösteriyor. Hepsi, başkalarının resimlerine bakarak öğreniyor. Ressamlar yüzyıllardır böyle öğrendi. Bir makine aynı resimlere bakarak öğrendiğinde ne değişir?

Bağlam

Bu büyük tuval, Amerikalı ressam Samuel F. B. Morse'un 1831–1833 yıllarında yaptığı Louvre Galerisidir; bugün Chicago'daki Terra Amerikan Sanatı Vakfı koleksiyonundadır ve yaklaşık 1,87 metre yüksekliğindedir. Kaynaklara göre Morse, Paris'te bulunduğu sırada Louvre'u düzenli olarak ziyaret edip eski ustaların eserlerini kopyaladı ve bu resim üzerinde on dört ay çalıştı. Resimde görünen otuz sekiz eser, gerçekte müzenin farklı yerlerinde asılıydı; Morse onları en iyi bulduklarından seçip tek bir hayalî salonda bir araya getirdi. Kaynaklar, resimde Morse'un yazar arkadaşı James Fenimore Cooper'ın, kızı Susan'ın ve heykeltıraş Horatio Greenough'nun yer aldığını aktarır. Morse bugün daha çok telgraf ve onun adını taşıyan alfabeyle bilinir; kaynaklara göre 1839'da Paris'te Louis Daguerre ile tanıştı ve yeni fotoğraf yöntemini Amerika'ya tanıtan bir mektup yayımladı.

Önceki derste bitmiş işi kâğıda ve ekrana gönderdik. Bu dersle dijital resim modülünü, bugünün en çok tartışılan sorusuyla kapatıyoruz.

Ana anlatım

Üretken bir sistem nasıl öğrenir ve sorun nerede başlar?

Üretken yapay zekâ (generative AI), büyük örnek yığınlarından örüntü çıkararak yeni görüntü, metin ya da ses üretebilen bilgisayar sistemlerinin genel adıdır. Görüntü üreten sistemler, eğitim sırasında milyonlarca görüntüyü ve onlara eşlik eden açıklamaları işler; sonra bir kullanıcının yazdığı bir cümleye, bu eğitimde öğrendiği örüntüleri birleştirerek yeni bir görüntüyle karşılık verir. Sistem eğitim görüntülerini bir arşiv gibi saklamaz; ama onlardan öğrendiklerine dayanarak çalışır ve bazı durumlarda belirli bir sanatçının üslubuna çok yakın sonuçlar üretebilir.

Tartışma, bu görüntülerin nereden geldiğiyle başlar. Veri kazıma (web scraping), internetteki sayfalardan görüntülerin ve metinlerin otomatik yazılımlarla toplu olarak toplanmasıdır. Kaynaklara göre birçok büyük görüntü sistemi, bu yolla toplanmış ve içinde sanatçıların paylaştığı resimlerin de bulunduğu çok büyük veri kümeleriyle eğitildi. Rıza (consent), bir eserin sahibinin, eserinin belirli bir amaçla kullanılmasına bilerek izin vermesidir. Birçok sanatçının itirazı, eserlerinin kendilerine sorulmadan, karşılığında bir şey verilmeden ve çoğu zaman haberleri bile olmadan bu eğitimde kullanılmasınadır.

Morse'un salonu burada bir karşılaştırma fırsatı verir. Ressamlar yüzyıllardır başkalarının eserlerini kopyalayarak öğrendi; ama kaynaklara göre Louvre gibi müzelerde kopya yapmak çoğu zaman bir izne ve kurallara bağlıydı, kopyalayan kişi öğrendiğini kendi elinin emeğiyle, yavaşça edinirdi. Bir sistemin milyonlarca eseri kısa sürede işlemesi, bu öğrenmeye benzetilebilir mi, yoksa ölçeği ve amacı yüzünden bambaşka bir şey midir? Bu sorunun tek bir doğru cevabı yoktur; sanatçılar, hukukçular ve teknoloji şirketleri farklı cevaplar savunur. Bazıları, bir sistemin de bir insan gibi gördüğünden öğrendiğini ve öğrenmenin kendisinin kopyalama olmadığını söyler. Bazıları ise, bir insanın öğrenirken kendi emeğini harcadığını, bir sistemin ise başkalarının emeğini ölçeksiz bir hızla bir ürüne dönüştürdüğünü ve bu ürünün aynı sanatçılarla aynı pazarda yarıştığını vurgular. İkisini de anlamadan bir taraf seçmek, tartışmayı yoksullaştırır.

Hukuk bugün ne diyor, neler belirsiz?

Bu alan hızla değişiyor ve birçok soru hâlâ mahkemelerde. Yine de bazı noktalar öne çıkıyor. İnsan yazarlığı (human authorship), bir eserin telif koruması alabilmesi için yaratıcı katkının bir insandan gelmesi gerektiği ilkesidir. Kaynaklara göre Amerika Birleşik Devletleri Telif Hakkı Ofisi, 2023 Şubat'ında, görüntüleri bir yapay zekâ aracıyla üretilen bir çizgi romanın görüntülerine verdiği korumayı geri aldı; ama metnin, öykünün ve görüntülerin düzenlenişinin, yani insan katkısının korunduğunu belirtti. Yine kaynaklara göre 2023 Ağustos'unda bir ABD federal mahkemesi, tamamen bir yapay zekâ sisteminin ürettiği bir görüntünün, insan yazarı olmadığı için telif alamayacağına karar verdi.

Eğitim verisi tarafında ise tartışma sürüyor. Kaynaklara göre 2023 Ocak'ında üç ABD'li çizer, eserlerinin izinsiz olarak eğitimde kullanıldığını ileri sürerek bazı görüntü üretim şirketlerine karşı toplu bir dava açtı; dava dilekçesi teknik açıdan bazı yanlışlıklar içerdiği gerekçesiyle de eleştirildi. Avrupa Birliği'nde ise kaynaklara göre metin ve veri madenciliği için tanınan bir istisna, hak sahibi açıkça reddetmediği sürece ticari amaçlı eğitime de uygulanabiliyor; 2024'te kabul edilen yapay zekâ yasası, genel amaçlı model sağlayıcılarından bu reddetmeye uymalarını ve eğitim içeriğinin bir özetini yayımlamalarını istiyor. Almanya'da 2024'te bir bölge mahkemesi, bir fotoğrafçının bir eğitim veri kümesini hazırlayan kâr amacı gütmeyen bir kuruluşa açtığı davayı reddetti; karar temyize taşındı.

Bunların hiçbiri bir hukuk tavsiyesi değildir ve kurallar ülkeden ülkeye değişir. Bir ressam için çıkarılacak pratik ders şudur: kendi eserini nerede, hangi koşullarla paylaştığını bil; kullandığın bir platformun ya da aracın kullanım koşullarını oku; bir işte yapay zekâ kullanıp kullanmadığını, işin sahibine ve izleyicine dürüstçe söyle.

Ressamın işi değişiyor mu?

Teknik değişimler ressamların işini daha önce de dönüştürdü. On dokuzuncu yüzyılda fotoğrafın yaygınlaşması, kaynaklara göre özellikle küçük boyutlu portre minyatürleri yapan ressamların işini ciddi biçimde daralttı; bir yüzün benzerliğini hızlı ve ucuz biçimde kaydetmek artık bir makinenin işiydi. Ama resim ortadan kalkmadı; bazı ressamlar fotoğrafı yardımcı bir araç olarak kullanmaya başladı, bazıları da resmi, fotoğrafın yapamayacağı şeylere, ışığın, rengin ve fırçanın kendisine yöneltti. Morse'un kendisi bu geçişin tam ortasındaydı: Louvre'da eski ustaları kopyalayan ressam, birkaç yıl sonra fotoğrafı Amerika'ya tanıtanlardan biri oldu.

Bu karşılaştırma umut verebilir, ama dikkatle kullanılmalıdır. Fotoğraf makinesi başka ressamların eserlerinden öğrenmiyordu; üretken sistemler ise tam olarak bunu yapıyor ve bu da rıza ve telif sorusunu farklı kılıyor. Ayrıca geçmişteki dönüşümlerin bedelini, işini kaybeden tek tek insanlar ödedi; uzun vadede sanatın sürmesi, o insanların kayıplarını ortadan kaldırmaz. Bugün de illüstrasyon, kitap kapağı ve reklam gibi alanlarda çalışan çizerlerin bir kısmı, işlerinin azaldığını ya da ücretlerin düştüğünü söylüyor; bu etkinin büyüklüğü üzerine kesin ve genel bir ölçüm henüz yoktur.

Şeffaflık beyanı (disclosure), bir eserin yapımında yapay zekânın kullanılıp kullanılmadığını ve nasıl kullanıldığını açıkça belirtmektir. Bir yarışmaya, bir sergiye ya da bir müşteriye sunduğun işte bu bilgiyi vermek, hem güveni korur hem de kuralların sana ne izin verdiğini bilmeni sağlar. Kendi çalışmanda bu araçları hiç kullanmamak, yalnızca fikir aşamasında kullanmak ya da bir yardımcı olarak kullanmak, senin vereceğin bir karardır; ama hangisini seçersen seç, ne yaptığını söylemek, etiğin en sade biçimidir.

Bir sistem hangi yüzü «varsayılan» sayar?

Üretken sistemler, eğitildikleri verideki dengesizlikleri sonuçlarına taşıyabilir. Kaynaklara göre çeşitli incelemeler, ten rengi belirtilmeden yazılan istemlerde bazı görüntü sistemlerinin belirli meslekler için belirli ten tonlarını ve cinsiyetleri belirgin biçimde daha sık ürettiğini, örneğin saygın ve iyi ücretli meslekleri daha açık tenli yüzlerle, bazı düşük ücretli işleri ise daha koyu tenli yüzlerle ilişkilendirdiğini bildirdi. Bu, sistemin bir görüşü değil, eğitildiği verideki örüntülerin bir yansımasıdır; ama sonuçta ortaya çıkan görüntüler o örüntüleri yeniden üretir ve güçlendirebilir.

Bunun bir ressam için iki sonucu vardır. Birincisi, yapay zekâ ile üretilmiş görüntüleri referans olarak kullanıyorsan, hangi yüzleri ve tenleri gösterdiklerine, hangilerini göstermediklerine bak. Pürüzsüzleştirilmiş, gözeneksiz, tek düze bir ten, çoğu zaman bu sistemlerin ortalamasıdır; gerçek tenlerin kızarıklıkları, lekeleri, gölge renkleri ve alt tonları bu ortalamada kaybolabilir. Koyu tenli bir yüzün gölgedeki serin yansımaları, açık bir tenin damarlarının mavimsi geçişleri ya da zeytin tonlu bir tenin yeşilimsi alt tonu, bu tür görüntülerde sıkça düzleşir. İkincisi, bir resimde kimi göstereceğin, bir varsayılanın değil, senin kararındır. Gözlemden çizmek, farklı tenlerden ve yaşlardan gerçek insanlara bakmak, hem bir sistemin ortalamasından hem de kendi alışkanlıklarından kurtulmanın en güvenilir yoludur.

Uygulama

Ardından kendi çalışma ilkeni üç cümleyle yaz: yapay zekâyı hangi aşamada kullanırsın ya da hiç kullanmaz mısın, kullanırsan bunu kime ve nasıl söylersin, referanslarında farklı insanları ve tenleri nasıl gözetirsin. Bu kısa metin, ileride bir müşteriye, bir yarışmaya ya da bir sergiye sunacağın işler için bir pusula olur.

Sık yapılan hatalar

Kapanış

Yapay zekâ ressamların işini mi alıyor? Bu soruya tek bir cevap vermek yerine, onu oluşturan sorulara ayırmak gerekir. Üretken sistemler, çoğu zaman internetten toplanmış ve sanatçıların rızası alınmamış eserlerle eğitilir; bu, rıza ve emek sorusunu doğurur. Telif açısından birçok yerde insan yazarlığı belirleyici sayılır, ama eğitim verisiyle ilgili kurallar hâlâ tartışılıyor. Fotoğrafın ortaya çıkışı, teknik değişimin ressamların işini daraltabileceğini ama resmi ortadan kaldırmadığını gösterir; yine de iki durum birebir aynı değildir. Morse'un salonu, ressamların başkalarının eserlerinden öğrenmesinin uzun bir geçmişi olduğunu hatırlatır; bugünün sorusu, bu öğrenmenin ölçeği, rızası ve karşılığıdır. Üretken sistemlerin varsayılan yüzleri ise, temsilin bir karar olduğunu gösterir. Ödevde konu hakkındaki görüşünü bir paragrafta yazacaksın.

Kavram sözlüğü

Ödev

Konu hakkında görüşünü bir paragrafta yaz.

1. Derste ayırdığımız dört sorudan, rıza, emek, telif ve şeffaflıktan senin için en önemli olanı seç ve neden önemli bulduğunu iki cümleyle not et.
2. Bu soruda karşı görüşü savunan birinin en güçlü argümanını, onu çarpıtmadan, bir cümleyle yaz.
3. Kendi görüşünü, karşı görüşü de hesaba katarak tek bir paragrafta yaz; paragrafta en az bir somut örnek, örneğin bir platformun kuralı, bir ressamın deneyimi ya da derste geçen bir karar, yer alsın.
4. Paragrafın sonuna, kendi çalışmalarında yapay zekâyı nasıl kullanacağını ya da kullanmayacağını bir cümleyle ekle.

Kendini değerlendir

• Gözlem: Görüşünü desteklemek için somut ve doğrulanabilir bir örnek kullandın mı?
• Kompozisyon: Paragrafın bir ana fikir, onu destekleyen bir örnek ve bir sonuç cümlesiyle düzenli mi?
• Teknik ve Malzeme: Rıza, emek, telif ve şeffaflık kavramlarını birbirinden ayırarak kullandın mı?
• Kenar ve Ayrıntı: Karşı görüşü çarpıtmadan, adil bir biçimde aktarabildin mi?

Kendini sına

1. Üretken görüntü sistemleriyle ilgili sanatçıların temel itirazlarından biri nedir?

• A) Sistemlerin çok yavaş çalışması.
• B) Eserlerinin kendilerine sorulmadan ve karşılık verilmeden eğitimde kullanılması.
• C) Sistemlerin yalnızca siyah beyaz görüntü üretmesi.
• D) Sistemlerin yalnızca fotoğraf üretmesi.

2. Kaynaklara göre ABD Telif Hakkı Ofisi 2023'te bir çizgi roman için ne karar verdi?

• A) Hiçbir bölümünü korumadı.
• B) Bütün görüntüleri yapay zekâya ait saydı.
• C) Yapay zekâyla üretilen görüntülerin korumasını geri aldı, ama metni ve düzenlemeyi korudu.
• D) Kitabı yasakladı.

3. Fotoğrafın ortaya çıkışı ile bugünkü üretken sistemler arasındaki önemli bir fark nedir?

• A) Fotoğraf makinesi başka ressamların eserlerinden öğrenmiyordu; üretken sistemler ise onlardan öğrenir.
• B) Fotoğraf hiçbir ressamın işini etkilemedi.
• C) Üretken sistemler fotoğraf makinesinden daha eskidir.
• D) İki durum birebir aynıdır.

4. Şeffaflık beyanı nedir?

• A) Bir eserin fiyatını açıklamak.
• B) Bir eserin boyutunu belirtmek.
• C) Bir eserin hangi müzede olduğunu söylemek.
• D) Bir eserin yapımında yapay zekânın kullanılıp kullanılmadığını ve nasıl kullanıldığını açıkça belirtmek.

5. Üretilmiş görüntüleri referans olarak kullanırken ten açısından neye dikkat edilmelidir?

• A) Bu görüntülerin eğitim verisindeki dengesizlikleri taşıyabileceğine ve gerçek tenlerin alt tonlarını, kızarıklıklarını ve gölge renklerini düzleştirebileceğine.
• B) Bu görüntülerin her zaman tarafsız olduğuna.
• C) Yalnızca açık tenleri kullanmaya.
• D) Tenleri hiç boyamamaya.

Cevaplar

1. B — Veri kazıma çoğu zaman sanatçıların haberi bile olmadan yapılır.
2. C — Telif açısından insan katkısı, yani insan yazarlığı belirleyici sayıldı.
3. A — Bu fark, rıza ve telif sorusunu fotoğraf dönemindekinden farklı kılar.
4. D — Bu bilgiyi vermek güveni korur ve kurallara uymanı sağlar.
5. A — Gözlemden çizmek, sistemin ortalamasından kurtulmanın güvenilir bir yoludur.

Referans görseller

• Özgün animasyon: Morse'un salonundaki otuz sekiz eserin müzenin farklı salonlarından tek bir hayalî duvara taşınması; kopya yapan ressamların elleri.
• Özgün animasyon: bir eserin rıza, emek, telif ve şeffaflık soruları üzerinden dört ayrı mercekle incelenmesi; her merceğin sorduğu soru.
• Özgün animasyon: aynı istemle üretilmiş varsayılan yüzlerin pürüzsüz ortalaması ile gözlemden çizilmiş esmer, zeytin tonlu ve çok açık üç gerçek yüzün alt tonları ve gölge renkleriyle yan yana gösterilmesi.

Sonraki derse köprü

Dijital resim modülü burada bitiyor. Bir sonraki dizi, resmi bir meslek olarak seçmek isteyenler için daha somut bir yola, güzel sanatlar eğitimine giden kapıya bakıyor. Türkiye'de güzel sanatlar fakültelerine ve benzeri bölümlere girişte özel yetenek sınavları belirleyicidir: bir çizim ya da resim sınavı, çoğu zaman da birden fazla aşama. Bu sınavların nasıl işlediğini bilmek, hazırlığı doğru yere yöneltmenin ilk adımıdır. Sonraki derste özel yetenek sınav sistemini ve bu sınavlarda seni nelerin beklediğini ele alıyoruz.