Yapay zekâ düzenlemesi

Öğrenme çıktıları

• Hatırlama — Avrupa Birliği Yapay Zekâ Yasası'nın risk kademelerini ve temel takvimini sayar.
• Anlama — Dışsallık ve bilgi asimetrisinin yapay zekâ için neden düzenleme gerekçesi olarak öne sürüldüğünü açıklar.
• Analiz — Uyum maliyetinin büyük ve küçük şirketler arasında nasıl farklı dağıldığını ve bunun rekabete etkisini çözümler.
• Değerlendirme — Erken ve kapsamlı düzenleme ile bekle-gör yaklaşımı arasındaki ödünleşimi, ülkelerin farklı tercihleri üzerinden tartışır.

Sezgi

Açılış

31 Mart 2023'te İtalya, ChatGPT'yi ülkede geçici olarak durdurdu. Kararı veren kişisel verileri koruma kurumu Garante, şirketin kullanıcı verilerini modellerini eğitmek için hangi hukuki dayanakla topladığını açıklamadığını ve çocukların hizmete yaş denetimi olmadan erişebildiğini söyledi. Dünyanın en hızlı yayılan uygulamalarından biri, bir Avrupa ülkesinde bir gecede erişilemez oldu.

Dört hafta sonra, şirket gizlilik bilgilendirmelerini ve yaş doğrulamasını değiştirince hizmet yeniden açıldı. Ama hikâye bitmedi. Garante, soruşturmanın sonunda Aralık 2024'te şirkete 15 milyon avroluk ceza kesti. Mart 2026'da ise Roma'daki bir mahkeme cezayı iptal etti; gerekçe ihlallerin olup olmadığı değil, şirketin bu arada İrlanda'da bir Avrupa merkezi kurmuş olması ve yetkinin İtalyan kurumunda değil İrlanda'daki kurumda olmasıydı.

Üç yıl süren bu süreç, yapay zekâ düzenlemesinin bugünkü hâlini özetliyor: bir sorun görülüyor, bir kurum harekete geçiyor, ama hangi kuralın, hangi ülkede, kim tarafından uygulanacağı henüz yerine oturmamış. Devletler bu teknolojiye neden kural koymak istiyor ve bu kuralların ekonomik bedeli ne?

Hikâye — dünyanın ilk kapsamlı yapay zekâ yasası

Avrupa Komisyonu yapay zekâya özel bir yasa önerisini 2021'de yaptı. O zaman tartışmanın merkezinde yüz tanıma, işe alım yazılımları ve kredi puanlama sistemleri vardı. Yasa müzakere edilirken ChatGPT çıktı ve metne genel amaçlı yapay zekâ modellerine dair yepyeni bir bölüm eklendi. Yasa 1 Ağustos 2024'te yürürlüğe girdi.

Yasanın temel fikri, bütün yapay zekâ sistemlerini aynı kurallara bağlamak yerine onları risklerine göre kademelendirmekti. İnsanları davranışlarına göre puanlayıp sınıflayan sosyal puanlama gibi bazı uygulamalar tamamen yasaklandı. İşe alım, eğitim, kredi ve kritik altyapı gibi alanlarda kullanılan sistemler yüksek riskli sayıldı ve belgeleme, insan denetimi ve kalite yönetimi şartlarına bağlandı. Sohbet robotları gibi sistemlerde kullanıcıya bir makineyle konuştuğunun söylenmesi istendi. Geri kalan büyük çoğunluk ise ek bir yükümlülüğe tabi tutulmadı.

Yasaklar Şubat 2025'te, genel amaçlı modellere dair kurallar Ağustos 2025'te uygulanmaya başladı. Yüksek riskli sistemlere dair kuralların Ağustos 2026'da başlaması planlanıyordu. Ama şirketler ve üye devletler, uygulamaya yön verecek teknik standartların hazır olmadığını söyledi. Avrupa Birliği Temmuz 2026'da yürürlüğe giren bir değişiklikle bu kuralların başlangıcını, bağımsız sistemler için Aralık 2027'ye, ürünlere gömülü sistemler için Ağustos 2028'e erteledi. Yasaklanan uygulamalar için öngörülen ceza, 35 milyon avroya ya da şirketin dünya cirosunun yüzde 7'sine kadar çıkabiliyor.

Kavram — piyasa neyi kendi başına çözemez?

İktisatta devletin bir piyasaya kural koymasının klasik gerekçesi, piyasanın bazı sonuçları kendi başına doğru fiyatlayamamasıdır. Yapay zekâ tartışmasında iki gerekçe öne çıkıyor.

Birincisi dışsallıktır. Bir yapay zekâ sistemi yanlış bir kredi kararı verdiğinde, sahte bir ses kaydı ürettiğinde ya da yanlış bir bilgiyi yaydığında, bedeli sistemi yapan ya da satan şirket değil, çoğu zaman üçüncü kişiler öder. Şirket bu bedeli kendi hesabına katmak zorunda değilse, onu azaltmaya da yeterince yatırım yapmaz.

İkincisi bilgi asimetrisidir. Bir bankanın kullandığı kredi puanlama modelinin nasıl çalıştığını, hangi verilerle eğitildiğini ve kimlere karşı hatalı sonuç verdiğini, başvuran kişi bilemez. Çoğu zaman bankanın kendisi de tam olarak bilemez. Bir tarafın öbüründen çok daha fazla bilgiye sahip olduğu durumlarda, alıcı iyi ürünle kötü ürünü ayırt edemez ve piyasa kaliteyi ödüllendiremez.

Bu iki gerekçe düzenlemeyi haklı kılabilir, ama düzenlemenin kendisi de bir maliyettir. Bir şirketin kurallara uymak için yaptığı belgeleme, test, denetim ve hukuki danışmanlık harcamalarına uyum maliyeti denir. Bu maliyetin büyük kısmı sabittir: bir belgeleme sistemi kurmak, bir şirket yüz kişilik de olsa yüz bin kişilik de olsa benzer bir iş gerektirir.

Avrupa Birliği'nin risk temelli yaklaşımı, bu ödünleşimi yönetmenin bir yolu olarak tasarlandı: ağır kurallar yalnızca zararın büyük olabileceği kullanımlara uygulanıyor, geri kalanlar serbest bırakılıyor. Ama hangi kullanımın hangi kademeye düştüğünü belirlemek, başlı başına bir belirsizlik ve maliyet kaynağı.

Veri ve kanıt — üç farklı yol

Büyük ekonomiler bu konuda farklı yollar seçti. Avrupa Birliği, yukarıda anlatılan kapsamlı ve risk temelli bir yasa çıkardı. ABD'de federal düzeyde yapay zekâya özel kapsamlı bir yasa çıkmadı; Ekim 2023'te yayımlanan ve güvenlik testleri ile raporlama yükümlülükleri öngören bir başkanlık kararnamesi, Ocak 2025'te yeni yönetimce yürürlükten kaldırıldı. Kurallar büyük ölçüde mevcut tüketici koruma, ayrımcılık ve rekabet yasaları ile eyaletlerin kendi düzenlemeleri üzerinden yürüyor. Çin ise kamuya açık üretken yapay zekâ hizmetleri için Ağustos 2023'te yürürlüğe giren geçici bir yönetmelikle, içerik denetimi ve hizmet kaydına dayanan hedefli kurallar koydu.

Bu üç yolun ekonomik sonuçlarını bugün kesin olarak ölçmek henüz mümkün değil. Kurallar yeni, uygulamaları birkaç yıllık ve yapay zekâ yatırımlarını etkileyen başka pek çok etken, faiz, hesaplama gücüne erişim, yetenekli araştırmacıların nerede yaşadığı, aynı anda değişiyor. Kapsamlı düzenlemeyi savunanlar, net kuralların güven yaratarak benimsemeyi hızlandıracağını söylüyor. Eleştirenler, Avrupa'nın zaten ABD ve Çin'in gerisinde olduğu bir alanda uyum maliyetinin yeniliği daha da yavaşlatacağını savunuyor. Yüksek riskli sistemlere dair kuralların ertelenmesi, bu tartışmanın Avrupa'nın içinde de sürdüğünü gösteriyor.

Neden önemli? — Türkiye'nin konumu

Türkiye'de yapay zekâya özel bir yasa henüz yok. Haziran 2024'ten itibaren TBMM'ye birden fazla yapay zekâ kanun teklifi sunuldu; bunlardan ilki Avrupa Birliği'ninkine benzer bir risk değerlendirmesi yaklaşımı içeriyordu, sonrakiler ise daha çok mevcut yasalarda değişikliklere odaklanıyordu. Kaynakların gösterdiği kadarıyla bu dersin veri tarihi itibarıyla tekliflerden hiçbiri yasalaşmadı. Bu arada kişisel verilerin korunması kanunu, tüketici hukuku ve rekabet hukuku, yapay zekâ uygulamalarına da uygulanmaya devam ediyor.

Brüksel etkisi, Türkiye için özellikle önemli. Avrupa Birliği, Türkiye'nin en büyük ihracat pazarı. Avrupa'ya yapay zekâ içeren bir ürün ya da hizmet satan bir Türk şirketi, Türkiye'de hangi kural geçerli olursa olsun, AB kurallarına uymak zorunda. Türkiye'nin kendi yasasını yazarken önündeki seçim, bu yüzden yalnızca «sıkı mı, gevşek mi» değil; AB kurallarıyla uyumlu bir çerçeve mi, yoksa farklı bir yol mu? Uyumlu bir çerçeve ihracatçının uyum maliyetini düşürür; farklı bir yol, iç piyasada daha esnek kurallar sağlayabilir ama iki ayrı kurala uyma yükünü şirketlere bırakır.

Özet kartı

1. İtalya ChatGPT'yi 2023'te dört hafta durdurdu, 2024'te 15 milyon avro ceza kesti; Roma'daki bir mahkeme 2026'da cezayı yetki gerekçesiyle iptal etti.
2. AB Yapay Zekâ Yasası 1 Ağustos 2024'te yürürlüğe girdi ve sistemleri risklerine göre kademelendirdi; yüksek riskli sistemlere dair kurallar Aralık 2027'ye ertelendi.
3. Düzenlemenin iki klasik iktisadi gerekçesi dışsallık ve bilgi asimetrisidir; düzenlemenin bedeli ise uyum maliyetidir.
4. Uyum maliyetinin büyük kısmı sabit olduğu için küçük şirketlere görece ağır gelir; kötü tasarlanmış kurallar yoğunlaşmayı artırabilir.
5. AB kapsamlı, ABD parçalı, Çin hedefli bir yol seçti; Türkiye'de sunulan kanun teklifleri henüz yasalaşmadı ve Brüksel etkisi Türk ihracatçıları için AB kurallarını fiilen bağlayıcı kılıyor.

Kavram sözlüğü

Kendini sına

1. (Çıktı 1) AB Yapay Zekâ Yasası'nın risk kademelerini say ve her birine bir örnek ver.
2. (Çıktı 2) Bir yapay zekâ aracı, gerçekçi sahte ses kayıtları üretmeyi çok ucuzlatıyor. Bu durumda dışsallık nerede ortaya çıkar? Aracı yapan şirketin bunu azaltmak için yeterli yatırımı neden kendiliğinden yapmayabileceğini açıkla.
3. (Çıktı 3) Yeni bir kural, her yüksek riskli yapay zekâ sistemi için 500 bin avroluk bir uyum maliyeti getiriyor. Cirosu 10 milyon avro olan bir girişim ile cirosu 10 milyar avro olan bir şirket için bu maliyetin ciroya oranı nedir? Bu fark piyasa yapısını nasıl etkileyebilir?
4. (Çıktı 4) Bir ülkenin yapay zekâ düzenlemesini ertelemesinin olası faydası ve olası bedeli nedir?
5. (Çıktı 4) Avrupa'ya yazılım ihraç eden bir Türk şirketi için, Türkiye'nin AB kurallarından çok farklı bir yapay zekâ yasası çıkarmasının sonucu ne olur?

Cevaplar

1. Kabul edilemez risk: sosyal puanlama gibi yasaklanan uygulamalar. Yüksek risk: işe alım, eğitim, kredi ya da kritik altyapıda kullanılan sistemler. Sınırlı risk: sohbet robotları gibi, kullanıcıya makineyle konuştuğunun söylenmesi gereken sistemler. Asgari risk: istenmeyen e-posta filtreleri ya da oyunlardaki yapay zekâ gibi ek yükümlülük getirilmeyen büyük çoğunluk.
2. Sahte ses kayıtlarıyla dolandırılan, itibarı zedelenen ya da yanıltılan kişiler, bu aracın taraflarından değildir; zararın bedelini onlar öder ve bu bedel aracın fiyatına yansımaz. Şirket bu zararı ödemek zorunda olmadığı için, onu önleyecek damgalama, kötüye kullanım denetimi gibi önlemlere yapacağı harcama toplumun istediği düzeyin altında kalabilir.
3. Girişim için 500 bin / 10 milyon = yüzde 5; büyük şirket için 500 bin / 10 milyar = yüzde 0,005. Aynı kural küçük şirkete bin kat daha ağır gelir. Bu, yeni girişlerin azalmasına ve pazarın büyük şirketlerde yoğunlaşmasına yol açabilir.
4. Fayda: teknoloji ve riskleri daha iyi anlaşıldıktan sonra daha isabetli kurallar yazılabilir, erken ve yanlış kuralların yeniliği yavaşlatması önlenir. Bedel: bu sürede ortaya çıkan zararlar önlenemez, belirsizlik yatırımcıları ve şirketleri tedirgin edebilir, ve kurallar geç geldiğinde yerleşmiş uygulamaları değiştirmek daha zor olur.
5. Şirket AB pazarında satış yapmak için AB kurallarına uymak zorunda olduğu için, iki ayrı kurala birden uymak zorunda kalır ve uyum maliyeti artar. Türkiye'deki kurallar AB'ninkinden gevşekse bu şirkete Türkiye'de bir kolaylık sağlamaz, çünkü tek bir ürün yaparken yine AB kuralına göre tasarlar. Kurallar farklı yönlerde sıkıysa, şirket iki ürün yapmak zorunda kalabilir.

İleri okuma

• Anu Bradford (2020). The Brussels Effect: How the European Union Rules the World. AB kurallarının dünyaya nasıl yayıldığına dair temel kitap.
• Avrupa Birliği (2024). (AB) 2024/1689 sayılı Yapay Zekâ Yasası, eur-lex.europa.eu. Risk kademeleri ve yükümlülüklerin tam metni.
• Cumhurbaşkanlığı Dijital Dönüşüm Ofisi, Ulusal Yapay Zekâ Stratejisi 2024–2025 Eylem Planı (cbddo.gov.tr). Türkiye'nin yapay zekâ politikasının öncelikleri.

Sonraki derse köprü

Kuralları yazan, hesaplama gücünü üreten ve modelleri geliştiren ülkelerin çoğu zengin ülkeler. Peki geri kalanlar için yapay zekâ ne anlama geliyor? Ucuz emeğe dayalı hizmet ihracatı bir makineyle yapılabilir hâle geldiğinde, bir çağrı merkezine ya da bir yazılım atölyesine ev sahipliği yapan ülke ne kaybeder, ne kazanır? Aynı araçlar öğretmen ya da doktor sıkıntısı çeken ülkelere yeni bir imkân da açabilir mi? Gelişmekte olan ekonomilerin bu dönüşümdeki yeri, dizinin son bölümünün konusu.