Bilgiyi makineye devretmenin bedeli

Giriş

Platon'un Phaidros diyaloğunda Sokrates, Mısır'dan kalma bir hikâye anlatır. Hesabı, geometriyi ve yazıyı icat eden tanrı Theuth, buluşlarını kral Thamus'a sunar ve yazının Mısırlıları daha bilge yapacağını, belleklerini güçlendireceğini söyler. Kral ise tersini düşünür: yazı, onu öğrenenlerin ruhunda unutkanlık doğuracaktır; çünkü insanlar hatırlamak için kendi içlerine değil, dışarıdaki işaretlere güvenecektir. Yazı, gerçek bilgelik değil, bilgelik görüntüsü verecektir; okuyanlar pek çok şey duymuş olacak ama öğrenmemiş olacaktır.

Bu hikâyeyi yazıyla okuyor olmamız, Thamus'un kaygısının tamamen haklı çıkmadığını gösterir: yazı, insanlığın bilgi birikimini sayısız kat artırdı. Ama kaygının kendisi yirmi dört yüzyıldır tekrar tekrar döner: matbaa, hesap makinesi, arama motoru, navigasyon programı ve şimdi yapay zekâ dil modelleri. Bir önceki derste, bir makinenin çıktısını iddia iddia doğrulamayı öğrendik. Ama bu, bir soruyu açık bıraktı: her şeyi doğrulamamız gerekiyorsa makineyi neden kullanalım; doğrulamayı bırakırsak ne kaybederiz? Bu derste bilişsel yükü dışarıya devretmenin kazançlarını ve bedellerini, otomasyonun paradokslarını, beceri körelmesini ve hangi bilgiyi makineye devretmenin akla uygun olduğunu inceleyeceksin.

Bu dersin kazanımları:

• Bilişsel devretme kavramını, otomasyonun ironilerini ve beceri körelmesinin mekanizmalarını açıklarsın. (anla)
• Bir işin makineye devredilip devredilmeyeceğine, güvenilirlik, hata bedeli, denetleme yetkinliği ve beceri değeri ölçütleriyle Devretme Kararı Matrisi aracılığıyla karar verirsin. (uygula)
• Bir bilgi ya da beceriyi devretmenin kişinin epistemik özerkliği üzerindeki etkisini değerlendirirsin. (değerlendir)

Ana anlatım

Bilişsel devretme

Psikologlar Evan Risko ve Sam Gilbert, 2016'da yayımladıkları bir incelemede, insanların zihinsel işlerini dış araçlara ya da bedensel eylemlere aktarmasına bilişsel devretme adını verdi. Bir alışveriş listesi yazmak, bir hatırlatıcı kurmak, bir hesabı kâğıt üzerinde yapmak, bir resmi daha iyi görmek için başı eğmek; bunların hepsi, zihnin yapabileceği ya da yapmakta zorlanacağı bir işi, dışarıdaki bir şeye bırakmaktır.

Bedenlenmiş biliş dersinin genişlemiş zihin tezi, devretmenin kendi başına bir kusur olmadığını hatırlatır. Clark ve Chalmers'ın örneğindeki Otto'nun defteri, Otto'nun belleğinin bir parçası gibi çalışıyordu. Andy Clark, 2003'te yayımlanan Doğuştan Siborglar'da, insanların araçlarıyla bütünleşerek düşünen varlıklar olduğunu, kalemin, kâğıdın, hesap cetvelinin insan zihninin tarihsel uzantıları olduğunu savundu. Bu açıdan bakıldığında, bir dil modelini kullanmak, bir sözlük ya da bir ansiklopedi kullanmaktan ilke olarak farklı değildir.

Ama Clark ve Chalmers'ın koşullarını hatırlamak gerekir: bir aracın zihnin parçası sayılabilmesi için, sürekli erişilebilir olması, içindeki bilginin kişi tarafından kolayca kullanılabilmesi, kişinin ona güvenmesi ve bilginin daha önce kişi tarafından onaylanmış olması gerekiyordu. Otto'nun defterindeki her bilgiyi Otto kendisi yazmıştı. Bir dil modelinin çıktıları ise, kişinin daha önce onayladığı bilgiler değildir; bu koşulu karşılamaz. Genişlemiş zihin tezi, bu yüzden, dil modellerine sınırsız bir devretme izni vermez.

Devretme neden çekicidir?

Risko ve Gilbert'in incelediği deneyler, insanların devretmeye, gerçekten gerekli olmadığı durumlarda bile yatkın olduğunu gösterdi. Bir bilgiyi kendi belleğimizde tutmak için harcayacağımız çaba, bir aracı kullanmanın çabasından biraz fazla göründüğünde, aracı seçeriz. Ayrıca kendi belleğimizin güvenilirliğini sistemli olarak olduğundan düşük tahmin etme eğilimindeyiz; bu yüzden, kendimize güvenebileceğimiz durumlarda bile dışarıya yaslanırız.

Bu eğilimin kendisi akla aykırı değildir: bilişsel kaynaklarımız sınırlıdır ve onları önemli işlere saklamak mantıklıdır. Sorun, devretmenin görünmez bir bedeli olmasıdır: bir işi sürekli dışarıya bıraktığımızda, o işi yapma becerimiz zamanla zayıflayabilir ve bu zayıflamayı, araç elimizden alınana kadar fark etmeyebiliriz.

Yol bulmak ve beyin

Bu bedelin en çok incelenen örneklerinden biri, yol bulmadır. Sinirbilimci Eleanor Maguire ve arkadaşları, 2000'de yayımladıkları bir çalışmada, Londra'daki taksi şoförlerinin beyinlerini inceledi. Londra'da taksi şoförü olabilmek için, şehrin binlerce sokağını ve yerini ezbere öğrenmeyi gerektiren zorlu bir sınavdan geçmek gerekir. Araştırmacılar, taksi şoförlerinde, mekânsal bellekle ilişkili bir beyin bölgesinin arka kısmının, taksi şoförü olmayan kişilere göre daha büyük olduğunu buldu; bu farkın büyüklüğü, kişinin taksi şoförlüğünde geçirdiği süreyle de ilişkiliydi.

Kanadalı araştırmacılar Louisa Dahmani ve Véronique Bohbot, 2020'de yayımladıkları bir çalışmada, bu sorunun tersini sordu: navigasyon programlarını sık kullanan kişilerin mekânsal belleği nasıl etkilenir? Çalışma, navigasyon programına daha çok başvuran kişilerin, kendi başlarına yol bulmaları gerektiğinde mekânsal bellek görevlerinde daha zayıf performans gösterdiğini ve bu ilişkinin zaman içinde de gözlendiğini bildirdi. Bu tür çalışmalar nedensellik konusunda kesin sonuç vermez; belki yol bulmakta zaten zorlanan kişiler navigasyona daha çok başvuruyordur. Ama ortaya çıkan örüntü, bir becerinin kullanılmadığında körelebileceği fikriyle uyumludur.

Otomasyonun ironileri

İngiliz psikolog Lisanne Bainbridge, 1983'te yayımlanan "Otomasyonun İronileri" başlıklı kısa ama çok etkili bir makalede, otomasyonun beklenmedik bir paradoksunu tarif etti. Bir işi otomatikleştirmenin amacı, insanın hatalarını azaltmaktır. Ama otomatik sistem, kolay ve rutin işleri üstlenir ve insana yalnızca sistemin başa çıkamadığı en zor ve en nadir durumları bırakır. Oysa insan, rutin işleri artık yapmadığı için, bu zor durumlarla başa çıkmak için gereken pratiği ve becerileri yitirmiştir. Otomasyon, insanın en çok ihtiyaç duyulduğu anda en az hazırlıklı olmasına yol açar.

Bainbridge'in ikinci ironisi, izleme ile ilgilidir. Otomatik bir sistemin doğru çalışıp çalışmadığını izlemek, insandan uzun süre boyunca, çoğu zaman hiçbir şey olmayan bir süreci dikkatle takip etmesini ister. Oysa insan dikkati, uzun süre değişmeyen bir durumu izlemekte oldukça zayıftır. Makine tanıklığı dersindeki otomasyon yanlılığı, bu ironinin psikolojik yüzüdür: izleyen kişi, sistemin çoğu zaman haklı çıkmasına alışarak, onun yanıldığı nadir anı gözden kaçırır.

Beceri körelmesi

Bu ironilerin güncel bir örneği tıpta tartışılıyor. Yapay zekâ destekli sistemler, bazı tıbbi görüntülerde, örneğin bağırsak endoskopisinde küçük lezyonları saptamada hekimlere yardım etmek için kullanılmaya başlandı. 2025'te Polonya'da birkaç merkezde yapılan ve yayımlanan gözlemsel bir çalışma, bu tür bir destek sistemine alışmış hekimlerin, sistem olmadan yaptıkları işlemlerde lezyon saptama oranlarının, sistemin kullanılmaya başlanmasından önceki döneme göre düştüğünü bildirdi. Çalışmanın yazarları, bu bulgunun kesin bir nedensellik göstermediğini, ama beceri körelmesi olasılığının ciddiye alınması gerektiğini vurguladı.

Beceri körelmesinin epistemolojik önemi, bir önceki dersin sonucuyla birleştiğinde ortaya çıkar. Bir makinenin çıktısını doğrulayabilmek için, o alanda yeterli bilgiye ve beceriye sahip olmak gerekir. Ama makineye güvendikçe o bilgi ve beceri zayıflarsa, doğrulama kapasitemiz de zayıflar. Devretme, kendi denetleme gücümüzü aşındırarak, zamanla daha kör bir güvene dönüşebilir. Ustalık bilgisi dersinde gördüğümüz, uzmanlığın sürekli pratikle ve geri bildirimle korunduğu fikri, burada bir uyarıya dönüşür: pratik edilmeyen uzmanlık, sessizce kaybolur.

Öğrenmek ve devretmek

Devretmenin bedeli, özellikle öğrenme sürecinde yüksektir. Bilişsel psikolojide yapılan çalışmalar, bir bilgiyi kendi çabamızla üretmenin, onu hazır olarak okumaktan daha kalıcı bir öğrenme sağladığını gösterdi. 1978'de Norman Slamecka ve Peter Graf, katılımcıların kendilerinin tamamladığı kelime çiftlerini, hazır verilenlerden daha iyi hatırladığını buldu; bu olguya üretme etkisi denir. Amerikalı psikolog Robert Bjork, 1994'te, öğrenme sırasında zorlanmanın, kısa vadede performansı düşürse de uzun vadede daha kalıcı öğrenme sağlayabileceğini savundu ve bu tür zorluklara istenen zorluklar adını verdi.

Bu bulgular, dil modellerinin eğitimde kullanımı için önemli bir ayrım önerir. Bir konuyu zaten bilen biri için, bir dil modeli zaman kazandıran bir yardımcıdır. Bir konuyu öğrenmeye çalışan biri için ise, modelin cevabı hazır sunması, öğrenmenin kendisi olan çabayı ortadan kaldırabilir. Anlama ve bilgelik dersinin vardığı sonuca göre, anlama tanıklıkla elden ele geçmez; bağlantıları herkes kendi kurar. Bir modelin yazdığı bir açıklamayı okumak, onu anlamış olmakla aynı şey değildir.

Epistemik özerklik

Devretmenin en derin bedeli, bir becerinin kaybından çok, düşünme alışkanlığının kaybı olabilir. Alman filozof Immanuel Kant, 1784'te yayımlanan "Aydınlanma Nedir?" makalesinde, insanın kendi aklını başkasının rehberliği olmadan kullanamamasını ergin olmama olarak tanımladı ve bunun çoğu zaman tembellikten ve korkudan kaynaklandığını söyledi. Kant'ın bu makaledeki cümlesi, bugün şaşırtıcı biçimde güncel görünür: ergin olmamak çok rahattır; benim yerime anlayan bir kitabım, benim yerime vicdan sahibi olan bir din adamım, benim yerime perhizime karar veren bir hekimim varsa, kendim düşünmeme gerek kalmaz.

Epistemik bağımlılık dersinde, bilgimizin büyük kısmının başkalarına dayandığını ve bunun kaçınılmaz olduğunu gördük; tam bir epistemik bağımsızlık ne mümkündür ne de arzu edilir. Epistemik özerklik, her şeyi kendi başımıza bilmek değil, kime ve neye ne zaman güveneceğimize kendi aklımızla karar verebilmektir. Bir dil modeli bu kararı bizim yerimize vermeye başladığında, yani hangi soruyu soracağımızı, hangi cevabı kabul edeceğimizi ve neyin önemli olduğunu belirlemeye başladığında, devretme epistemik özerkliği aşındırmaya başlar.

Devretmenin akla uygun olduğu yerler

Bu uyarılar, devretmenin her zaman kötü olduğu anlamına gelmez. Pek çok devretme hem akla uygun hem özgürleştiricidir. Hesap makinesi, aritmetiği değil, onun sıkıcı ve hataya açık tekrarını devralır; kişi, hesabın ne anlama geldiğini düşünmek için zaman kazanır. Bir yazım denetleyicisi, dikkatsizlik hatalarını yakalar; yazar, düşüncesine odaklanabilir. Bir çeviri programı, bilmediğin bir dildeki bir tabelayı anlamana yardım eder; o dili öğrenmeyi planlamıyorsan, burada kaybedilen bir beceri yoktur.

Devretmenin akla uygun olup olmadığını belirleyen, birkaç ölçütün birlikte değerlendirilmesidir: aracın bu işte ne kadar güvenilir olduğu, yanılırsa bunun bedelinin ne olduğu, aracın çıktısını denetleyebilecek bilgimizin olup olmadığı ve bu becerinin bizde kalmasının ne kadar değerli olduğu. Belirsizlik altında karar verme dersinde gördüğümüz gibi, geri döndürülemez ve ağır sonuçlu işlerde daha temkinli olmak gerekir.

Devretme Kararı Matrisi

Bu dersin aracı, bir işin makineye devredilip devredilmeyeceğine karar vermek için dört ölçütü birlikte değerlendirir. Önce görevi açıkça tanımlarsın: tam olarak hangi zihinsel iş devredilecek; bir bilgiyi bulmak mı, bir hesap yapmak mı, bir karar vermek mi, bir metin yazmak mı? İkinci olarak güvenilirliği değerlendirirsin: aracın bu özel işteki başarı kaydı nedir; bu alanda sık yanılır mı? Üçüncü olarak hata bedelini tartarsın: araç yanılırsa ne olur; hata kolayca fark edilir ve düzeltilebilir mi, yoksa geri döndürülemez mi? Dördüncü olarak denetleme yetkinliğini sorarsın: aracın çıktısını değerlendirebilecek bilgin ve becerin var mı; bu yetkinlik, devretme sürdükçe korunacak mı? Son olarak beceri değerini tartar ve kararını verirsin: bu becerinin sende kalması ne kadar önemli; öğrenme aşamasında mısın, araç elinden alınırsa ne olur? Karar dört seçenekten biridir: tamamen devret, devret ve denetle, araçla birlikte yap ya da kendin yap. Hangi seçeneği seçersen seç, devredilen beceriler için ara sıra araçsız bir yedek pratik planla.

Araç Kesinlik kapısında işler: bir makineye ne kadar güveneceğimizi, onun güvenilirliği kadar, onun yanıldığını fark edebilme kapasitemize ve bu kapasitenin zamanla nasıl değişeceğine de bağlar.

Örnekler

Basit örnek: telefon numaraları

Çocukken ailenin, en yakın arkadaşlarının ve akrabalarının telefon numaralarını ezbere biliyordun. Bugün, telefonun hepsini hatırlıyor; kendi numaran dışında belki hiçbirini bilmiyorsun. Devretme Kararı Matrisi'ni uygulayalım. Görev: telefon numaralarını hatırlamak. Güvenilirlik: telefonun rehberi son derece güvenilir; numaraları yanlış hatırlamaz. Hata bedeli: gündelik hayatta çok düşük. Ama bir durum var: telefonun kaybolur, şarjı biter ya da bir acil durumda başkasının telefonunu kullanman gerekir. O anda, kimseyi arayamayabilirsin. Denetleme yetkinliği: burada denetlenecek bir şey yok; rehber, onu sen doldurduğun için Otto'nun defteri gibi güvenilir. Beceri değeri: çoğu numarayı hatırlamanın bir değeri yok; ama birkaç kritik numarayı, örneğin bir aile üyesinin ve acil bir durumda arayacağın birinin numarasını, hatırlamanın değeri yüksek. Karar: çoğu numara için tamamen devret; iki ya da üç kritik numara için kendin yap. Yedek pratik: bu birkaç numarayı ara sıra rehbere bakmadan tuşlamak. Bu basit örnek, devretmenin çoğu zaman "hepsi ya da hiçbiri" değil, seçici bir karar olduğunu gösterir.

Orta örnek: öğrencinin okuma özetleri

Bir üniversite öğrencisi, bir dersin her hafta okunması gereken uzun makalelerini bir dil modeline özetletip yalnızca özetleri okuyor. Notları iyi, zamanı da artıyor. Devretme Kararı Matrisi'ni uygulayalım. Görev: bir akademik makaleyi okuyup ana argümanını kavramak. Güvenilirlik: model, çoğu zaman makalenin genel konusunu doğru özetler; ama önceki derste gördüğümüz sadakatsizlik türünden hatalar, yani makalede olmayan bir iddiayı eklemek ya da incelikli bir ayrımı düzleştirmek, mümkündür. Hata bedeli: bir sınavda yanlış bir bilgiyi tekrarlamak orta düzeyde bir bedel; daha büyük bedel ise görünmez olanıdır. Denetleme yetkinliği: öğrenci makaleyi okumadığı için, özetin doğru olup olmadığını değerlendiremez. Beceri değeri: öğrencinin bu derste kazanması gereken şeylerden biri, zaten uzun ve zor bir akademik metni okuyup ana argümanını kendisi çıkarabilmektir. Bu, üniversite eğitiminin en temel becerilerinden biridir ve öğrenci bu becerinin öğrenme aşamasındadır. Karar: bu durumda devretme, öğrenmenin kendisini devretmektir. Daha akla uygun bir seçenek, araçla birlikte yapmak olabilir: makaleyi önce kendisi okuyup ana argümanı kendi sözleriyle yazmak, sonra modelin özetiyle karşılaştırıp farkları incelemek. Bjork'un istenen zorlukları burada somutlaşır: kolay yol, öğrenmeyi atlamanın yoludur.

Gerçek hayat örneği: otomatik pilot kapandığında

1 Haziran 2009'da, Rio de Janeiro'dan Paris'e giden Air France'ın 447 sefer sayılı uçağı, Atlantik Okyanusu üzerinde düştü ve uçaktaki herkes hayatını kaybetti. Fransa'nın sivil havacılık kaza soruşturma bürosunun 2012'de yayımladığı nihai rapora göre, uçağın hız ölçüm sondaları yüksek irtifada buzlanma nedeniyle geçici olarak tutarsız veriler verdi; bunun üzerine otomatik pilot devreden çıktı ve uçağın kontrolü mürettebata geçti. Rapor, mürettebatın bu beklenmedik durumda uçağı elle kontrol ederken yaptığı hatalı müdahaleleri ve durumu doğru yorumlayamamasını kazanın başlıca etkenleri arasında sıraladı; rapor ayrıca, bu tür durumlar için eğitimin ve elle uçuş pratiğinin yetersizliğine dikkat çekti.

Devretme Kararı Matrisi'ni havacılık sistemine uygulayalım. Görev: yüksek irtifada uçağı yönetmek. Güvenilirlik: otomatik pilot, normal koşullarda son derece güvenilirdir; havacılığı çok daha güvenli hâle getirmiştir. Hata bedeli: otomatik sistem devre dışı kaldığında ve insan hazırlıksızsa, sonuçlar geri döndürülemez. Denetleme yetkinliği: Bainbridge'in ironisi burada tam olarak işler; otomatik pilot rutin uçuşu üstlendiği için, pilotların yüksek irtifada elle uçuş pratiği azalmıştı ve sistem onlara tam da en zor ve en nadir durumu bıraktı. Beceri değeri: elle uçuş becerisi, nadiren gerektiği hâlde, gerektiğinde hayati önemdedir. Karar: bu tür görevlerde doğru seçenek devret ve denetle, ama bununla birlikte düzenli yedek pratik zorunludur. Bu kazanın ardından havacılık otoriteleri ve şirketler, pilot eğitiminde elle uçuş ve beklenmedik durumlardan kurtarma pratiğine daha fazla ağırlık vermeye yöneldi. Bu vaka, devretmenin bedelinin, devretmenin kendisinde değil, devredilen becerinin bakımsız bırakılmasında yattığını gösterir.

Vakaya dönüş

Dilekçe vakasına bu kez Devretme Kararı Matrisi'nin gözüyle bakalım. Avukatın devrettiği görev, aslında iki ayrı görevdi: ilgili mahkeme kararlarını bulmak ve bu kararların gerçekten var olduğunu ve iddia edilen şeyi söylediğini doğrulamak. Bu iki görevi ayırmak, vakanın anahtarıdır.

Güvenilirlik: avukatın kullandığı sohbet programı, hukuk metinlerinin biçimini üretmekte başarılıydı; ama belirli kararların varlığı konusunda güvenilir değildi. Hata bedeli: mahkemeye sunulan bir belgede uydurulmuş bir karar, müvekkilin davasını, avukatın itibarını ve mahkemenin güvenini zedeler; geri döndürülmesi zordur. Denetleme yetkinliği: işte vakanın en öğretici noktası. Avukat, yıllarca hukuk pratiği yapmış biriydi; hukuk veri tabanlarında karar aramayı ve bir kararın tam metnini okumayı biliyordu. Yani denetleme yetkinliğine sahipti. Ama bu yetkinliği kullanmadı; doğrulama görevini de programa devretti.

Beceri değeri ve karar: bulma görevi için doğru seçenek, belki devret ve denetle olabilirdi; program, aranabilecek konuları ve olası kararları önerebilir, avukat da her birini veri tabanında arayabilirdi. Doğrulama görevi için ise tek akla uygun seçenek kendin yap idi, çünkü bu görev, mahkemeye karşı taşınan sorumluluğun kendisidir. Avukatın hatası, bulma görevini devretmesi değil, doğrulama görevini de devretmesiydi. Bu ayrım, yapay zekâ ile çalışan her meslek için geçerlidir: bir aracı bilgi bulmak için kullanmak akla uygun olabilir, ama bilginin sorumluluğunu da ona devretmek, makine tanıklığı dersinin gösterdiği üzere, hiçbir zaman devredilemeyecek bir şeyi devretmeye çalışmaktır.

Araç kartı: Devretme Kararı Matrisi

Egzersiz

Sonra, devrettiğin işlerden birini seç ve bu hafta bir kez, aracı kullanmadan kendin yap. Bunu yaparken zorlandığın yerleri not et; bu zorluklar, becerinin ne ölçüde köreldiğinin bir göstergesi olabilir. Günlüğüne, hangi işleri tamamen devretmeye devam edeceğini, hangilerini denetleyerek devredeceğini ve hangileri için düzenli bir yedek pratik planlayacağını yaz.

Mini test

1. Platon'un Phaidros'undaki Thamus'un yazıya dair kaygısı nedir ve bu kaygı bugünkü teknolojiler için neden yeniden sorulur?
2. Genişlemiş zihin tezi, bir dil modelini kullanmayı neden sınırsızca meşrulaştırmaz?
3. Bainbridge'in otomasyon ironileri nelerdir ve Air France 447 kazası bunları nasıl örnekler?
4. Üretme etkisi ve istenen zorluklar, öğrenme aşamasında bir yapay zekâ aracı kullanmak hakkında ne söyler?
5. Bir hastanede, ilaç dozlarını hesaplayan bir yazılım kullanılmaya başlanıyor. Yeni başlayan hemşireler doz hesabını artık hiç elle yapmıyor. Devretme Kararı Matrisi ile değerlendir.

Özet

• Bilişsel devretme (Risko ve Gilbert), zihinsel işleri dış araçlara bırakmaktır; sınırlı kaynakları korur, ama devredilen becerinin zamanla zayıflamasına yol açabilir.
• Genişlemiş zihin tezi devretmenin kendi başına kusur olmadığını gösterir; ama dil modellerinin çıktıları, kişinin önceden onayladığı bilgiler olmadığı için bu tezin koşullarını karşılamaz.
• Maguire'ın taksi şoförleri çalışması ve Dahmani ile Bohbot'un navigasyon çalışması, kullanılmayan becerilerin körelebileceği fikriyle uyumludur.
• Bainbridge'in otomasyon ironileri, otomasyonun insana en zor durumları bırakıp onu bunlara hazırlıksız kıldığını gösterir; Air France 447 ve tıptaki beceri körelmesi tartışmaları bunun örnekleridir.
• Üretme etkisi ve istenen zorluklar, öğrenme aşamasında devretmenin öğrenmenin kendisini devretmek olabileceğini gösterir; Kant'ın ergin olmama eleştirisi, epistemik özerkliğin önemini hatırlatır.
• Devretme Kararı Matrisi, bir işi devretme kararını güvenilirlik, hata bedeli, denetleme yetkinliği ve beceri değerine göre verir ve yedek pratik planlar.

Flashcard'lar

Sonraki derse köprü

Devretme Kararı Matrisi, bir işin makineye bırakılıp bırakılmayacağına karar vermemize yardım etti; en sık önerdiği seçenek de "devret ve denetle" ya da "birlikte yap" oldu. Ama bir insan ile bir yapay zekânın bir işi birlikte yapması tam olarak nasıl görünür? Kim neyi yapar, kim neyi denetler, anlaşmazlık olduğunda kimin görüşü ağır basar? 1998'de satranç şampiyonu Garri Kasparov, oyuncuların bir bilgisayar programıyla birlikte oynadığı bir satranç biçimi önerdi ve bu tür ekiplerin, tek başına oynayan hem insanlardan hem de programlardan güçlü olabileceği tartışıldı. Ders 10.4 modülü kapatıyor: insan ile yapay zekânın birlikte düşünmesini düzenlemenin yollarına bakacak; modülün projesi orada son biçimini alacak ve araç olarak, beş kapıyı bir arada işleten İşbirliği Protokolü gelecek.

Günlük sorusu: Bir aracın yardımı olmadan artık yapamadığını fark ettiğin bir iş var mı? O beceriyi yitirmenin sana neye mal olabileceğini hiç düşündün mü?

Tarihte bu tartışma

Bilişsel araçların insan zihnine etkisi, yazının kendisi kadar eski bir kaygıdır; Platon Phaidros'ta bu kaygıyı Theuth ile Thamus'un hikâyesiyle anlattı. Matbaanın yaygınlaşmasının ardından, İsviçreli hekim ve doğa bilimci Conrad Gessner, 1545'te yayımlanan kapsamlı bir kitap kataloğunda, kitapların kafa karıştırıcı çokluğundan yakındı. 1784'te Kant, kendi aklını kullanmayı aydınlanmanın özü saydı. Yirminci yüzyılın ikinci yarısında, hesap makinelerinin okullarda kullanımı, öğrencilerin aritmetik becerilerini zayıflatıp zayıflatmayacağı sorusuyla uzun süre tartışıldı. 1978'de Slamecka ve Graf üretme etkisini gösterdi; 1983'te Bainbridge otomasyonun ironilerini tanımladı; 1994'te Bjork istenen zorluklar kavramını önerdi. 2000'de Maguire ve arkadaşları taksi şoförlerinin beyinlerini inceledi. 2003'te Clark, insanları araçlarıyla bütünleşen varlıklar olarak tanımladı. 2009'daki Air France 447 kazası ve 2012'deki nihai rapor, havacılıkta otomasyon ile elle uçuş becerisi arasındaki ilişkiyi yeniden gündeme getirdi. 2016'da Risko ve Gilbert bilişsel devretmeyi sistemli olarak inceledi; 2020'de Dahmani ve Bohbot navigasyon kullanımının mekânsal belleğe etkisini araştırdı; 2025'te tıpta yapay zekâ desteğine bağlı beceri körelmesine dair ilk bulgular yayımlandı.