Kullanıcı bir yapay zekânın neden öyle önerdiğini bilmek ve gerektiğinde onu düzeltmek ister. Bu modül iyi bir açıklamanın ne olduğunu, açıklamanın karar kalitesine gerçek etkisini, kullanıcı kontrolünü ve düzeltmeyi, onay, geri alma ve insan gözetimini ve kullanıcının geri bildiriminin sisteme nasıl döndüğünü anlatır.
Bu modülün sonunda
- Bir yapay zekâ önerisi için kullanıcının anlayacağı bir açıklama tasarlar.
- Bir yapay zekâ özelliğine onay, düzeltme ve geri alma denetimleri ekler.
Dersler
- M04-D01Açıklama nedirProgramda
İnsanların bir açıklamadan ne beklediğini (karşıtlık, seçicilik, sosyal bağlam) ve bunun yapay zekâ açıklamalarına nasıl taşınabileceğini açıklar.
Dayanak: Araştırma bulgusu: Miller (2019), Artificial Intelligence
- M04-D02Açıklama işe yarar mıProgramda
Yapay zekâ açıklamalarının insan ve sistemin birlikte verdiği kararların kalitesini her zaman artırmadığını ve fazla güveni körükleyebildiğini gösteren araştırmayı anlatır.
Dayanak: Araştırma bulgusu: Bansal ve arkadaşları (2021), CHI
- M04-D03Kontrol ve düzeltmeProgramda
Kullanıcının sistemin önerisini kolayca reddetmesini, düzeltmesini ve kişiselleştirmeyi kapatmasını tasarlamayı gösterir.
Dayanak: Araştırma bulgusu: Amershi ve arkadaşları (2019), CHI
- M04-D04İnsan gözetimiProgramda
Yüksek riskli kararlarda insanın son sözü söyleyebilmesini ve mevzuatın insan gözetimine dair beklentisini ilk bakışta açıklar.
Dayanak: Kanun veya yönetmelik: AB Yapay Zekâ Tüzüğü 2024/1689, insan gözetimi hükmü (madde yazımda doğrulanır)
- M04-D05Geri bildirim döngüsüProgramda
Kullanıcının beğenme, beğenmeme ve düzeltme geri bildiriminin sisteme nasıl döndüğünü ve bunun kullanıcıya nasıl söylendiğini açıklar.
Dayanak: Meslek kaynağı: Google PAIR, People + AI Guidebook (tarih yazımda doğrulanır)