Bir yapay zekâ sistemi bütün kullanıcılarda aynı başarıyla çalışmaz: bazı ten tonlarında, aksanlarda ve gruplarda belirgin biçimde daha çok yanılabilir. Bu modül yanlılığın nereden geldiğini, ten tonu, dil ve aksan farklarını araştırmayla, zararı önceden öngörmeyi, kullanıcıya bir yapay zekâyla konuştuğunu bildirmeyi ve kişisel verinin korunmasını anlatır.
Bu modülün sonunda
- Bir yapay zekâ özelliğinin farklı gruplarda eşit başarıyla çalışıp çalışmadığını sınayan bir plan yazar.
- Bir özelliğin olası zararlarını kullanıcı grupları üzerinden önceden sıralar.
- Bir ürünün yapay zekâ kullanımını kullanıcıya bildirme yükümlülüğünü belirler.
Dersler
- M05-D01Yanlılık nereden gelirProgramda
Eğitim verisindeki eksik temsilin, etiketlemenin ve başarı ölçütünün bir sistemi bazı gruplar için nasıl daha kötü yaptığını açıklar.
Dayanak: Araştırma bulgusu: Buolamwini ve Gebru (2018), Proceedings of Machine Learning Research (FAT*)
- M05-D02Ten tonu, dil ve aksanProgramda
Yüz analizinin koyu tenli kadınlarda ve konuşma tanımanın bazı aksanlarda belirgin biçimde daha çok yanıldığını gösteren araştırmaları ve Türkçe ile yerel aksanlar için sınama gereğini anlatır.
Dayanak: Araştırma bulgusu: Buolamwini ve Gebru (2018); Koenecke ve arkadaşları (2020), Proceedings of the National Academy of Sciences
- M05-D03Zararı öngörmekProgramda
Bir özelliğin kimi, nasıl ve ne ölçüde zararlandırabileceğini tasarımdan önce sıralamayı ve en kırılgan kullanıcıyı öne almayı gösterir.
Dayanak: Zarar öngörme yöntemleri (kaynak yazımda seçilir)
- M05-D04Yapay zekâyla konuştuğunu bilmekProgramda
Kullanıcıya bir yapay zekâ sistemiyle etkileşimde olduğunun ve üretilmiş içeriğin bildirilmesi yükümlülüklerini açıklar.
Dayanak: Kanun veya yönetmelik: AB Yapay Zekâ Tüzüğü 2024/1689, şeffaflık yükümlülükleri (madde yazımda doğrulanır)
- M05-D05Kişisel veri ve yapay zekâProgramda
Bir yapay zekâ özelliğinin topladığı ve işlediği kişisel veri için aydınlatmayı, rızayı ve verinin modele girmesinin sorularını ilk bakışta açıklar; ayrıntı için KVKK akademisini gösterir.
Dayanak: Kanun: 6698 sayılı Kişisel Verilerin Korunması Kanunu (madde güncel metinden)