Bir yapay zekâ sistemine ne fazla ne az güvenilmeli: fazla güvenen kullanıcı hatayı görmez, az güvenen yararı kaçırır. Bu modül güvenin doğru ayarını, algoritmadan kaçınmayı, algoritmaya fazla güveni ve otomasyon yanlılığını, otomasyonun kullanımı, yanlış kullanımı ve hiç kullanılmamasını ve güveni tasarlamayı anlatır.
Bu modülün sonunda
- Bir yapay zekâ özelliğinde fazla güven ve kaçınma risklerini tanımlar.
- Kullanıcının güvenini sistemin gerçek başarısına yaklaştıracak tasarım kararları önerir.
Dersler
- M02-D01Güvenin doğru ayarıProgramda
Kullanıcının güveninin sistemin gerçek güvenilirliğiyle örtüşmesinin önemini ve bunu bozan etkenleri açıklar.
Dayanak: Araştırma bulgusu: Lee ve See (2004), Human Factors
- M02-D02Algoritmadan kaçınmaProgramda
İnsanların bir algoritmanın hata yaptığını gördükten sonra ona, daha kötü olsa bile insana göre daha az güvenmesini gösteren araştırmayı anlatır.
Dayanak: Araştırma bulgusu: Dietvorst, Simmons ve Massey (2015), Journal of Experimental Psychology: General
- M02-D03Fazla güvenProgramda
İnsanların bazı durumlarda algoritmanın tavsiyesini insanınkinden çok benimsemesini ve otomasyonun önerisini denetlemeden kabul etme eğilimini araştırmayla anlatır.
Dayanak: Araştırma bulgusu: Logg, Minson ve Moore (2019), Organizational Behavior and Human Decision Processes; Goddard, Roudsari ve Wyatt (2012), Journal of the American Medical Informatics Association
- M02-D04Kullanmak ve kullanmamakProgramda
Otomasyonun yerinde kullanımını, yanlış kullanımını, hiç kullanılmamasını ve kötüye kullanımını ayıran çerçeveyi açıklar.
Dayanak: Araştırma bulgusu: Parasuraman ve Riley (1997), Human Factors
- M02-D05Güveni tasarlamakProgramda
Güven puanı göstermenin, kaynak göstermenin ve kullanıcıyı denetime çağırmanın güveni doğru ayarlamadaki yararını ve sınırını tartışır.
Dayanak: Araştırma bulgusu: Lee ve See (2004), Human Factors