Yapay zekâ tarafsız değil, çünkü onu geliştiren ve yöneten insanları yansıtıyor. Bulgaristan Ombudsmanı (Kamu Arabulucusu) Velislava Delçeva, yapay zekânın temel haklara etkisini ele alan uluslararası konferansın açılışında bunu söyledi. Delçeva’ya göre bağımsız bir toplumsal denetim ve uluslararası kurallar gerekiyor.
“Yapay Zekânın Temel Haklara Etkisi ve İnsan Hakları Kurumlarının Rolü” başlıklı konferansı Ombudsman’ın kendi kurumu düzenledi.
Delçeva’ya göre yapay zekâ kamu kurumlarına ancak şimdi giriyor, özel sektörde ise uzun zamandır var. Gelir, sağlık, destek ve yardıma erişim gibi konulardaki kararlar yapay zekâdan etkilenebiliyor. Delçeva bu yüzden yapay zekânın hangi riskleri taşıdığının ve hakları zarar gören insanların nasıl korunacağının açık olması gerektiğini söyledi.
Her teknik araç bazı tercihler ve öncelikler taşıyor. Bunlar, aracın neyi hesaba kattığından, neyi göz ardı ettiğinden, neyi iyileştirmeye çalıştığından ve insanları ile durumları hangi kategorilere ayırdığından anlaşılıyor. Görünüşte tarafsız bir sonucun arkasında önyargılar olabilir. Bu önyargılar eşitsiz muameleye ve ayrımcılığa yol açıyor.
Yapay zekâ insanların iletişimini taklit edebilir, ama bilinci, ahlakı, empatisi ve manevi bir yönü yok. Sonuçların sorumluluğu, özellikle kamu yönetiminde, yapay zekâyı geliştirenlerde, devreye alanlarda ve kullananlarda kalıyor.
Ombudsman’a göre bir kişi sosyal yardım, sağlık hizmeti ya da engellilik desteği için başvurduğunda karar, onun gerçek durumunu dikkate almalı. İdare, anlaşılır gerekçe göstermek ve itiraz imkânı tanımak zorunda. Delçeva, “Sistem böyle karar verdi, algoritma böyle karar verdi” sözünün bir cevap olmadığını söyledi. Vatandaşın koruma talep edip koruma görebilmesi için yapay zekânın nasıl çalıştığını anlamak zorunda olmadığını da ekledi.
Ombudsman konferansta, mühendis Metodi Dimitrov’un geliştirdiği insansı robot Robert’le konuşmaya çalıştı. Robot, yetenekleri hakkında kısa bir konuşma yaptı. İnsanlarla konuşabildiğini, soruları yanıtlayabildiğini, çok miktarda bilgiyi işleyebildiğini ve bazen herkesin hoşuna gitmeyen cevaplar verebildiğini söyledi. Bunun sistemin, yani algoritmanın kararı olduğunu da ekledi ve şöyle dedi: “Elbette tam da bu cümle, yapay zekâya ve insan haklarına adanmış bir konferans için herhalde en uygun cümle değil.” Robot, Ombudsman’ın sonraki sorularına teknik nedenlerle yanıt vermedi.
Ombudsman ve diğer insan hakları kuruluşları güvencelerin uygulanmasını izliyor. İhlallerin giderilmesini istiyor, bir uygulama daha fazla insanı etkilediğinde ise değişiklik gündemini açıyor.