Yapay zeka ırkçı olabilir mi?

Amerika Birleşik Devletleri’nde (ABD) Minneapolis’te polis şiddeti sonucu siyahi Amerikalı George Floyd’un hayatını kaybetmesinin akabinde başlayan ve devlet umumuna yayılan protestolar devam ediyor. 

Uzun vakittir siyahi vatandaşlara karşı yapılan ırkçı taarruzlar memleket gündemini meşgul ederken, yapay zeka algoritmalarının sahip olduğu ırkçı ön yargılar da yine gündeme gelmeye başladı. 

Daha evvel yaşanan pek çok olayda yapay zeka sistemleri, beklenmedik ırkçı davranışlarıyla şirketlere sorun oluşturmuştu. Bu vukuatlardan en bilinenlerinden bir tanesi de Microsoft’un uzun gayretler sonucu ürettiği ve Twitter’da kullanıcılarla İngilizce sohbet etmesini beklediği yapay zeka botu TAY olmuştu. TAY beklentilerin bilakis kişilerle şirin sohbet etmemiş ve yalnızca 24 saat içerisinde küfürlü ve ırkçı paylaşımları nedeniyle durdurulmak zorunda kalınmıştı. Kullanıcılar üzerinde büyük bir şaşkınlığa sebebiyet veren bu yanıtlardan kimilerinde TAY, bayanlara ve Yahudilere hakaret etmiş, Meksika haddine duvar örülmesi gerektiğini belirtmişti. 

Algoritmaların gösterdiği ırkçı davranışların en öne çıkanlarından bir gayrısı de bir bilgisayar firmasının geliştirdiği kameranın çekimleri sırasında yaşanmıştı. Tıpkı iş bölgesinde çalışan iki iş arkadaşı tarafından çekilen görüntüde kameradaki yüz tanıma sistemi beyaz tenli olan Wanda Zamen’in yüzünü tanıyıp, takip ederken, siyah tenli Desi Cryer’ın yüzünü tanımamış ve hareketlerini de takip etmemişti. 

Sıklık müsabakası için geliştirilen “Beauty AI” ırkçı ön yargılar göstermiş ve daha çok beyaz tenli kimseleri öncelemişti. Avustralya ve Hong Kong merkezli bir şirket tarafından geliştirilen “Beauty AI” binlerce müracaat arasından yalnızca 6 siyahi başvuruyu kabul etmiş en çok tercihini ise beyaz tenli kimseler arasında kullanmıştı.

Yapay zekâ nasıl ırkçı olur?

Günümüzde yapay zekanın en değerli ögesi derin öğrenmenin (deep learning) birincil muhtaçlığı ise olgu tasarrufu oluyor. Derin öğrenme temelde, algoritmanın mevcut olgularla beslenmesi ve akabinde insan müdahalesine muhtaçlık olmadan doneleri tanıması mealine geliyor.

Örneğin, bir algoritma binlerce fotoğraf içinde kedileri tanımak üzerine eğitilir. Algoritma “kedi” olarak etiketlenmiş fotoğraflardan kedinin halini, duruşunu tanıyarak bir kalıp oluşturur ve daha sonra gördüğü fotoğraflarda bir kedinin olup olmadığını kendisi tespit edebiliyor.

Yapay zekanın eğitiminde kullanılan verilen ırkçılık ve ayrımcılık konusunda değerli bir konumda bulunuyor. Olgularını daha çok Kuzey Amerika nahiyesinden alan ve büyük orantıda beyaz Amerikalıların çalıştıkları Silikon Vadisi’ndeki yapay zeka sistemleri Asyalı ve Afrikalı beşerler üzerinde denendiğinde büyük dertlere yol açabiliyor.

Hukuk sahasında da kullanılması planlanan yapay zeka tıpkı hengamda ön yargılı donelerle beslendiği takdirde siyahi kişileri daha ziyade hatalı bulması üzere durumlara da neden olabiliyor. Mütehassıslar bu sebeple yapay zeka algoritmasının taraflılığı ve ayrımcılık üzere durumların önüne geçmek için eğitim olgularının, azınlıkları dezavantajlı duruma düşürmeyecek halde hazırlanması ve düzenlenmesi gerektiği konusunda uyarıyor. 

Geri
Instagram
Facebook
Superbox