Algoritmalar hayatlarımızı ele geçiriyorlar. Her gün kullandığımız toplu taşımadan iş yerlerimizin girişindeki bankolara kadar birçok ayrıntının arkasında dijital algoritmalar çalışıyor.

Nesneler yeni yeni akıllanıyor ve daha şimdiden birçok ihtiyacımız için onların ‘zekasına’ ihtiyaç duyuyoruz. Çok da uzak olmayan bir gelecekte, makineler ve onları çalıştıran algoritmalar yaşamlarımızda daha fazla rol oynayacaklar. Bu geleceği hazırlamak için hummalı olarak onlara bildiğimiz her şeyi öğretmeye çalışıyor fakat bu o kadar da iyi bir fikir olmayabilir.

MIT mezunu Joy Boulamwini, yüz tanıma yazılımı üzerinde çalışırken bir algoritmanın ırkçı olabileceğini fark etti. Yazılım siyahi kadının yüzünü tanımadı çünkü algoritmanın mimarı cilt rengi ve yüz yapısı gibi değişkenleri tanımlamayı es geçmişti.

Algoritmanın kasıtlı olarak böyle geliştirilmiş olması küçük bir ihtimal. Kaldı ki, farkında olunmadan ırkçı bir algoritma yaratmak, insanların makinelere aktardıkları bilgi birikiminin istemsiz yanlılığını yansıtarak daha vahim bir duruma işaret ediyor.

Boulamwini, ‘kodlu bakış’ ismini verdiği yaklaşımla makine öğreniminde istemli ve istemsiz yanlılığa karşı mücadele ediyor ve ancak bu şekilde herkes için faydalı algoritmalar geliştirilebileceğini savunuyor.

Yazar Hakkında

mm

Girişimcileri, şirketleri, yatırımcıları ve profesyonelleri bir araya getiren geniş bir ekosistem olan İTÜ Çekirdek, kimyadan elektroniğe, bilişimden biyogenetiğe tüm sektörlere açık bir girişimcilik merkezidir.

Paylaşım
Close