İşe alım için uygulanan yazılım cinsiyetçi çıktı
ABD'li Amazon'un iş alımlarını otomatik hale getirmek için geliştirdiği yapay zeka programının, kadınlara karşı ayrımcılık yaptığı belirlendi. Mühendisler sistemi elden geçirdi ama yapay zekaya güvenemeyince, program iptal edildi.
ABD’li e-ticaret devi Amazon’un işe alımlarında kullanılmak için geliştirdiği yapay zeka programının, ayrımcılık yaptığı gerekçesiyle sessiz sedasız iptal edildiği ortaya çıktı.
Reuters’ın haberine göre Amazon, şirket bünyesindeki işe alımları otomatik hale getirmenin bir yolunu bulmak için 2014 yılında İskoçya’nın Edinburgh kentinde bir mühendislik ekibi kurdu.
Ekibin bu iş için geliştirdiği yapay zeka destekli bilgisayar programının kadınlara karşı önyargılı davrandığı ortaya çıkınca, Amazon bu girişimini 2017 yılında rafa kaldırdı.
İskoçya’daki ekibin geliştirdiği program, şirketin mevcut ve eski çalışanları ile geçmişte iş başvurusu yapmış olan adayların özgeçmişlerini inceleyip, 50 bin anahtar kelimeyi tarayan, 500 farklı işe alım modeli sunuyordu. Bir arama motoru gibi çalışan bu program, en iyi adayların özgeçmişlerini (CV) insan kaynakları birimindeki yöneticilerin karşısına çıkarıyordu.
Ancak bu sistem bir yıl çalıştıktan sonra ekipteki mühendisler, bir şeylerin ters gittiğini fark etti: Yapay zeka temelli bu arama motoru, kadın adayları görmezden geliyordu.
Buna sebep olan ise programın kullandığı Amazon’un 10 yıllık geçmişindeki işe alımlarla ilgili veri tabanında (ve teknoloji sektörünün genelinde) erkeklerin hakimiyetinin bulunmasıydı.
DÜZELTTİLER AMA GÜVENEMEDİLER
Erkeklerin daha çok tercih edildiği sonucuna varan yapay zeka, işe alım için geliştirilen arama motorunda “kadın” kelimesini filtreleyerek, adayların CV’lerini sunuyordu.
Sorunu fark eden Amazon’daki mühendis ekibi, buna benzer önyargı biçimlerini düzeltmek için yapay zeka programını elden geçirdi. Ancak habere göre yapay zekanın adaylara karşı haksız bir şekilde ayrımcılık yapmak için yeni yollar bulabileceğinden endişe duyan şirket, bu programdan vazgeçti.
TEKNOLOJİ DEVLERİNİN KARNESİ OLDUKÇA ZAYIF
Aslında kadın çalışan oranında diğer büyük teknoloji şirketlerinin karnesi Amazon'dan dahakötü durumda. Amazon'un toplam çalışanlarının yüzde 40'ı kadınken; bu oran Facebook'ta yüzde 36, Apple'da yüzde 32, Google'da yüzde 31 ve Microsoft'ta ise yüzde 26 seviyesinde.
