Cinsiyet Ayrımı Yapan Yapay Zekanın işlevi Amozon Tarafından Durduruldu!
Cinsiyet Ayrımı Yapan Yapay Zekanın işlevi Amozon Tarafından Durduruldu! Planlaması 2014 yılında gerçekleştirilen Amazon’un insan kaynakları sürecinde kullandığı yapay zekâsı; işe alım sürecinde bir kaç yıldır hizmet veriyordu. Edinburgh merkezli Amazon mühendislerinin otomasyonda attığı son adım ile yapay zekâ işe alım sürecinde kullanılıyordu.
Kullanım amacı son derece basit bir kodlama üzerine oturtulan Yapay Zekâ işe alım sürecinde halkla ilişkiler görevi üstlenerek personel seçimi yapması planlanıyordu. En iyi özgeçmiş ve bilgileri tarayarak doğru bir şekilde personel alımı gerçekleştirilmesi öngörülüyordu. Projede 500 ayrı bilgisayar modülünde, elli bine yakın kelime tarayarak işlem gerçekleştirmesi planlanıyordu. Yapay zekâ, veri tabanında kayıtlı bulunan özgeçmişleri tarayarak adayları seçmek için web sitelerini gezinecekti. Yapay zekânın sürece etkisi; en iyi özgeçmişi tercih etmek olmalıydı. Özgeçmişler arasından doğru seçimler ile ayıklama yapması beklenen yapay zekânın işlevini tam olarak yerine getiremediği iki yıl sonra ortaya çıktı.
Yapay Zekâda Beklenmeyen Hata!
Edinburgh merkezli Amazon mühendislerinin işe alım sürecinde seçim işlevini gerçekleştirmesini planladığı yapay zekânın; işlevini tam olarak yerine getiremediği fark edildi. Görevini yerine getiren yapay zekâda bir şeylerin ters gittiği mühendisler tarafından fark edildi.
Yapay zekânın taradığı özgeçmişler içerisinde ilk iki yıl erkek adaylar işe alım süresince ön plana çıktı. Geçmiş yıllarda erkek adayların fazla olması sebebi ile yapay zekânın kodlamasında bir sorun olduğu fark edildi. Yapay zekâ cinsiyeti kadın olan özgeçmişleri seçmeyerek erkek adaylara öncelik vermesi ile bir problem ortaya çıkardı. Yapay zekânın kadınları seçmemesi mühendislerin gözünden kaçmadı.
Yapay zekâ da beklenmeyen bu hata büyük yankı uyandırdı. Yapay zekânın programlamada ve seçimde yaptığı tek hata bununla sınırlı değil. Kadın özgeçmişleri tercih etmemenin yanı sıra, kız okullarından mezun olan adayları daha düşük puanladığı gerçeği de ortaya çıktı. Yapay zekâ zaman zaman da yetersiz adaylar önererek sistemin çalışma prensibine aykırı kararlar alıyordu. Sistem mühendisleri yapay zekânın karar alma ve seçme süresince başka hatlara yer vermemesi için sisteme müdahale etti. Daha önce de şartlı tahliye, kredi gibi konularda yanlış kararlar alması ile de yazılım adından bahsettirmişti. Amazon yetkililerin açıklaması ile sistemde karar verici değil sadece danışma nitelikli kullanılan yapay zekânın işlevinin sonlandırdığı belirtildi.
