Benzer sistemlerin polis kuvvetlerinde görülebilen ırkçı önyargıları sürdürebildiği görülmüştü. Aynı risk bu sistem için de geçerli ancak, yapay zeka modellemesinin yaratıcıları sistemlerinin bu tür önyargıları ifşa edebileceğini de iddia ediyor.

Chicago Üniversitesi’nden makine öğrenmesi alanında çalışan Ishanu Chattopadhyay ve meslektaşları Illinois eyaletindeki Chicago kentinde 2014-2016 yılları arasındaki suç verilerini inceleyip gelecek haftalardaki suç oranlarını ve nerede geçekleşeceğini yüzde 90’a kadar doğruluk oranıyla tahmine edebilen bir yapay zeka modellemesi yarattı.

Model eğitim sürecinden sonra 300 metrekarelik alanlara bölünen şehirde belli suçların yaşanma olasılığını bir hafta öncesinden tahmin etti. Yedi büyük ABD şehrinde daha benzer bir performans sergilemek için eğitildi ve denendi.

Yakın zamanda Chicago polis teşkilatı silahla vurulma olaylarında hem kurban hem saldırgan bağlamında en çok risk altında olan kişilerin listesini çıkaran bir algoritma kullanmıştı. Algoritma’nın ve listenin detayları başta gizli tutulsa da daha sonra şehirdeki 20-29 yaş arası siyah gençlerin yüzde 56’sının listede yer aldığı ortaya çıkmıştı.

Steven Speilberg’ün yönetip Tom Cruise’un başrolünü üstlendiği 2002 yapımı ‘Azınlık Raporu‘nda benzer bir konu işleniyordu. 2054 yılında geçen filmde cinayet işleyecek insanları henüz suç gerçekleşmeden tutuklayan özel bir polis birimi vardı.

Chattopadhyay yapay zeka tahminlerinin doğrudan polise değil daha geniş bir bağlamda bilgilendirici olabileceğini ifade etti.