KATİL ROBOTLAR YASAKLANMALI MI?

YouTube'da gösterilen geleceğin öldürme özelliğine sahip otonom silahlarıyla ilgili animasyon insanı ürpertiyor. Animasyonda avuç içi büyüklüğündeki insansız hava araçlar (dronelar) algoritmalarıyla düşmanı belirliyor, yerini saptadıktan sonra ona kurtulma şansı tanımıyor. Kümeleşip aralarında kurdukları ağlar üzerinden haberleşen mini dronelara programları sosyal medya üzerinden aktarılıyor. Dronelara dair animasyonda öne çıkan bir diğer özellik de bunların sadece insan öldürmeleri.

Sadece bilim kurgu mu?

"Slaughterbots" adlı kısa film yayınlandığı Kasım 2017'den bu yana 2 milyon 500 bin kez izlenmiş. Otonom silahların yasaklanmasını talep eden Thomas Küchenmeister bu animasyonun bilim kurgu ürünü olmadığını ve gerçekleşmesinin uzun sürmeyeceğini söylüyor.

Katil robotları durdurmak için başlatılan uluslararası kampanyaya katılan "Facing Finance" adlı Alman örgütün başkanı olan Küchenmeister gezdiği silah fuarlarında yarı otonom görev yapabilen silahların çoktan üretici kataloglarında yer aldığını görmüş. Örneğin kendiliğinden hedefleri tarayan ve hangisini tahrip edeceğine kendisi karar veren roketler geliştirilmiş. Bir insanın kumanda etmesine rağmen bu roketler somut saldırı sırasında ateş emrini askerden almıyor ve durdurulmasına da imkan tanımıyor.

Devletler hukukuna aykırı

Küchenmeister, sivil ve askeri araçlar arasında ayırım yapmayan robot silahların son derece sakıncalı olduğunu söylüyor. Savaşlarda yürürlüğe giren uluslararası insani hukuk kurallarına göre savaşanların sivillerden ayırt edilmesi ve sivillerle sivil amaçlı binalara zarar verilmemesi yer alıyor.

Uluslararası Kızılhaç Komitesi de bu kuraldan hareketle otonom silah sistemlerini hedefi kendileri özerk olarak arayan, seçen, saldıran ve tahrip edebilen silahlar olarak tanımlıyor. Özerklik insan müdahalesi olmaması anlamına geliyor. Sorun da bu özelliğinden kaynaklanıyor. Ya otonom silahlar sadece düşman silahlarını tahrip etmeyip, sivilleri de öldürürse? Küchenmeister otonom silahlara devletler hukuku çipi takmanın mümkün olmadığını hatırlatıyor.

Silah sistemlerindeki özerklik yeteneğinin artmasında yapay zeka ve robot biliminde kaydedilen muazzam ilerleme rol oynuyor. Makine artık öğrenebiliyor ve tıpkı insan beyninin nöronlara dayalı iletişim ağında olduğu gibi, topladığı tecrübelere dayanarak taktik geliştirebiliyor. Silah endüstrisi bu özellikten yararlanarak hem daha hızlı ve etkili silahlar geliştirebiliyor hem de askerlerin riskini azaltıyor. Ordular da tam bunu istiyor. Ancak kesin ayrım yapılması da gerekiyor. Kendi başına mayın arayıp tahrip edebilen robotlara kimse karşı çıkmıyor. Kendiliğinden belli kişileri arayıp öldüren robotlar ise devletler hukukuna aykırı düşüyor.

Cenevre'de görüşmeler yapılıyor

Peki uluslararası hukuk bu silahlara nasıl uygulanacak? Konu, 2014 yılından bu yana Birleşmiş Milletler'de görüşülüyor. "Belirli Konvansiyonel Silahlar Sözleşmesi" çerçevesindeki Cenevre görüşmelerine 70 ülkenin dışında bilim insanları ve sivil toplum kuruluşları da katılıyor.

27 – 31 Ağustos tarihleri arasındaki müzakerelerde "Ölümcül Otonom Silah Sistemleri" ele alınıyor. Savaş meydanında birbiriyle vuruşan robotlar da bu tanımlamaya giriyor. Katil dronelar da henüz geliştirilmemiş olmakla birlikte yakında gündeme gelecek. Özerk silah teknolojisi dünyayı üç cepheye ayırdı: Bu silahlara karşı olanlar, otonom silahları onaylayanlar ve aralarında Almanya ve Fransa'nın da bulunduğu orta yolu tercih eden ülkeler.

"Dünyaya egemen olur"

Otonom silahların yasaklanmasına karşı olanların başında yapay zekanın askeri amaçla kullanılmasına büyük kaynak ayıran ABD, İsrail, Rusya ve İngiltere geliyor. Rusya Devlet Başkanı Vladimir Putin yakın zamanda öğrencilere hitaben yaptığı konuşmada, "Yapay zekada öncü olanlar dünyaya hükmeder" demişti. Putin, ABD ve Çin'in bu alanda liderliği ele geçirmesinden endişe ediyor. En "akıllı" otonom silahlanma yarışının çoktan başladığını artık herkes biliyor.

Yasaklanmasını isteyenler

26 devlet ve 230 uluslararası kuruluş otonom silahlara karşı çıkıyor. Amerikan "Future of Life" enstitüsü tarafından başlatılan kampanyaya 3 binin üzerinde tanınmış kişi katıldı. Tesla'nın patronu Elon Musk ile Google gibi yapay zeka teknolojisinde gelişme sağlayan kuruluşlar da otonom silah sistemlerine katkıda bulunmayacaklarını duyurdular. Robot silahlara karşı olan devlet ve kuruluşlar, bir insanı öldürme kararının asla bir makineye bırakılamayacağı gerekçesiyle bu tür silahların uluslararası norm ve yasalarla yasaklanmasını talep ediyor. Almanya ve Fransa geleceğin silahlarıyla ilgili standartların belirlenmesinden sonra yapay zekayla işleyen silahları yasaklama yoluna gidilebileceği görüşündeler. Thomas Küchenmeister ise Avrupa'nın en büyük ülkesi Almanya'nın derhal otonom silahların yasaklanmasından yana çıkması gerektiğini ve böylelikle diğer ülkelere de örnek oluşturacağını söylüyor.

Zaman baskısı

Zamanın daraldığı ise kesin. 35 yıldır yapay zeka araştırması yapan Amerikalı bilişimci Stuart Russell fikir babası olduğu "Slaughterbots" filmindeki senaryonun önlenebileceğini, ancak buna fazla zaman kalmadığını söylüyor. Dünyanın birçok ülkesinde drone kümeleri geliştirilirken, Alman silahlı kuvvetlerinin de aralarında bulunduğu birçok ülkede drone savar silahlar deneniyor. Küchenmeister, Cenevre görüşmelerinde ilerleme kaydedilemediği takdirde kamuoyu baskısının artacağını ve kara mayınlarında olduğu gibi BM dışında uluslararası bir yasaklama anlaşmasına varılabileceğini söylüyor. Kara mayınlarına karşı yürütülen kampanyaya 1997 yılında Nobel barış ödülü verilmişti.

Nina Wertkäuser