Eğer bir makine düşünebilirse, bizden daha zekice de düşünebilir ve o zaman biz nasıl bir tavır takınmalıyız? Makineleri itaatkâr bir konumda tutabilsek bile… tür olarak, ciddi anlamda mütevazı hissetmeliyiz.
Alan Turing
Barut ve nükleer silahların icadından sonra, otonom silahlar savaş alanındaki üçüncü büyük devrim olarak anılmaya başlandı.
Yarı otonom silahların ordular tarafından kullanımının yaygınlaşmasıyla bu silah sistemlerinin ileri aşamalardaki gelişimi ve kullanım kapsamı noktasında, siyasi, bilimsel ve insani temelde uzun soluklu tartışmalar başladı.
Katil robotlar olarak anılan ve dünyanın birçok farklı noktasından bilim insanının bu robotlar hakkında BM başta olmak üzere belirli uluslararası kuruluşları uyardığı yapay zekâ destekli silahlar, ful otonom ve yarı otonom olmak üzere iki sınıfta değerlendiriliyor.
Türk ordusunun son yıllarda aktif olarak kullandığı ‘drone’ lar, insan kontrolünde çalıştığı için yarı otonom olarak değerlendiriliyor. Öte yandan, hedefini kendisi belirleyen, insan müdahalesi olmadan saldırı icra edebilen silahlar ful otonom olarak tanımlanıyor. Ve birçok insan bu ful otonom silahlar hakkında ciddi endişelere sahip. Kendi kendine çalışan bir ölüm makinesi!
Peki, sizce hangisi daha tehlikeli, insan müdahalesine gerek duymaksızın sadece hedefe yönelik saldırı düzenleyen ve sivil zayiattan sakınmaya çalışan yapay zekâ destekli bir otonom silah mı, yoksa tamamen insan kontrolünde işleyen yapaya zekâ destekli üst düzey bir katil robot mu?
İran-Irak Savaşı sırasında, 3 Temmuz 1988 günü USS Vincennes isimli kruvazör, İran gambotları ile çarpıştı ve kruvazörün radar sistemi yaklaşan bir uçağın uyarısını verdi. Kruvazörün kaptanı bir İran F-14 savaş uçağının saldırı için alçaldığını zannetti ve kruvazör sistemine ateş emri verdi. Ancak vurulan uçak, sivil taşımacılık yapan Iran Air’e ait bit yolcu jetiydi. Kaptan William Rodgers’ın yaptığı bu hata 290 sivilin ölümüne sebep oldu.
Kara ve deniz mayınları gibi bilindik bubi tuzakları haricinde, bugün itibariyle bildiğimiz tüm aktif silah sistemlerinin ardında bir insan bulunuyor. Saniyeler içerisinde ciddi bir karar almak zorunda olan insanlar, yukarıdaki örnekte olduğu gibi feci hatalara sebebiyet verebiliyorlar. 1988’deki bu kazada Amerikan kruvazörü yapay zekâ ile işleyen ful otonom bir sisteme sahip olsaydı, yolcu uçağını vurur muydu?
Veya Türk ve Yunan Hava Kuvvetleri arasında sık sık vuku bulan it dalaşlarını düşünün. Türk tarafında hemen tepki verebilen tamamen otonom bir drone ile Yunan ordusu tarafından uzaktan insan kontrolü ile işleyen ve dolayısıyla daha yavaş tepki veren bir drone arasındaki it dalaşını kim kazanır?
İnsanları kontrolden çıkararak hız kazanmak ve insan zayiatını düşürmek niyetiyle ful otonom silahların üretimi noktasında birçok ülke ciddi adımlar atıyor. Ancak bu durum kulağa ne kadar çekici gelse de, yapay zekâ destekli otonom silahların üretilmesi fikri savaşın eşiğini düşürüyor. Savaş kararı vermeyi kolaylaştırıyor.
Çünkü insanların ölmemesi savaşı etik mi kılıyor? Yoksa ilerleyen dönemde farklı savaş tanımları mı kullanıma girecek?
Katil robotların yasaklanması noktasında ciddi bir uluslararası baskı olmasına rağmen, sürecin nasıl işleyeceği, sonunda bir yasaklamanın olup olmayacağı, ola bile nasıl olacağı hakkında uzun soluklu tartışmalar hala sürüyor. Nitekim bu kapsamdaki gelişmeler insanlığın geleceği için ciddi soru işaretleri ve endişeler barındırıyor.
Nükleer silahların üretimi ve yayılması sürecinde tecrübe ettiğimiz gibi, sadece bir ana askeri gücün yapay zekâ destekli silah gelişiminde ilerlemeye başlaması, diğer ana aktörlerin de aynı yönde adım atması ve küresel bir silahlanma yarışı başlatmak için yeterlidir. Ve eğer bu olursa, Max Tegmark’ın dediği gibi otonom silahlar geleceğin kalaşnikofları olur.
Nükleer silahların aksine, otonom droneların düşük maliyetli ve basit hammaddeler gerektiren araçlar olması, bu tür otonom dorneların teröristler tarafında üretilmesi ve karaborsaya düşmesi gibi istenmeyen durumlara kapı aralayabilir. Medyada zaman zaman gördüğümüz ‘A terörist örgütünün elinde 100 gr uranyum olduğu öğrenildi’ haberleri tamamen sansasyoneldir. Teröristler için küçük bir kaya parçası 100 gramlık uranyumdan daha etkili bir silahtır. Nükleer reaktörde uranyum zenginleştirmek için gerekli altyapı, eğitim ve elemanınız yoksa elinizdeki uranyumun patlayıcı değeri yoktur.
Ancak ilerleyen süreçte terörist grupların elinde otonom silahlar olduğunu söyleyen bir haber duyarsak gerçekten endişelenmeliyiz demektir.
Stalin’in 21. yüzyıl versiyonunu bir düşünün, diğer ülkelerin dengesini bozmak, suikastlar düzenlemek veya belirli bir etnik grubu yok etmek için elinde ideal araçlar olacaktır. Ve bunu oturduğu yerden rahatça yapacaktır.
Veya bir terörist örgütün yapay zeka destekli otonom silah üretiminde ciddi gelişme sağladığını ve insanları gözünde vurarak öldürmeye programlı arı boyutundaki bir milyon adet drone dolu bir kamyonla şehrinize girdiğini düşünün. Kamyonun kapağını açıp şehri tamamen yok edebilecek bu terörist grubun elinde acımasız bir kitle imha silahı olmuş olur.
Hatta bu dronelara erişime sahip bireyler dahi otonom silahları kullanabilir. Alacak-verecek meselesinde parasını alamayan biri, muhatabını düşük maliyetli ve oldukça etkili olan arı boyutundaki bir drone ile öldürmeye kalkışabilir.
Öte yanda toplum otomatikleştikçe ve sosyal yaşam otonomlaştıkça, yapay zekâ temelli savaş daha güçlü bir etki yaratır. Düşman ülkede kullanılan sürücüsüz araçların, otonom endüstriyel üretim makinelerinin ve otonom uçakların kontrolünü ele geçirebilir, dahası otonom silahlarını ele geçirerek karşı tarafı çaresiz bir duruma düşürebilirsiniz.
Yapay zekâ destekli sistemler, barışçıl kullanımı noktasında insan gelişimine inanılmaz derecede katkı sağlama potansiyeli barındırıyor. Yapay zekâ sistemlerinin uluslararası regülasyonlar çerçevesinde düzgün inşası, insanlığa fayda sağlayarak savunmamıza yardımcı olabilir. Ama unutmamak gerek ki, saldırıya da yardımcı olabilir.
Modern insanın dünya üzerindeki kısa tarihi içerisinde inşa ettiği harika teknolojilerden biri olan yapay zekâ, insanlığın geleceğini ciddi manada değiştirebilir ve hatta sonunu dahi getirebilir. Bu konuda çok daha bilinçli olmalı ve bu olağanüstü teknolojinin aleyhimize dönmemesi için elimizden geleni yapmalıyız.
Ozan Çiftci