Ölüm-kalım ifade eden kararların bir gün insanların doğrudan kontrolü altında olmayan makineler tarafından alınabilme olasılığı ciddiye alınmalıdır. Son birkaç yıldır dron teknolojisinde kaydedilen hızlı ilerlemelere ve dronlarda giderek artan otonomiye şahit olmaktayız. Henüz onaylanmış hiçbir otonom dron sistemi kullanıma hazır durumda değilse de, bildiğimiz kadarı ile bu teknoloji sınanmakta ve geliştirilmektedir. Bazıları otonom dronları kullanmanın getireceği yeni fırsatları ve potansiyel yararlarını savunurken, bazıları da bu tür teknolojiyi geliştirmenin ve kullanmanın etik olamadığını savunmaktadır. Stephen Hawking, Elon Musk ve Steve Wozniak gibi saygın kişiler ısrarla savaşlarda yapay zekâ veya otonom silahların kullanılmasının yasaklanması gerektiğini söylemektedirler. O halde, bu konuda hangi noktadayız ve ilgili yasal ve etik konular nelerdir?
Otonom dronlara doğru
Oysa henüz “otonom dronlar” teriminin kabul edilmiş veya yasal bir tanımı yoktur. Son derece modern ve ileri teknoloji izlenimi verdikleri için “otonom” terimi sanayi sektöründe geniş çapta kullanılmaktadır. Ancak bazı devletler nelerin otonom dron olarak tanımlanabileceği konusunda daha sıkı davranmaktadırlar. Örneğin, Birleşik Krallık bunları “ …daha üst düzey niyet ve yönlendirmeyi anlayabilecek nitelikte…” (BK Savunma Bakanlığı, İnsansız Uçak Sistemlerinde BK Yaklaşımı[i/]) olarak tanımlamaktadır. Genel olarak birçok askeri ve havacılık yetkilileri insansız hava araçlarından söz ederken bu araçların bir insanın doğrudan kontrolü altında uçtuklarını vurgulamak için “Uzaktan Kumandalı Hava Araçları” (RPA) terimini kullanmaktadırlar.
Northrop Grumman’ın “BAT” isimli dronu (daha önce Raytheon’un “Killer Bee”si) orta irtifada uçan, uzun menzillerde kullanılabilen, çeşitli sensör ve yük kapasitelerine sahip ve muhtemelen, en azından, elektronik savaş yetenekleriyle donatılmıştır. (Northrop Grumman izniyle)
Çoğu insan “otonom dronlar” kavramını son derece karmaşık yapıya sahip dronlar olarak düşünmektedir – örneğin kendi seçimlerine dayanarak hareket edebilen dronlar gibi. Askeri terminolojide bunlar genel olarak “sistem inisiyatifi” ve “tam otonomi” olarak anılır. Bu tür dronlar görevleri sırasında karşılaşabilecekleri çeşitli sorunlar göz önünde tutularak çok sayıda tepki seçenekleriyle donatılmışlardır. Bu artık bilim kurgu değildir – bildiğimiz kadarıyla kullanıma hazır durumda olan onaylanmış dron sistemleri henüz yoktur, ancak bu konudaki teknoloji büyük çapta gelişmiştir. Bu konudaki kısıtlayıcı faktör teknolojiden ziyade insanoğlunun doğrudan kontrolü altında olmayan bu ölüm saçan makinelerin kullanılmasına izin verecek veya siyasi açıdan son derece hassas olan bu teknolojiye sahip olduğunu açıkça kabullenecek siyasi iradenin var olmasıdır.
Bu teknolojinin geliştirilmesi ve bu tür teknolojiye sahip hava araçlarının onaylanmasının karşısındaki en büyük sorun bu teknolojinin güvenli olduğunu ve insanlar gibi davrandığını garanti edecek yeterli geçerlilik sistemleri geliştirmenin son derece zor olmasıdır. Pratikte, bu gibi ileri teknolojiye sahip dronlar inanılmayacak kadar çok sayıda alternatif eylem planı kombinasyonuyla programlanmayı gerektirmektedir ki bu da pilotlu hava araçlarında olduğu gibi test edilmelerini ve onaylanmalarını imkânsız kılacaktır.
Otonomi terimini “yapay zeka” ya sahip, yani öğrenebilen ve hatta yeni sorunlar karşısında kendi kendilerine yeni eylem planları geliştirebilen sistemler olarak algılayan kişiler de vardır. Bu tür bir teknolojik buluşa çok yakın olduğumuz konusunda bir bilgimiz yok; ancak birçok kişi aslında bu noktaya artık ulaşmış olduğumuzdan korkmaktadır.
Otonom dronlar (yani ortaya çıkmakta olan sorunlara karşı insanlar tarafından belirlenmiş sayısız eylem planı algoritmalarıyla programlanmış, ileri teknolojiye sahip dronlar) birçok sivil üniversite ve askeri araştırma enstitüleri tarafından sınanmaktadır. Tamamen otonom süreçlere bağlı olan “dron kümelerinin” (diğer dronların peşinden giden ve onlardan görev alan dronlar) teste tabi tutulduklarını görmekteyiz. Ayrıca pilotlu hava araçları ile çalışan otonom dronların da test edildiğini görmekteyiz - ABD Hava Kuvvetleri’nin insansız “Loyal Wingman” uçaklarından, her türlü denenmiş Poseidon P-8 deniz devriye uçaklarındaki Geniş Alan Deniz Gözetleme Sistemi (BAMS) ve insansız TRITON hava araçlarına kadar. Bunların yanısıra, pilotlu bir hava taşıtından gönderilecek ve bağımsız olarak veya “ana hava taşıtı”nın uzantısı olarak çalışacak insansız hava araçlarının geliştirilmesine devam edilmektedir. Örneğin,
son zamanlarda testleri yapılan PERDIX nano dronlarının 100 tanesi bir F-18 “ana hava taşıtı”ndan atılmıştır.
Bu tür dronların daha yüksek seviyede otonomi içinde hareket etmeleri gerekecektir. Örneğin, birçok gelişmeler ve hedefler 2014’te yayınlanan USAFRPAVectorVisionandEnablingConcepts adlı ABD planlama belgesinde ve diğer benzer belgelerde, ve hatta kolaylıkla erişilebilir videolarda da anlatılmaktadır. Otonom teknolojinin getireceklerinin - ister uçan dronlar, ister su altı araçları veya diğer ölümcül silah sistemleri olsun – askeri kuvvetler için yeni fırsatlar yarattığı açıktır.
“PERDIX” Mit Lincoln Laboratory ile birlikte ABD Savunma Bakanlığı/Deniz Hava Sistemleri Komutanlığı için geliştirilmiş bir mikro dron kümesi sistemidir. (War Leaks) ABD F-18 “ana hava aracından” 100-dronluk kümenin atılışını test eden bu videoyu izleyiniz.
Hava aracının pilotları ve operatörlerini eğitmenin uzun zaman alacağını öğrenmiş bulunuyoruz. Otonom dronların geliştirilmesiyle gelecek en büyük değişikliklerden biri de askeri kuvvetlerin - yakın gelecekte - daha önce olduğundan çok daha kısa sürede yüksek savaşma gücü geliştirebilecek olmasıdır. Dronlar için gerekli altyapıyı geliştirmenin ve bunlarla ilgili yer ekiplerini eğitmenin pilotları eğitmekten daha ucuz olmadığına dikkat çekilmelidir. Ancak sistem bir kere yerleştiği zaman dron ekipleri ve operasyon merkezleri büyük sayıda dron kullanabileceklerdir. Aynı şekilde, hala geçerli olan insanlı hava araçları yerel bir savaş veya istihbarat sisteminin merkezinde olacak, ancak dronların sağladığı destekle (yayını karıştırma –jamming- gibi destek roller, silah platformları veya çok sensörlü platformlar sistemi gibi) daha geniş kapsamlı hale gelecektir. Geçmişte bir pilotun bir uçağı uçurduğu, bir ekibin bir dronu uçurduğu geçmiş kısıtlı durumlardan bir ekibin büyük sayılarda dronu kontrol edebileceği düzeye gelmek çığır açan bir ilerleme olur.
Yüksek teknoloji ürünü bu yeni tür silah sistemleri – ve de yol açtıkları korkular – otonom dronlar ve silah sistemleri üzerinde yaptığımız araştırmaların geri planını oluşturuyor. Bu teknolojilerin ne zaman yaygın hale geleceğini kestirmek neredeyse imkansız – bu, durumlara ve devletlerin ihtiyacına bağlı olacaktır. Ancak, bu tür teknolojiler daha erişilebilir hale geliyor ve giderek olgunlaşıyor; dolayısıyla, konuyla ilgili yasal ve etik sorunların gecikmeden, şimdiden tartışılmasına başlamanın doğru olacağını düşünüyoruz.
Yasal perspektifler/b]
[u1][1i] Genel kurallar geçerlidir ama bu o kadar basit değildir[1/]
Otonom dronlar, eğer bir savaşta kullanılırlarsa, Silahlı Çatışmalar Hukukunun kurallarına tabi olacaklardır. Bu bağlamda, otonom dronlar herhangi bir silahtan, silah sisteminden veya silah platformundan farklı olarak kabul edilmeyeceklerdir. Bütün savaş araçlarında olduğu gibi, otonom dronlar da yasal hedeflere (askeri hedefler ve savaşçılar) yönlendirilmelidir ve saldırıları büyük çaplı tali zarara yol açmamalıdır.
DARPA (ABD Gelişmiş Savunma Araştırma Projeleri Kuruluşu) ile Northrop Grumman işbirliğinde geliştirilen X-47B İnsansız Hava Savaş Aracı (UCAS) halk arasında “yarı otonom” olarak adlandırılıyor. (Northrop Grumman’ın izniyle)
Ancak otonom dronların bazı özellikleri Silahlı Çatışmalar Hukuku’nun uygulanmasında sorun yaratır. Ne şekilde tanımlanırlarsa tanımlansınlar, otonom dronlar zaman ve mekan içinde ancak belirli bir dereceye kadar kendi başlarına hareket edebilirler. Saldırı sırasında silah veya silah sistemlerine (potansiyel olarak) insan müdahalesi olmaması, yasak olarak karar verme süreci içinde hangi noktada insanın mevcudiyetinin gerektiği sorusunu ortaya atıyor. Bu soruyu geçici cevaplarla geçiştirmeden önce bir saldırı kararı alınırken komutanların üstüne düşen yasal yükümlülüklerin bazı boyutlarını vurgulamamız gerekir.
- Yasa iyi niyetle hareket edecek makul bir komutanın varlığını şart koşar
Bir silahlı saldırı sırasında uygulanacak çeşitli yasal yükümlülüklerin birçoğu “savaşın belirsizliği” ilkesi ile uyumludur. Bu yasal kuralların bazıları kullanılan esnek ifadelerden dolayı, örneğin, neyin “askeri avantaj” olduğuna ve bu avantajın saldırının tümü açısından ne kadar önemli olduğuna karar verilmesinde komutanların takdir yetkilerini kullanmalarına açık kapı bırakmaktadır. Komutanlar ayrıca bu avantajın beklenen tali zarara kıyasla göreceli olarak önemini de tartmak zorundadırlar (orantılılık ilkesi).
Takdir yetkisinin kullanılmasına olanak sağlanması, bir komutanın iyi niyetle ve askeri avantajı (ve aynı zamanda tali hasarı) o anda elinde bulunan makul bilgilere dayanarak değerlendirdiği beklentisini de beraberinde getirir. Saldırı kararı alınırken saldırının planlanması ve yürütülmesinden sorumlu olan komutanlar bu saldırının koruma altında bulunan kişi veya nesnelere karşı yapılmadığını ve saldırının orantılılık ilkesini ihlal etmesinin beklenmediğini “doğrulamak” için tüm “uygulanabilir önlemler”i almak zorundadırlar. Bu takdir yetkisi konusu otonom dronlara nasıl uygulanabilir?
- İnsan eline ne kadar ihtiyaç vardır?
Otonom dronlar insanların yaptığı gibi mantık yürütme yeteneğine sahip değillerdir. İnsan bilincine de sahip değillerdir. Henüz dronlar (veya herhangi bir otonom sistem) yasalar çerçevesinde insanın yerini alamamaktadır. Bu bahsedilen şartlar, karar verme sürecine “bir insanın dâhil olduğunu” varsayar gibi görünmektedir. Saldırı kararının bir noktasında neye saldırılacağına ve hedefin ne kadar önemli olduğuna bir insanın karar vermesi gerekmektedir. Burada temel soru bu karar sürecinin ne kadar geniş olduğudur.
Bu makale 2016 yılında Norveççe basılan “Når dronene våkner: Autonome våpensystemer og robotisering av krig” (Oslo; CappelenDamm, 2016) adlı kitabın özünü oluşturan araştırmalara dayanmaktadır:
Doğal olarak zaman ve mekanın sınırlı olduğu durumlarda insanlar otonom makinelerden (ve hatta “otonom hayvanlardan”) yardım alabilirler — ancak zaman ve mekan sınırlaması nerede gerekli olur? Savaş sanatı hakkındaki her soruda olduğu gibi, burada da cevap duruma bağlı olmanın ötesine geçemez. Nüfusun çok yoğun olduğu bir ortamda (kentsel alanlar gibi) sınırlamaların daha az nüfuslu yerlere (açık denizde veya su altında) kıyasla çok daha sıkı olması kaçınılmazdır. Her yerde olduğu gibi burada da cevap ayrıntılarda gizlidir: bazı şartlarda otonom silah sistemlerinin (yasal olarak) saatlerce veya günlerce “kendi başlarına” çalışmalarına izin verilebilir; başka şartlar altında ise tüm otonomiye son vererek tamamen insan mantığına – veya hatasına—güvenmek gerekir.
Yasa ve etik
Otonom dronlarla ilgili tartışmalarda etik kavramının önemini bilmek zorundayız. Otonom dronların geliştirilmesi ve kullanımı da dâhil tüm askeri ve siyasi politikaların belirlenmesinde esas olan yasaya uygunluktur. Her ne kadar yasalar ve etik genellikle örtüşürse de, özellikle henüz yasada yer almamış yeni askeri teknolojiler konusunda önemli etik riskler olabilir. Bir başka deyişle, bu tür “gri alanlarda” etik kaygılar yasalar açısından normatif kılavuz teşkil ederek yasayı tamamlayıcı bir rol oynayabilirler. Ayrıca etik yükümlülüklerin iyi siyasal yönetişim uğruna yasal görevlerin üstüne çıkması gerekeceği durumların olabileceği de vurgulanmalıdır.
- Otonom dronlarla ilgili etik görüşler
Ölüm-kalım kararını verme görevinin insan olmayan ajanlara bırakılması otonom silahlara karşı çıkanların endişelerinden biridir. Burada temel endişe konusu bir makinanın bir insanı öldürme “kararı” vermesine izin vermekla insan yaşamının değerinin göz ardı edilmesidir. Bu açıdan bakıldığında, insan yaşamı bir makinanın asla sona erdirmeye kararı veremeyeceği kadar kıymetlidir – bir başka deyişle, otonom dronların geliştirilmesi ve kullanılması özü itibariyle etik değildir.
“Adil savaş geleneği” çerçevesinde otonom dronların “savaşın adil idaresi”(jus in bello) çerçevesinde ayırt edebilme kriterini karşılayabileceği iddia edilemez. “Savaşın belirsizliği” içinde kimin meşru olarak hedef alınabileceğine hüküm vermek askerler için bile zordur. Dolayısıyla otonom dronlarının bu tür bir ayırım yapmasına izin vermenin büyük olasılıkla sivil can kayıplarına ve kabul edilemeyecek düzeyde tali zarara yol açacağından korkulmaktadır. Bu tür silah sistemleri savaşanlarla savaşmayanları birbirinden ayırt edebilecek vasıfta olsalar bile bir otonom dronun saldırının orantılı olup olmadığını – yani bu saldırının gereksiz acılara neden olma olasılığını – değerlendirip değerlendiremeyeceği hala net değildir. Ancak gelecekte otonom dronların bu tür ayırımları yapabilmelerini sağlayacak ne gibi teknolojik becerileri olacağının belirsiz olmasının da ötesinde, bu silah sistemleri “savaşın adil idaresi” (jus in bello) şartları çerçevesinde iş göremeyeceklerse, konuşlandırılmalarının da pek mümkün olmayacağı iddia edilebilir – en azından sivillere zarar verme riskinin çok yüksek olduğu operasyonel ortamlarda.
Diğer taraftan otonom dron kullanmanın sadece etik açıdan kabul edilebilir olmakla kalmayıp askerlere tercih edilebileceği dahi iddia edilebilir. Otonom dronlar askerlerden daha fazla algısal bilgiyi işleyebilir ve dolayısıyla daha bilinçli kararlar verebilirler. Ve makinaların aldığı kararlar korku veya öfke gibi duygulardan arınmış olduğu için, askerler tarafından işlenebilecek türden savaş suçları riski de azalmış olur.
Otonom dron kullanmak insani misyonların bazı noktalarını iyileştirebilir, yardım götürülen siviller açısından daha yararlı olabilir ve askerlerin karşı karşıya olduğu riskleri azaltabilir. Tehlikeli bölgelerde arama yapılması, bomba imha veya bir evin boşaltılması gibi yüksek risk taşıyan görevlerde otonom dronların kullanılması askerlerin yaralanma veya ölüm riskini ortadan kaldırır.
Northrop Grumman tarafından BAMS – Geniş Alan Deniz Gözetleme Sistemi (Broad Area Maritime Surveillance) programının bir parçası olarak geliştirilen “TRITON” gerek kontrol altında gerekse otonom olarak iş görebilecek, ileri düzeyli bir istihbarat, gözetleme ve keşif sistemidir. (Northrop Grumman’ın izniyle)
Ancak bu tür gelişmelerin “adil savaş kuramı”nın “savaş açma hakkı” (jus ad bellum) kriteri açısından da bazı sonuçları olabilir. Askerleri savaş alanından tamamen çekerek karşı karşıya kaldığı riskleri azaltmak, savaşı çok “kolaylaştırır” ve kamusal veya etik bir taahhüt gerektirmeyen düşük maliyetli bir teknolojik girişim haline getirir.
Şu anda neredeyiz – nereye gidiyoruz?
Geleceği tahmin etmek kolay değildir, ancak otonom dronların teknolojik potansiyelleri daha şimdiden denenmekte ve geliştirilmektedir. İleride ne kadar önemli askeri teknolojiler olacakları ulusların ihtiyaçlarının ne olacağına bağlıdır, ki bunu da gelecekteki güvenlik durumu belirleyecektir. Bu duruma gelmeden önce yasal ve etik bir çerçeve oluşturulması önemlidir.
Açıkçası, otonom dronlar istenmeyen zararların sorumluluğu ile ilgili önemli yasal ve etik sorunlar ortaya atmaktadır. Bu teknolojiler etik hesap verme boşlukları yaratırlar. Otonom askeri sistemler konuşlandırıldığı zaman sorumluluğun ne şekilde paylaşılacağı açık değildir. Bu tür sorumluluk açıkları ise teknik çözümler ve yasal düzenlemelerle ele alınmalıdır. Bu nedenle NATO ve Müttefikleri arasında bu konularda uluslararası görüşmeler yapılması önemlidir. Teknolojik evrim devam edecektir ve bir otonom dron – teknolojik açıdan ne kadar ileri bir tasarıma sahip olursa olsun – bir üründür, insanın elinde bir araçtır. Bizim savaş ve savaşların nasıl yapıldığı konusundaki temel sorumluluğumuz etik olarak asla başkasına, hele makinalara devredilemez.