Uzmanlar BM'yi uyardı: Katil robotları yasaklayın!

Tamamı insansız tanklardan oluşan bir askeri birlik; kalabalık içinde isyan çıkaranı tespit eden insansız hava araçları; insanlar gibi öğrenebilen, bilgisayarla yaratılan beyinler tarafından kontrol edilen silahlar. Bunların tamamı, silah sanayinde kullanılan akıllı teknoloji ürünleri arasında yer alıyor. Birçok kişiye göre, bu gelişmeler, savaş alanında yeni bir devrimin başladığı anlamına geliyor.

Avustralya'daki New South Wales Üniversitesi'nden öğretim üyelerinden, yapay zeka uzmanı Prof. Dr. Toby Walsh, Savaş alanı olan hava, deniz, deniz altı ve kara gibi her alanda, dünya çapında ordular artık kendi başına savaşabilen silahlarını sergiliyor. diyor. Öldürme gücü bulunan makinelere karşı çıkanlara uykusuz geceler geçirten yeniliklerden biri Kalashnikov şirketinin geliştirdiği yeni bir taarruz modülü.

Bu, 7,62 mm makineli tüfek ile bilgisayar sistemine bağlı bir kameradan oluşan ve üreticilerinin söylediğine göre bir insanın kontrolü olmaksızın kendi hedeflerini belirleyebilen bir silah. Şirket, BBC'nin röportaj taleplerine yanıt vermedi, ancak Rusya'nın resmi haber ajansı Tass'a göre, bu sistem, hedefleri belirlemek ve vurma kararını alabilmek için sinir ağı teknolojileri kullanıyor.

Belirli ihtimaller dahilinde çalışan ve önceden programlanmış görevleri yerine getirebilen geleneksel bilgisayarların aksine, sinir ağı daha önceki tecrübelerinden öğrenerek, daha önceden karşılaşmadığı durumlara adapte olabilecek şekilde dizayn ediliyor. Savunma sanayinde uzmanlaşmış olan Ultra Electronics şirketinde baş teknoloji uzmanı Andrew Nanson, Eğer silahlar yapay sinir ağları ve ileri düzey yapay zeka kullanıyorlarsa, o zaman saldırı kararını neye göre aldıklarını öğrenemeyebiliriz ve bu çok tehlikeli. diyor.

Otomatik savunma sistemleri, halihazırda bir tehdidin şekli, boyutu, hızı ve güzergahı gibi özelliklerini analiz ederek, karar alabiliyor ve insanlardan daha hızlı bir şekilde uygun karşılığı verebiliyor. Peki bu tür sistemler daha önce karşılaşmadıkları bir tehditle karşılaşırlar ve yine de onlara karar verme yetkisi tanınırsa ne olur? Böyle bir durumda yapılacak hatalar, masum sivillerin hayatını kaybetmesi, askeri olmayan hedeflerin vurulması ve dost ateşi gibi çok ciddi sonuçları da beraberinde getirebilir.

Zaten uzmanlar da aslında yapay zekanın çok zeki olmaya başlayıp Terminatör filmlerindeki Skynet süper bilgisayar sistemi gibi dünyayı ele geçireceğinden değil, çok aptal olmasından korkuyor. Sheffield Üniversitesi'nden yapay zeka ve robot teknolojisi profesörü Noel Sharkey, "Şimdiki sorunlar süper zeki robotlarla değil, detayları belli kurgular haricinde sivil hedeflerle askeri hedefler arasında ayrım yapamayan aptal olanlarla" diyor. 

Bu endişelere rağmen, Kalashnikov'un son ürünleri Rusya'da denenen tek otonom ve yarı-otonom silahlar değil. İnsansız bir kara harp aracı olan Uran-9, makineli tüfeği ile 30 mm'lik havan topuna sahip. 10 kilometreye varan uzaklıklardan kontrol edilebiliyor. Platform-M savaş robotları aşırı sıcak ve soğuklarda çalışma kabiliyetine sahip. Armata T-14 süper tankını dizayn eden Andrei Terlikov, bu tankın harp alanında tam otonom tankların yolunu açacağını söylüyor.

Uralvagonzavod isimli üretici firma da BBC'nin röportaj talebine yanıt vermedi, ancak Katil Robotları Durdurun Kampanyası'ndan Profesör Sharkey, potansiyelinin farkında. T-14 Batı'dan yıllar yılı önde ve Avrupa kıtasının sınırında binlerce otonom T-14'ün bulunması fikri dayanılmaz. diyor. Ve bu tür silahları üreten sadece Ruslar değil.

Geçen yaz, ABD Savunma Bakanlığı Gelişmiş Araştırma Projeleri Kurumu, gözetleme amacıyla kullanılanı sıradan bir insansız hava aracına, gelişmiş yapay zeka yükledi ve Massachusetts'ta yapılan testte Orta Doğu'da bir köyün birebir kopyası üzerinde uçuş yapılarak, sivillerin arasında silahlı militanlar tespit edildi. Samsung'un otonom olarak ateş etme donanımına sahip SGR-A1 adlı sabit silahı Kore Tarafsız Bölgesi'nin Güney Kore kısmı sınırına konuşlandırıldı. 

İngiltere'nin neredeyse Red Arrows jeti büyüklüğündeki insansız hava aracı Taranis, BAE Systems şirketi tarafından geliştirildi. BAE aracın çok sayıda silahı uzun mesafeye taşıyabilecek şekilde dizayn edildiğini ve tam otonom unsurlar barındıracağını söylüyor. ABD'nin Sea Hunter otonom savaş gemileri tek bir mürettebat üyesi olmadan denizde uzun süreler kalmak için üretildi, hatta limana giriş ve limandan çıkışında da kendi kendine rehberlik ediyor.

Phantom Works, Northrop Grumman, Raytheon, BAE Systems, Lockheed Martin ve General Dynamics'in de aralarında bulunduğu, Batılı silah üreticileri, BBC'nin röportaj talebini reddetti. Bunu bile bu alanın tartışmalı tarafının bir göstergesi olarak algılamak mümkün. Otonom askeri teknoloji sadece insanların yürüttüğü askeri operasyonları desteklemek için kullanılabilir mi? 

Danışmanlık şirketi PricewaterhouseCoopers'ta savunma bölümünün başı Roland Sonnenberg, savaş simülasyonu, lojistik, tehdit analizi ve ofis görevlerinin daha alelade ancak aynı derecede öneme sahip işler olduğunu ve robotlar ile yapay zekanın yerine getirebileceğini söylüyor. Yapay zeka gerçek dünyaya etkili bir şekilde uygulanabildikleri ölçüde faydalılar ve ancak şirketler, tüketiciler ve halklar teknolojiye güvenirlerse ve sorumluluk sahibi şekilde davranırlarsa geniş çapta kullanılabilirler. diyor. 

Bazıları otonom silahların insan kayıplarını azaltabileceği görüşünde. Ancak savunma ve güvenlik çalışmaları için Royal United Services Enstitüsü'nden kıdemli araştırmacı Elizabeth Quintana aynı fikirde değil: 

Robotik sistemler konuşlandırmak siyasetçiler için daha çekici olabilir çünkü daha az asker hayatını kaybedecek. Bana soracak olursanız savaş insani olmayan bir aktivite ve eğer başka bir ülkeye ya da gruba uzaktan savaş başlatırsanız, size ülkenizde zarar vermenin bir yolunu bulacaklar çünkü ancak bu şekilde misilleme yapabilirler. dedi. 

Otonom silah sistemlerinin ülke içi terör faaliyetleri ve siber savaşı artırma ihtimali, belki bu yeni teknolojiye daha dikkatli yaklaşmanın bir başka nedenidir.