arama

AI çoktan silahlandırıldı, bu yüzden ‘katil robotları’ yasaklamamız gerekiyor

  • paylaş
  • paylaş
  • paylaş
  • paylaş
  • paylaş
  • Nazlı Şen Nazlı Şen
  • 1 Star
    Loading...

Sözde katil robotlar üzerinde tartışmada bir çizgi ortaya çıkıyor. Birçok ülke, insan müdahalesi olmadan insanları hedef alabilecek ve öldürecek özerk silah sistemleriyle ilgili yeni uluslararası yasayı görmek istiyor. Ancak, halihazırda bu tür silahları geliştiren ülkeler, bunun yerine sözde faydalarını vurgulamaya çalışmaktadır.

Cenevre’deki 70’den fazla ülkeyi kapsayan bir BM toplantısında , ABD, Avustralya ve Güney Kore dahil otonom silahların lehine olanların her zamankinden daha çok vokal olduğu bu büyüyen körfeze tanık oldum . Toplantıda ABD, bu tür silahların askeri eylemi daha hassas hale getirerek uluslararası insani hukuk kurallarını takip etmeyi kolaylaştırabileceğini iddia etti.

Yine de, “katil robotlar” ın insancıl hukuku hiç takip edemeyeceğini söylemek son derece spekülatif. Ve politikacılar bunu tartışmaya devam ederken, mevcut askeri teknolojideki özerkliğin ve yapay zekânın yayılması , güç kullanımındaki rolü için halihazırda istenmeyen standartlar belirlemektedir.

Yapay zekâyı silahlandırmaya karşı çıkan tanınmış araştırmacıların bir dizi açık yazısı, özerk askeri sistemler hakkındaki tartışmanın kamuoyunun dikkatine sunulmasına yardımcı oldu. Sorun şu ki bu teknoloji gelecekten bir şeymiş gibi tartışılıyor. Aslında, ortaya attığı sorular, halihazırda mevcut sistemler tarafından zaten ele alınmaktadır.

Çoğu hava savunma sistemi zaten hedefleme sürecinde önemli bir özerkliğe sahiptir ve askeri uçaklar yüksek oranda otomatik özelliklere sahiptir. Bu, “robotlar” ın hedefleri tanımlamak ve birleştirmek için zaten dahil olduğu anlamına gelir.

Bu arada, mevcut teknoloji tarafından gündeme getirilen diğer önemli bir soru, devam eden tartışmadan yoksun. Uzaktan kumandalı uçaklar halihazırda birçok ülkenin silahlı kuvvetleri tarafından hedeflere bomba atmak için kullanılıyor.

 

Ancak Afganistan ve diğer yerlerdeki olaylardan , insansız görüntülerin siviller ve savaşçılar arasında net bir ayrım yapmak için yeterli olmadığını biliyoruz . Ayrıca, mevcut AI teknolojisinin, genellikle zararlı etkilerle karar verme sürecini etkileyen önemli yanlılıklar içerebileceğini biliyoruz .

Gelecekte tam otonom uçakların dronlara benzer şekilde kullanılması muhtemel olduğundan, muhtemelen uçaklar tarafından ortaya konan uygulamaları takip edeceklerdir. Yine de, mevcut otonom teknolojileri kullanan devletler, onları “yarı otonom” ya da “eski sistemler” olarak adlandırdıklarından daha geniş tartışmalardan uzak tutuyorlar.

Yine, bu “katil robotlar” meselesini gerçekte olduğundan daha fütürist görünüyor. Bu aynı zamanda uluslararası toplumun, insani hukuk çerçevesinde bu sistemlerin temel olarak uygun olup olmadığına daha yakından bakmasını da engelliyor.

Uluslararası insancıl hukukun bazı temel ilkeleri, makinelerin yetersiz olduklarını kasten insan yargıları gerektirir . Örneğin, bir sivilin kim olduğu ve bir savaşçı olan kişinin yasal tanımı, AI’ya programlanabilecek bir şekilde yazılmamıştır ve makineler , bu kararı vermek için gerekli olan şeyleri elde etmek için durumsal farkındalıktan ve yetenekten yoksundurlar .

Görünmez karar verme

Daha derinden, hedeflerin seçilmesi ve makineler tarafından potansiyel olarak saldırıya uğraması ne kadar çok olursa, bu kararların nasıl verildiğini daha az biliyoruz. Dronlar zaten önerilen hedefleri seçmek için anlaması çok zor olan “kara kutu” algoritmaları tarafından işlenen istihbarat verisine dayanıyor . Bu , hedef teklifleri sorgulamak için tetiğe basan insan operatörler için bunu zorlaştırır .

BM bu konuyu tartışmaya devam ederken, çoğu ülkenin özerk silahların yasaklanması lehine gelişmekte olan ülkeler olduğunu ve bu durumun uluslararası silahsızlanma müzakerelerine katılma olasılığının daha düşük olduğunu belirtmekte fayda var .

Bu nedenle, otonom silahlara karşı güçlü bir şekilde konuşmaya istekli olmaları, onların daha da önem kazanmasını sağlıyor. Onların, daha zengin, daha güçlü ülkelerden (özerk silahlar lehine olanlar gibi) müdahaleleri ve istilaları deneyimleme geçmişi de bize bu teknolojiden en fazla risk aldıklarını hatırlatır.

Mevcut otonom sistemler hakkında bildiklerimizi bildiğimizde, “katil robotların” insani hukukun daha az değil, daha çok, daha fazla ihlal yapacağı konusunda çok endişeliyiz. Bu tehdit sadece kullanımlarını kısıtlayan yeni uluslararası hukuk müzakereleriyle önlenebilir.

 

etiketlerETİKETLER