“Yapay Zeka” Savaşlarda İnsan Kararlarının Yerini Alıyor

Birleşmiş Milletler Silahsızlanma Araştırmaları Enstitüsü (UNIDIR) Direktörü Robin Geiss, yapay zekanın savaş alanlarında giderek daha yaygın kullanıldığını ve askerî operasyonlarda insan kararlarının rolünün hızla azaldığını belirterek, makinelerin insanları hedef alıp öldürmesine izin verilmemesi gerektiği konusunda uyarıda bulundu.

Haber Merkezi / New York’taki Birleşmiş Milletler (BM) Genel Merkezi’nde salı günü düzenlenen basın brifinginde konuşan Geiss, “Makinelerin insanları hedef alıp öldürmesine izin mi vereceğiz?” diye sordu. Askerî alanda yapay zeka kullanımının insan kararlarının yerini alma yönünde ilerlediğine dikkat çeken Geiss, bu gelişmenin beraberinde ciddi etik ve güvenlik sorunları getirdiğini vurguladı. BM Genel Sekreteri de daha önce yaptığı açıklamalarda, ölümcül kararların makinelerin kontrolüne bırakılmasını bir “ahlaki kırmızı çizgi” olarak nitelendirerek bu sınırın aşılmaması gerektiğini ifade etmişti.

Yapay zeka askerî operasyonların merkezinde

Askerî alanda istihbarat analizinden hedef belirlemeye, insansız hava aracı (İHA) operasyonlarından siber saldırılara kadar pek çok kritik süreçte yapay zekadan giderek daha fazla yararlanılıyor. Geiss, bu dönüşümün özellikle nükleer alan başta olmak üzere, insan muhakemesinin ve karar verme yetkisinin geri plana itilmesi riskini taşıdığını belirtti.

Yapay zeka destekli sistemler, savaş alanındaki operasyonların hızını artırırken hedeflerin tespit edilmesi ile saldırının gerçekleştirilmesi arasındaki süreyi de kısaltıyor. Böylece askerî güçler, daha kısa sürede çok daha fazla hedefi belirleyip ateş altına alabiliyor. Ancak Geiss’e göre, bu sistemlerin önemli bir bölümünün işleyişinin yeterince şeffaf olmaması ciddi riskler doğuruyor.

Sistemlerin nasıl karar verdiğinin anlaşılamaması; hatalı hedef tespiti, yanlış hesaplamalar ve beklenmedik askerî sonuçlar ortaya çıkmasına neden olabiliyor. Bu durum, taraflar arasındaki gerilimin istem dışı biçimde tırmanması ve çatışmaların kontrolden çıkması ihtimalini de artırıyor.

Devlet dışı aktörlere ilişkin riskler

Geiss, yapay zeka araçlarına erişimin kolaylaşmasının yalnızca devletlerin değil, devlet dışı aktörlerin de daha karmaşık askerî operasyonlar gerçekleştirmesini mümkün kılabileceğine dikkat çekti. Bu araçların operasyonel planlama, uygulama ve lojistik süreçlerinde kötüye kullanılabileceğini belirten Geiss, söz konusu risklerin uluslararası güvenlik açısından giderek daha fazla önem kazandığını ifade etti.

Askerî yapay zekânın düzenlenmesi konusunda jeopolitik rekabet ve ülkeler arasındaki siyasi gerilimlerin ciddi engeller oluşturduğunu da kabul eden Geiss, buna karşın farklı siyasi görüşlere sahip aktörlerin ortak kaygılar etrafında buluşabildiğini söyledi.

Geiss, büyük küresel güçler de dahil olmak üzere çok sayıda ülkenin, askerî yapay zekânın yol açabileceği riskler konusunda giderek daha fazla endişe duyduğunu belirtti. Bu çerçevede, dünyanın en yüksek askerî harcamalarına sahip iki ülkesi ABD ile Çin arasındaki temaslara da işaret etti. ABD’nin eylül ayında Çin’e, ulusal güvenliği tehdit edebilecek olası yapay zekâ kaynaklı olaylara karşı bir bildirim mekanizması kurulmasını önerdiğini aktardı.

Uluslararası düzenleme çağrısı

Geiss, BM Genel Sekreteri’nin askerî yapay zekanın daha sıkı denetlenmesi ve ölümcül otonom silah sistemlerine yönelik hukuken bağlayıcı bir uluslararası anlaşma yapılması yönündeki çağrılarının giderek daha fazla destek bulduğunu söyledi.

Ölümcül otonom silah sistemleri, hedef seçme ve saldırı gerçekleştirme gibi kritik işlevleri belirli ölçüde insan müdahalesi olmadan yerine getirebilen sistemleri kapsıyor. Bu sistemlerin geliştirilmesi ve kullanılması, insan kontrolünün kapsamı, uluslararası hukuk ve hesap verebilirlik gibi konularda önemli tartışmalara yol açıyor.

UNIDIR da askerî yapay zekanın güvenli ve sorumlu kullanımına yönelik uluslararası iş birliğini güçlendirmek amacıyla çalışmalarını sürdürüyor.

Yeni çok paydaşlı forum kuruluyor

Geiss, UNIDIR bünyesindeki Yapay Zekâ, Barış ve Güvenlik Mükemmeliyet Merkezi’nin perşembe günü askerî alanda yapay zeka kullanımına odaklanan yeni bir çok paydaşlı forum başlatacağını duyurdu. Geiss, BM sistemi içinde bu alana odaklanan ilk ve tek forum olacağını belirttiği girişimin, farklı paydaşlar arasında diyalog ve iş birliğini geliştirmeyi amaçladığını kaydetti.

Forumun çalışmaları üç temel başlıkta yürütülecek.

İlk başlık olan Sorumlu Sanayi Davranışı Çerçevesi kapsamında, askerî yapay zeka araçlarını tasarlayan ve geliştiren şirketlerin izleyebileceği pratik, gönüllülük esasına dayalı ilkeler oluşturulacak.

İkinci başlıkta, Yapay Zekâ Güvenlik Sözlüğü hazırlanarak özerklik, güvenlik ve emniyet gibi temel kavramların ortak bir anlayışla tanımlanması hedeflenecek. Bu kavramların farklı paydaşlar tarafından farklı biçimlerde yorumlanmasının, güven ortamını zedelediği ve uluslararası iş birliğini zorlaştırdığı değerlendiriliyor.

Üçüncü başlık ise Devlet Dışı Aktörlerden Kaynaklanan Riskler olacak. Bu kapsamda, devlet dışı silahlı grupların yapay zekayı operasyonel planlama, uygulama ve lojistik faaliyetlerinde kötüye kullanma ihtimalleri ele alınacak ve söz konusu risklerin önlenmesine yönelik yöntemler üzerinde çalışılacak.

Geiss’in açıklamaları, askerî yapay zekanın sağladığı operasyonel hız ve kapasite artışının yanı sıra insan denetimi, hesap verebilirlik ve uluslararası güvenlik alanlarında doğurduğu sorunları da gündeme taşıdı. BM bünyesinde başlatılması planlanan yeni forumun, bu risklerin yönetilmesi ve askerî yapay zekânın kullanımına ilişkin ortak ilkelerin geliştirilmesi yönünde katkı sağlaması bekleniyor.